[TED 강의]인공지능 공학을 신설하기 위해 AI의 미래에 대한 6가지 윤리적 질문(210101)

인류학자인 제네비브 벨(Genevieve Bell) 교수가 AI의 미래에 대해 강의한 내용입니다. 우리 주변에서 볼 수 있는 엘리베이터를 예로 들면서 AI의 미래에 대한 큰 그림을 보여주고 있습니다. 

호주 시드니에는 1 Bligh Street라는 2011년에 준공된 건물이 있습니다. 이 멋진 건물에 설치되어 있는 엘리베이터는 우리가 알지 못하는 사이에 이미 일종의 알고리즘, 즉 초기 AI라고 할 수 있는 것을 채용하고 있습니다. 우리가 엘리베이터에 접근해서 버튼을 누르기 전부터 여러 대의 엘리베이터는 가장 효과적인 방법을 찾기 위해 전체 알고리즘이 작동합니다. 그리고 버튼을 누르는 순간 전체 시스템의 일부분이 되는 것입니다. 

AI와 우리 주변에 있는 만들어진 세계와 연결하는 것은 쉬운 일은 아닙니다. 하지만 이미 우리 주변에 AI는 여기저기 건물이나 시스템에서 볼 수 있습니다. 지난 200년 이상의 산업화 과정에서 AI는 시스템 레벨에서 쉽게 확대되어 왔습니다. 기술을 개발하고 규모를 확대하고 그리고 기술혁명이 뒤따르는 식으로 전개되었습니다.

기계화, 자동화 및 디지털화에 대한 얘기는 모두 기술의 역할과 중요성에 대한 것입니다. 이런 기술적 변화(technological transformation)에 대한 이야기는 기술에 대해 집중하고 스케일을 확장하는 것이 당연하고 예측할 수 있는 것으로 간주합니다. 하지만 여기에서 더 필요한 것이 있습니다. 

2017년 9월에 호주 국립대학(Australian National University)에 3AI Institute를 설립했습니다. 미션은 AI를 안전하고, 지속 가능하며 규모 확장성을 가질 수 있도록 하는 엔지니어링의 새로운 분야를 만드는 것입니다. 21세기에 새로운 공학분야를 개척하는 것을 실험교육 프로그램을 통해 실현하고 있습니다. 셰익스피어의 출생지나 Great Barrier Reef, 호주의 자동화된 광산과 같은 것을 리서치하고 이론화하여 사이버네틱(인공두뇌학) 시스템의 복잡성에 주목하면서 실현합니다. 우리는 새로우면서 유용한 것을 만들어가고 있습니다. 비판적으로 사고하고 행동하는(critical thinkers and critical doers) 다음 세대를 양성하는 것입니다. 

우리가 AI에 대해 가지고 있는 생각을 자유롭게 하기 위해 협업해서 커리큘럼을 만들며 적극 활동하고 있지요. 여기에는 서로 다른 얘기할 거리와 가능성이 열려 있습니다. 

바원강(Barwon River)에는 일종의 물고기 잡이용 댐(fish weirs)이 있습니다. 호주에서 원주민들이 사용했던 가장 크고 오래된 것입니다. 1.8킬로미터에 이르는 돌로 만들어진 댐으로 어망처럼 다양한 물높이에서도 물고기가 잡힐 수 있도록 되어 있습니다. 크고 작은 물고기들이 잡히면서도 흐르는 물에 고기들을 보관 가능합니다. 이 물고기 잡는 방법은 원주민들을 먹일 수 있는 확실한 방법이 되어 원주민들이 모이고 문화를 형성할 수 있었습니다. 

중요한 것은 물고기 잡는 방법 그 자체가 아니라 그런 방법을 생각해내는 시스템입니다. 기술적인 지식이 있어야 되고, 문화적 지식 그리고 생태학적 지식이 있어야 합니다. 이 물고기잡이용 댐은 고고학자들에 의하면 40,000년이 되었다고 합니다. 매우 오래되었지요. 이것이 큰 영감과 도전을 주었습니다. 우리가 미래에 대해 질문하기 위한 명확한 프레임워크가 필요하다고 생각했습니다. 질문은 이미 만들어진 답이 있는 것은 아닙니다만 질문하는 자체가 중요합니다.

AI를 안전하고, 지속 가능하면서 규모 확장성을 가지도록 하기 위해 6가지 질문을 생각했습니다. Autonomy, Agency, Assurance, Indicators, Interfaces 및 Intentionality입니다. 

첫 번째, 시스템이 자동화(Autonomy)되었냐는 질문입니다. 즉 지시가 없어도 스스로 작동하느냐입니다. Bligh Street 건물의 경우 완전 자동화는 아닙니다. 그래도 위아래로 움직이는 측면에서는 자동화입니다. 

두 번째는 시스템이 대리할 수 있는 것(Agency)을 가졌느냐는 질문입니다. 시스템이 특정 조건에서 특정한 행위를 하지 못하도록 제어하고 한계를 두는 기능을 가지고 있는가죠. 엘리베이터를 보면 비상시에 작동할 수 있는 붉은색 keyslot이 있습니다. 여기에 비상시나 정비 시에 키를 꽂고 작동하면 모든 시스템에 우선하게 됩니다. 이것이 AI 시스템에서는 어떻게 될까요. 디지털 키를 사용할지 물리적인 키를 사용할지 그리고 누가 이러한 키를 사용할까요. 그리고 엘리베이터 안에 있는 우리가 어떻게 비상상황이라는 것은 인지할까요. 

세 번째는 성능 보장(Assurance)에 대한 부분입니다. 안전, 보안, 신뢰, 리스크, 책임, 관리, 윤리, 공공정책, 법, 규제 등에 대한 부분을 어떻게 고려할까요. 시스템이 안전하게 잘 작동하고 있다는 것을 어떻게 알 수 있을까요? 

네 번째는 AI에 의해 작동되는 시스템에 우리와의 인터페이스는 무엇이 있을까라는 질문입니다. AI가 사람에게 이야기하고, AI간에 이야기를 하는 방식입니다. 기술이 발달했다고 해서 우리의 삶의 방식이 한순간에 바뀔 수는 없습니다. 자동차, 엘리베이터, 전력망, 교통신호등 그리고 가정에 있는 여러 기구들은 우리에게 어떤 의미를 가질까요. 

다섯 번째는 AI에 의한 시스템이 잘 작동하고 있다는 Indicator는 뭐냐는 질문입니다. 지난 200년의 산업화 시대에 우수한 시스템의 두 가지 조건은 생산성과 효율이었습니다. 21세기에는 이를 좀 더 확장하고 싶습니다. 시스템이 안전한가, 지속 가능한가 그리고 책임을 지는가입니다. 누가 이런 것들을 판단할까요. 사용자들은 이런 시스템이 조절되고 관리되어 만들어지는지 알고 싶어 합니다. 

여섯 번째 가장 중요한 질문은 시스템이 어떤 목적을 위해 설계되었냐는 질문입니다. 시스템이 작동하는 세계는 어떤 곳이며 그 세계는 어떻게 생각되었는지 그리고 그 세계는 우리의 현실 세계와 어떤 관계가 있는지입니다.

이 질문들에 명확한 답을 하기는 어렵습니다. 프레임을 만들고 상상력을 발휘해야 합니다. 이런 질문을 통해 우리가 올바른 길로 갈 수 있고 새로운 공학분야를 만들어 가는데 도움을 줍니다. 하지만 이런 중요한 질문만으로는 충분치 않습니다. 

이 질문들은 모두 통합해서 하나로 만드는 과정이 필요합니다. 그리고 AI를 어떻게 하나의 시스템으로 생각하고 경계는 어디며 어떻게 둘 것인지 관심이 있습니다. 특히 이 부분이 아주 중요합니다. 

이 점에서 우리는 1940년대 시작된 일을 통해 뭔가를 얻을 수 있었지요. 1944년에 인류학자인 그레고리 베잇선(Gregory Bateson)과 마가렛 미드(Margaret Mead)는 수학자인 노버트 비너(Norbert Wiener)와 몇 번의 걸쳐 대화를 나눴는데 오늘날 인공두뇌학에 대한 메이시 컨퍼런스(Macy Conferences on Cybernetics)라고 알려졌습니다.

1946년부터 1953년 사이에 10번에 걸쳐 인공두뇌학이라는 제목으로 열렸습니다. 노버트 비너에 의해 정의된 인공두뇌학(Cybernetics)은 고등 컴퓨터 기술에서 제어와 통신에 대한 문제를 다룰 수 있도록 언어와 기술을 정의합니다. 인간과 컴퓨터 그리고 폭넓은 생태적 세계 을 전체적으로 하나의 시스템으로 간주하고 이들 사이의 관계를 생각해야 한다는 것을 인공두뇌학은 알려줍니다. 

메이시 컨퍼런스 참석자들은 지능과 학습에 대한 아이디어를 가지고 우리의 마음이 어떻게 작동하는지, 그리고 우리의 미래를 위한 기술의 역할이 무엇인지 관심이 있었습니다. 하지만 AI에 대해 이야기가 되면서 이 컨퍼런스는 잊혀졌습니다. 

이 컨퍼런스에서 우리가 얻을 수 있는 것은 문화와 기술 그리고 환경을 모두 고려해야 한다는 점입니다. 3AI Institute에서 핵심적인 부분이 이러한 시스템적 사고입니다. 지난 3년간 이 일을 위해 다양한 사람들이 모였습니다. 인류학자, 시스템 환경 공학자, 컴퓨터 과학자, 핵물리학자, 사진 저널리스트, 정책과 표준 전문가들이 함께 하고 있습니다. 

* 1 Blight Street in Sydney 

from Wikimedia Commons

* Great Barrier Reef

* ethical questions

* cybernetics

* pedagogy

* heady mix