■ 저자
박신화 서울대학교 철학사상연구소 책임연구원
박찬국 서울대학교 철학과 교수
박충식 U1대학교(아산캠퍼스) 스마트 IT학과 교수
백종현 서울대학교 명예교수 한국포스트휴먼학회 회장
손화철 한동대학교 교양학부 교수(철학)
정원섭 서울대학교 철학사상연구소 책임연구원
하대청 광주과학기술원 기초교육학부 교수(과학기술학)
■ 소감
성인들을 위한 추천도서 목록에 있던 책인데 제목에 '규범'이란 말이 있어서 인공지능의 어떤 면을 터치하는 것인지 궁금함을 가지고 읽었습니다. 인공지능 하면 AI, 딥러닝 등 컴퓨터를 전공으로 하는 분들이 일반인들의 이해를 돕기 위해 기록한 책들이 주를 이루고 있습니다. 하지만 이 책은 철학자들의 글을 모아놓은 책입니다. 그래서 조금은 직관적으로 이해하기 힘든 부분도 있습니다. 그렇지만 우리가 우려하는 것처럼 인공지능이 인간의 능력을 넘어서서 인류가 멸절하는 사태까지는 쉽지 않겠다는 생각도 갖게 되었습니다.
인공지능을 이해하기 위해 인간을 먼저 이해해야 한다는 점이 깊이 와닿았습니다. 4차 산업혁명 시대가 도래했고 로봇과 AI가 인간의 노동력을 대체하고 있어 수많은 일자리가 사라질 것이라며 새롭게 등장하는 일자리를 바라보도록 유도하는 기사의 홍수 속에 살고 있습니다. 본질로 돌아가서 인간이란 어떤 존재인가를 철학적으로 설명한 글에서 감정이란 것만 봐도 인공지능이 어떻게 구현할까 궁금해졌습니다.
인공지능은 사람이 무기물을 가지고 로직에 의해 사람과 같은 모습으로 가까이 가는 것입니다. 감정을 가진 척은 할 수 있겠지만 그렇다고 감정이 있는 것이라고 하기는 어렵습니다. 인간과 같은 인공지능은 그래서 어려울 것입니다. 한편으로는 왜 인간이 인간을 위해서 만드는 인공지능이 꼭 사람과 같아야 하는가도 공감이 되었습니다.
약간은 충격적인 부분은 글로벌 IT업체인 아마존, 페이스북, 구글 등에서 로봇에 의해 자동으로 선정적이거나 잔혹한 장면을 제거하고 있다고 하면서도 크라우드 워커라는 저개발국가 사람들을 시간당 2달러의 저임금으로 그런 작업을 하게 하고 있었다는 부분이었습니다. 겉으로는 좋은 점을 부각하고 비가시적인 부분에서는 그런 불평등한 계약조건에서 정신적으로 문제를 야기할 수 있는 일을 시키고 있었던 것입니다.
이 책은 4차 산업혁명 시대를 준비하는 이 시대에 인공지능이 어떤 것이고 이를 위해 우리가 무엇을 생각해보고 준비해야 하는지 가이드를 주는 좋은 내용을 담고 있습니다.
■ 책에서 발췌
37페이지) 과연 인공지능이 일종의 인간으로 간주될 수 있는가? 도덕적 또는 법적 행위자로 볼 수 있는가? 이 물음에 대한 답의 실마리는 '인공지능이 무엇인가?'라는 물음보다는 '인간이 무엇인가?'라는 물음의 답에서 찾는 편이 수월할 것이다.
44) 아리스토텔레스(BC384~322)는 자기결정은 합리적 선택으로서 "이성에 따르는 영혼의 활동"중 하나라고 보았다. 자기결정은 혼자 사는 세상에서가 아니라 더불어 사는 세계에서 그 온전한 의미를 갖는 마음의 작동 방식 중 하나이다.
49) 그러므로 자유의지는 옳음과 그름에 대한 판단력을 갖춘 당위능력이다. 그러니까 옮음과 그름에 대한 가치판단 능력이 없는 것에 대해서 의지의 자유를 말하는 것은 의미가 없다.
72) 자유주의자 로크의 논변에 따르면, 차별적인 사유재산이 그 차별성에도 불구하고 정당한 것은 각자의 노동에 의해 형성된 재산의 사유화는 인류의 공동 자산을 감소시키는 것이 아니라, 오히려 '인류의 전체 자산이 증대하기 때문'이다. 75) 사회 구조와 사회적 제도에 의해 근로 외적 요인으로 발생한 부는 일차적으로 '사회적 부'에 속하는 것인 만큼, 이를 재원으로 국미 기본소득제도나 그에 상응하는 새로운 제도를 수리 시행함과 아울러 개인별 소득 상한제를 실시함으로써 필요 이상의 부가 특정인의 사유가 되어 사물의 가치를 왜곡하고, 인간 가치를 퇴락시키는 사태를 방지해야 한다.
104) 그러나 이들이 주장하는 것처럼 인간과 다른 동물 사이의 경계가 허물어졌다면 이러한 사태는 인간에게보다는 동물에게 더 큰 모욕일 것 같다. 이는 겉으로 나타나는 행위만을 기준으로 하여 평가할 때 동물은 인간보다는 훨씬 더 도덕적으로 살기 때문이다.
105) 인간 대부분은 악마도 천사도 아닌 어중간한 상태로 살고 있지만 이들에게도 악마와 천사의 속성이 함께 존재한다. 이렇게 악마와 천사의 속성을 함께 갖춘 존재는 아마도 인간뿐 일 것이다.
112) 단적으로 말해 동물은 기계와는 다른 통일성을 가지며 이렇게 동물에 특유한 통일성은 그것이 외부의 동력에 의하지 않고 스스로의 본능적인 행동을 통해 자신의 통일성을 유지하려는 자기성을 갖는다는 데서 비롯된다.
116) 그러나 인간은 사회가 주입하는 가치를 비판하면서 새로운 가치를 모색할 수 있다.
120) 우리 인간은 욕망에 사로잡히면 결핍감으로 인해 괴로워하고, 욕망이 충족되면 권태로 인해 괴로워하는 골치아픈 존재다.
121) 윤리의식이라는 것도 인간이 원래부터 윤리적이지 못하기 때문에 생기는 것이다. 인간의 생각이나 행동이 원래부터 항상 윤리적이었다면 윤리의식도 없었을 것이다.
145) 여러 분야에서 딥러닝이 놀라운 성과를 내고 있음에도 딥러닝이 내놓는 결과에 대한 설명이 있어야 한다는, 당연한 필요 때문에 설명 가능한 인공지능(eXplainable Artificial Intelligence, XAI)에 대한 연구가 활발히 이루어지고 있다.
160) "인간은 본성에 따라 인공물을 만들고, 그 인공물에 의해 본성적 변화를 경험하는 것이 된다. 도구를 만들어 사용하는 존재가 바로 그 도구에 의해 존재적인 변화를 경험하는 것이 바로 호모 파베르의 역설이다."
187) 인간은 정서적 교감 없이 살 수 없는 존재다. 지금까지는 이것을 타인과의 관계에서 찾았다. 이제 기술은 우리로 하여금 나를 주시하고 부정하는 타인과 대면할 필요 없이도 각자의 정서적 문제의 해를 찾을 수 있는 가능성을 얘기하게 한다.
195) 오랫동안 인공지능 연구 분야에서 언급되어온 모라벡의 역설(Moravec's paradox)에 따르면, 인간에게 어려운 것은 인공지능에게 쉽고 인공지능에게 어려운 것은 인간에게 쉽다.
204) '토픽 트렌딩(topics trending)'이라고 불리는 페이스북의 뉴스 선택 메커니즘도 인간을 필요로 하는 점에서 다르지 않다.
208) 이런 방식의 노동은 보통 '크라우드 워크(crowd work)' 또는 '크라우드 소싱(crowdsourcing)'으로도 불리며, 이런 일을 하는 노동자는 '크라우드 워커(crowd worker)'라고 불린다. 크라우드 워커와 기업 고객을 중개하는 온라인 노동시장과 같은 플랫폼들이 많이 출현했는데, 가장 유명한 것은 아마존 미케니컬 터크(Amazon Mechanical Turk, AMT)나 크라우드플라워(Crowdflower)다."
215) 이런 맥락에서 과학기술학자 주디 와이즈먼(Judy Wajcman)은 현재의 디지털 기술은 더 나빠진 일자리를 많이 만드는 식으로 발전하고 있다고 지적한다."
218) 혁신을 앞세우면서 유지, 보수, 관리, 돌봄과 감정 노동을 비가시화하는 기술문화 속에서 우리는 '루프 속의 프레카리아트'를 착취하면서 이들을 비가시화하고 있는 것이다. 이 돌봄 노동이 없다면 인공지능 기술이 작동할 수 없는데도 이들의 노동을 인정하려 하지 않고 인간을 대신하는 인공지능의 노동만 주목하고 지원하려는 것이다.
227) 그러데 이제는 그 관계를 정확하게 파악하지 못해도 새로운 상황에서 해답을 얻을 수 있게 되었다. 미국의 기술문화 잡지 <와이어드 Wired>의 편집장이 빅데이터 기술에 대해 설명하면서 '이론의 종말'을 언급한 적이 있는데, 그 주장은 인공지능에도 상당 부분 적용될 수 있다. 사실상 인공지능은 블랙박스인 셈이다.
239) 인공지능이 현재 수준의 번역만 계속 제공한다고 해도, 외국어를 배우는 노력을 해야 할 동기는 줄어들 수밖에 없다. 따라서 의사소통 수준의 외국어 교육과 관련하여 그 의미와 정당성이 무엇인지에 대한 고민이 필요하다.
245) 인공지능의 힘이 큰 만큼 기술을 개발, 관리, 사용하는 사람들에게 더 엄격한 책임을 물어야 한다.
265) 그런데 알고리즘이 작동하는 컴퓨터 연산 과정은 근본적으로 비가시성(invisibility)을 지닌다는 점에서 인공지능 윤리에서 전문가 윤리는 특히 중요하다.
댓글