[1043]가장 인간적인 미래_인간과 인공지능의 질서를 찾는 윤송이와 5명의 전문가 대담

윤송이 씨가 인공지능 시대에 윤리, 교육, 철학, 공학, 사회 분야에서 세계적인 석학 다섯 명과 인터뷰했다.
인터뷰한 내용을 정리해서 《가장 인간적인 미래》로 출간했다.
아직 챗GPT가 인공지능과 인간을 더욱 가깝게 만들기 전에 나왔다. 
만약 챗GPT 이후에 인터뷰가 진행되었다면 훨씬 더 진지한 대담이 되었을 거라는 상상을 한다. 

가장 기억에 남는 점은 인공지능과 윤리에 대해 노력하는 부분이다. 
인공지능을 운영하게 진화 발전시키는 거대 IT 기업들이 있다. 
기업 내에서 인공지능을 만들어 내는 역할은 사람이 한다. 
인공지능이 어떤 분야에서, 어떤 기능으로, 인간의 삶에 기여하느냐는 결국 사람이 결정한다. 

구글이나 메타와 같이 사람들이 많이 이용하는 플랫폼을 가진 기업은 윤리보다 주주이익을 우선한다. 
그곳에서 일하는 컴퓨터 전문가들이 있다. 
자신이 하고 있는 일이 세상에 윤리적, 도덕적인 문제를 야기할 것인지 민감하지 않다. 
결과적으로 청소년들에게 유해하거나, 사람들에게 나쁜 영향을 주는 환경을 조성한다. 
사람들의 비난이 시작되면 슬그머니 꼬리를 내린다. 

이런 문제를 조기에 방지하기 위한 활동이 '임베디드 에틱스'다. 
컴퓨터를 전공하는 학생들이 들어야 하는 전공과목 모두에 윤리적인 고민을 하는 시간을 넣는다. 
졸업해서 기업에서 뭔가를 만들고 판단해야 할 때 윤리적으로 올바른 선택을 할 가능성이 훨씬 높다. 
'임베디드 에틱스'를 우리나라 컴퓨터 관련 학과에서 진지하게 참고하면 좋겠다. 

책의 내용이 적고, 대화 형식이라서 어렵지 않게 전문가들의 식견을 들을 수 있는 책이다. 
아래는 책에서 남기고 싶은 문장을 인용했다.

---

제가 말씀드리는 이 '새로운 세대들'은 컴퓨터 공학과 인문학을 모두 깊이 이해하는 정치가, 엔지니어 등의 실무자를 의미합니다. (...) 즉 우리 다음 세대들이 사업가든, 정치가든, 엔지니어든, 교사든, 그 무엇이 되더라도 우리가 그들을 위해 지금 개발해내는 교육 수준과 체계는 예전보다 더 나은 것이어야 한다는 것입니다. 기술과 함께 인간을 중심으로 더 균형을 맞춰야 해요. (60~61)

인공지능과 관련된 업무를 할 컴퓨터 공학도들은 특히 사람에 대한 이해가 필요하다. 
인문학은 어떤 분야에서 일을 하든 기본적인 소양이 되야 한다. 
시험을 위한 인문학이 아니라 자신을 돌아보고 사람에 대한 이해와 공감과 신뢰를 위한 것이다. 

 

악이란 사람들이 선하게 행동하지 않을 때, 좋은 정책이 부재할 때, 올바른 견제와 균형이 무너질 때 나타나는 것입니다. 기계의 가치는 독립적으로 존재하지 않습니다. 기계의 가치란 인간이 만드는 것, 즉 인간이 지닌 가치를 반영하는 것입니다. (64)

견제와 균형이 유지될 때 사회나 국가가 건강하다.
구성원들이 서로를 신뢰하며 발전할 수 있다. 
인공지능도 결국은 인간이 만들어 낸다.
선한 인간의 행동으로 인공지능의 가치를 높일 수 있다.  

 

예를 들어 대만과 영국에서 시도되었던 '규제 샌드박스'라는 것이 있습니다. 기업이 새로운 기술이나 적용 방식을 개발한 뒤 정부나 공공 정책 규제 기관에 먼저 찾아가서 이렇게 말하는 거죠. (...) 그러면 정부는 이렇게 말합니다. "그렇다면 우선 당신들이 제안한 형태의 규제를 적용한 상태로 출시해 2~3년 정도 시도해보도록 합시다. 그리고 혁신가로서 초기 지분을 확보한 후, 2~3년 후에 어떤 효과가 나타났는지 확인해주십시오." (...) 기업이 일단 자신들이 원하는 방식대로 하다가 나중에 규제 기관이 제동을 걸 때까지 기다리는 것과는 다른 방식입니다. (120~121)

규제 샌드박스 방식은 기존에 없던 비즈니스 모델을 만들어냈을 때 유용하다. 
규제 당국에서 가보지 않을 길에 대해 규제를 앞세우지 말아야 한다.
기업가의 입장에서 '규제 샌드박스'를 활용해 자율적인 규제방안을 제시하고 일정기간 지켜보고 개선해 가야 한다. 

 

임베디드 에틱스에서 우리가 하는 일은 학생들이 수업을 하나 듣고 나서 '이제 됐어'라고 생각하지 않도록 하는 거예요. 저희는 윤리적 추론 개념을 여러 개의 다른 수업 각각에 장착시키려고embed 하는 것입니다. 그러니까 기본적인 생각은 이래요. 누군가 컴퓨터 과학자가 되기 위해 대학 시절에 컴퓨터 과학 전공 강의 10개를 듣는다고 가정해보죠. 저희가 희망하는 건 그 사람이 수강해야 할 모든 수업에서, 해당 수업 내용과 관련된 윤리적 측면을 논의하는 구조를 갖추는 것입니다. (185)

많은 MIT 학생들이 소프트웨어 개발자가 될 것이고, 인스타그램 같은 프로그램을 만드는 회사에 취직할 것이기 때문이죠. MIT의 기술 윤리 교육의 핵심은, 페이스북 등의 기업에 취직하는 학생들이 자신이 하게 될 작업의 결과를 충분히 생각하도록 돕고 자신이 개발하는 기술이 가져올 결과에 대해 일종의 윤리적 감각을 지니도록 하는 것입니다. (247)

이 책에서 얻은 가장 큰 소득이 '임베디드 에틱스'가 추구하는 바다. 
인공지능 시대에 컴퓨터 공학을 배우는 학생들이 청취하는 모든 과목에 윤리적 추론 기회를 심어두는 거다. 
반복적인 연습으로 사회에 진출해서 자신의 일에서 윤리적으로 올바른 판단을 할 수 있는 밑거름이다. 

 

저희가 임베디드 에틱스를 통해 학생들이 생각해보도록 권유하는 내용은 바로 질문을 하게 하는 것입니다. 이해관계자가 누구일까? 성공 여부는 어떻게 평가할까? 성공을 어떻게 정의해야 할까? 이렇게 질문하는 것 자체가 중요합니다. 이러한 질문들이 대화를 시작하게 하고, 이 대화가 영향력을 발휘할 수 있기 때문입니다. (191~192)

질문을 하기 위해서는 자신만의 생각의 기준이 있어야 한다.
질문을 하기 위해서는 학습하고 들어야 한다. 
질문을 할 때 상대방에게 귀 기울일 수 있다. 
질문을 할 때 대화가 시작된다. 

 

그러한 기술적 설정이 가능해진 수십 년 후 미국 대선에서 정치적 기조를 지나치게 양극단으로 갈라놓고 상호 간 대화조차 불가능하게 만들어버리는 에코 체임버echo chambers가 등장할 줄 누가 알았을까요? (206)

손 안의 스마트폰으로 뭐든 원하는 것을 청취하고 볼 수 있는 시대다. 
플랫폼들은 소비자의 취향에 맞는 콘텐츠를 추천 시스템이라는 이름으로 제공해 체류 시간을 늘려 광고비를 번다. 
사람들은 자신도 모르는 사이에 확증편향에 빠져 에코 체임버에 갇혀 버린다. 
사회적으로 의견이 다른 집단의 간격을 더욱 멀어지게 만든다. 

---

독서습관1043_가장 인간적인 미래_윤송이_2022_웨일북(250423)

---

■ 저자: 윤송이

1996년 카이스트 전기 및 전자공학과를 졸업하고 2000년 미국 매사추세츠공과대학 대학원에서 컴퓨터 신경과학 뇌·인지과학전공으로 박사학위를 받았으며, 2020년 미국 산타클라라대학 로스쿨을 졸업했다. 

맥킨지앤컴퍼니와 SK텔레콤을 거쳤고, 2008년 엔씨소프트 부사장으로 합류한 이후 현재 엔씨소프트 최고전략책임자 겸 엔씨웨스트 홀딩스 대표, 엔씨문화재단 이사장으로 재직하고 있다.