[791]권력과 진보②_디지털 유토피아와 인공지능의 한계 그리고 민주주의 위협

<권력과 진보> 후반부는

앞에서 언급했던 거대기업에 유리한 환경을 어떻게 노동자의 한계생산성을 높이는 방향으로 만들어 갈 것이냐에 대해 다양한 각도에서 설명하고 있다. 각 장은 전혀 새로운 내용을 언급하고 있지만 결국은 다시 불평등 해소를 위한 우리의 '선택'의 결과라는 것을 강조한다.

특히 인상 깊었던 부분은 10장이다.

'민주주의 무너지다'라는 소제목으로 중국이 테크놀로지를 이용해 구체적으로 인민들을 어떻게 통제하는지 설명하고 있다. 중국 정부에 불리한 정보는 인터넷에서 유통되는 것을 금지하고 순식간에 사라진다. 인민들의 신용을 평가하고 안면인식을 통해 반정부적 행위를 미연에 방지한다. 감시와 억압용 도구를 화웨이를 통해 해외에 판매했다고 하는데 미국이 화웨이를 제재한 이유에 이것도 포함되지 않을까 생각해 본다.

마지막 장에서는

테크놀로지의 방향을 제대로 잡기 위한 제언을 담고 있다. 현실적으로 쉽지 않은 것들이지만 하버마스가 제안한 '공론화'를 통해 의견을 수렴하고 최선의 방향을 잡아간다면 조금씩 바로잡아 갈 것이다.

<권력과 진보>는 독자에게

기술이 인류의 발전에 어떻게 기여할 수 있는지, 그리고 사회적 경제적 정치적 걸림돌이 어떤 것들이 있는지 큰 틀에서 보여준다. 처음부터 끝까지 독자에게 깊은 통찰을 주는 책이다. 두 번 이상 읽어볼 가치가 있는 책이다.

아래는 책에서 인용한 내용이다.

---

6장 진보의 피해자

기계는 자동화로 노동자를 대체하는 쪽으로도 쓰일 수 있고 노동자의 한계생산성을 높이는 쪽으로도 쓰일 수 있다. 후자의 사례는 수차와 풍차였다. 전에 손으로 했던 일의 일부를 대체했지만 값이 싸진 곡물과 모직물을 처리하는 데 필요한 노동력의 수요를 늘렸고, 새로운 업무가 창출된 것도 이러한 노동 수요 증가에 일조했다. (275~276)

위원회는 수혜 조건을 더 엄격하게 하고 구빈원의 여건이 지내기에 훨씬 더 안 좋아지게 해야 한다고 제안했다. 가난한 사람들이 구빈원에 가느니 노동시장에 나가 일하는 쪽을 택하게 만들기 위해서였다. (278)

이와 같은 장밋빛 견해는 더 폭넓게는 "휘그 사관"으로 알려진 역사 해석을 반영하며, 스스로의 동력으로 작동하는 생산성밴드왜건에 대해 더 현대적인 경제학의 가정과도 일맥상통한다. 두 관점 모두 종국에 진보는 다수 대중에게 이로우리라는 개념에 토대를 두고 있다. (284)

앞에서 묘사한 향상 중 어느 것도 저절로 오지 않았다. 도시가 깨끗해지고 생산성의 이득이 더 폭넓게 공유된 것은 자동적으로 나타난 결과가 아니라 정치적 경제적 개혁과 투쟁의 산물이었다. (287)

기술 변화 자체만으로는 임금을 높이는 데 충분하지 않다. 노동자들이 고용주에 맞설 수 있는 협상력을 갖추어야 하는데, 이것도 19세기 후반기에 이루어졌다. 산업이 확장되면 기업들은 시장 점유율과 노동자 확보를 놓고 경쟁한다. 노동자들이 단체 협상을 통해 더 높은 임금을 획득하기 시작했다. (295~296)

1839년에 차티스트 운동 지도차 J. R. 스티븐스는 "보편참정권의 문제는 포크와 나이프의 문제이고 빵과 치즈의 문제"라며 "내가 의미있는 보편참정권은 땅에서 일하는 모든 사람이 좋은 코트를 걸칠 수 있고 좋은 모자를 쓸 수 있고 좋은 지붕이 있는 거처에 가정을 꾸릴 수 있고 좋은 식사를 상에 올릴 수 있는 것"이라고 말했다. (297)

애드윈 채드윅 (출처: Wikimedia Commons)

채드윅은 대안적인 테크놀로지를 선택해 더 나은 하수 시스템을 건설하면 청결과 위생을 크게 개선해 질병을 획기적으로 줄일 수 있다는 점 또한 분명히 밝혔다. 각 가정에 깨끗한 물을 지속적으로 공급함으로써 분변을 물로 씻어내려 파이프를 통해 안전하게 처리될 수 있는 장소까지 옮긴다는 것이 그의 아이디어였다. (301)

철도가 인도에 불러온 것은 경제적 근대화가 아니라 영국의 경제적 이익과 인도인에 대한 통제 강화였다. (304)

---

7장 투쟁으로 점철된 경로

전기 동력의 도입으로 생산성이 막대하게 높아지면서, 이는 제조업 이외의 분야에서도 노동력에 대한 수요가 늘고 경제가 팽창하는데 결정적으로 기여했다. 또한 이렇게 재조직된 공장에서 전기가 사용된 방식은 노동자들에게도 상당히 득이 되었다. (323)

전기 동력의 사용과 함께 제조업에서 엔지니어와 화이트칼라 노동자의 역할이 부상한 것이다. 바로 이들이 생산 공정의 재조직화를 담당했고, 이는 생산성의 향상 면에서도, 노동자들에게도 더 나은 결과를 가져왔다. (324)

이타주의에 입각해 내린 결정은 아니었다. 포드가 이러한 조치를 도입한 이유는 더 높은 임금이 노동자들의 이직률을 낮추고 파업 가능성을 줄이며 어셈블리 라인의 조업 중단으로 발생하는 비용을 막고 나아가 생산성을 높일 수 있으리라고 보았기 때문이었다. (334)

(...) 참가자들은 스칸디나비아식 사회 민주주의 시스템의 기본 요소들에 대해 합의했다. 합의된 요소 중 가장 중요한 것으로는 산별 임금 산정, 수익과 산출 증가분을 노동자와 공유, 재분배 프로그램과 사회보험 프로그램의 획기적인 확대, 정부 규제의 확대 등이 있었다. (339)

서구 세계에서 전에 없이 공유된 번영의 시대가 펼쳐지고는 있었지만 적어도 세 개의 집단은 정치적 권력과 경제적 이득 모두에서 배제되었다. 여성, 소수자(특히 미국의 흑인) 그리고 이민자다. (361~362)

---

8장 디지털 피해

이 시기에 기업계는 노동계와 규제 당국에 맞서 전보다 더 조직적으로 대응했다. 그리고 더 중요하게, 이윤 추구와 주주 가치 극대화가 공공선이라는 새로운 비전이 사회의 상당 부분에 걸쳐 주된 조직 원리가 되었다. (369~370)

지대의 공유가 잠식된 것과 새로운 테크놀로지가 자동화에 초점을 두게 된 것이 노동자의 소득 감소와 불평등 증가를 추동한 주요인이었지만 다른 요인도 있었다. 이를테면 생산 시설의 해외 이전도 노동 조건 악화에 일조했다. (377)

사실 세계화와 자동화는 서로 시너지를 낸다. 둘 다 노동 비용을 줄이고 노동자를 대체하려는 동일한 목적에서 추동되며 둘 다 1980년 이후 노동 현장과 정치적 장 모두에서 길항 권력이 약화되면서 일어났다. (379)

밀턴 프리드먼 (출처: flickr)

프리드먼 독트린의 영향을 가장 잘 볼 수 있는 곳을 꼽으라면 경영대학원일 것이다. 1970년대에 경영자의 "전문직화"가 시작되면서 경영자 중 경영대학원을 나온 사람 수가 극적으로 증가했다. (...) 경영대학원 교수진 중 많은 수가 프리드먼 독트린을 받아들였고 이 비전을 야망 있는 경영자들에게 전파했다. (392)

거대 기업이 빠르게 덩치를 불린 것은 굉장히 폭넓은 함의를 갖는다. 많은 경제학자들이 이제 거대 기업들이 심지어 더 큰 시장 권력을 행사하고 있으며 그 권력이 경쟁자의 혁신을 저해하고 자신의 경영자와 주주를 살찌우는 데 사용된다고 우려한다. 거대 독점 기업은 소비자에게도 종종 좋지 않다. 가격과 혁신을 왜곡하기 때문이다. (398)

노조에 적대적인 쪽으로의 방향 선회는 미국만의 일이 아니었다. 영국에서도 1979년에 총리가 된 마거릿 대처가 규제 완화에 우선순위를 두면서 여러 친기업 법제를 도입했고 노조와 맹렬히 싸웠으며, 이로 인해 영국에서도 노조가 예전의 힘을 상당히 많이 잃었다. (401)

최근에는 엘론 머스크가 이끄는 전기차 회사 테슬라가 비슷한 교훈을 얻었다. 처음에는 머스크의 디지털 유토피아 비전에 이끌려서 자동차 생산의 모든 부분을 자동화하려 했지만 비용이 급증했고 지연이 많이 발생해 수요를 맞추지 못했다. 머스크 본인도 이렇게 인정했다. "그래요, 테슬라에서 과도한 자동화는 실수였습니다. 정확히 말하면 내 실수였어요. 인간을 가치절하했습니다." (421)

엘론 머스크 (출처: flickr)

디지털 유토피아가 추동하는 과도한 자동화가 아니라 균형 잡힌 혁신의 포트폴리오가 경제의 생산성을 더 빠르게 높일 수 있는 길일 것이다. (422)

---

9장 인공 투쟁

(...) 이 기술은 노동자들에게 적대적인 편향을 띠면서 발전하고 있고 일부 일자리를 파괴하고 있다. 현재의 경로대로 AI가 발달해 간다면 그것의 주된 영향은 일자리를 완전히 없애는 것이라기보다 많은 사람들의 임금을 한층 더 내리누르는 것일 가능성이 크다. (436)

현대 AI는 튜링의 발자취를 따라 인공지능에 초첨을 두었으며, 여기에서 인공지능은 자율적으로 행동하면서 인간 등가 수준에 도달하고 이어서 인간을 능가할 수 있는 기계를 말하는 것으로 정의되었다. (439)

인간이 생산에서 수행하는 많은 업무는 루틴한 활동과 복잡한 활동(사회적 소통, 문제 해결, 유연성, 창조성을 필요로 하는 활동)의 혼합이다. 인간은 암묵적 지식과 전문성에 의존해 그러한 일들을 수행한다. 그뿐 아니라 이러한 전문 역량의 상당 부분은 지극히 맥락 의존적이어서 AI 알고리즘으로 변환하기 어렵다. 따라서 해당 업무가 자동화되면 그러한 지식은 소실되기 쉽다. (448)

인간의 지능이 갖는 강점은 상황적이고 사회적이라는 데서 나온다. 자신의 환경을 이해하고 그것에 성공적으로 반응하는 능력 덕분에 우리는 변화하는 여건에서 유연하게 적응해 나갈 수 있다. (449)

AI가 사회적 지능을 가지고 있지 않다는 점은 또 다른 우려스러운 함의를 가진다. AI가 방대한 사용자로부터 데이터를 수집해 데이터에 담겨 있는 사회적 차원을 포함할 수 있긴 하지만, 현재의 접근은 인간의 이해가 사람들 사이의 선택적 모방, 커뮤니케이션, 논쟁의 토대를 두고 있다는 점을 활용하지 못한다. (457)

제러미 밴담의 파놉티콘은 감옥만이 아니라 영국의 초창기 공장도 염두에 두고 고안되었지만 18세기와 19세기의 공장 고용주들은 노동자를 쉼 없이 감시할 수 있는 테크놀로지가 없었다. 하지만 오늘날 아마존은 그런 테크놀로지가 있다. (459)

유연 스케줄링과 노동자 감시는 유사점이 많다. 가장 중요한 유사점은 둘 다 그저 그런 테크놀로지라는 점이다. 노동자들에게는 상당한 비용을 일으키지만 생산성 이득을 거의 창출하지 못한다. (462)

아이작 아시모프 (출처: flickr)

40년 전에 아이작 아시모프Isaac Asimov는 현대 교육 시스템의 문제를 다음과 같이 지적했다.

"오늘날 학습이라고 불리는 것은 모든 아이가 같은 것을 같은 날 같은 속도로 교실에 앉아서 배우게끔 강제한다. 하지만 사람은 다 다르다. 어떤 아이에게는 수업이 너무 빠르고 어떤 아이에게는 너무 느리고 어떤 아이는 엉뚱한 방향으로 가고 있을 수 있는 것이다." (469)

 
튜링 테스트와 AI 환상의 그림자 안에서, 이 분야에서 가장 뛰어난 연구자들은 인간 등가 수준에 도달하는 AI를 만들려는 야망으로 동기부여되며, 이 측면에서의 성취를 기계 유용성보다 높이 평가하고 더 많이 인정한다. 따라서 혁신의 방향이 노동자들에게서 일을 빼앗아 AI 프로그램에 할당하는 방법을 찾는 쪽으로 편향된다. (475)

---

10장 민주주의, 무너지다

아이러니하게도, 이것은 많은 사람들이 인터넷과 소셜미디어가 정치 담론과 민주주의에 미치리라 예상했던 결과와 정반대의 현상이다. (487)

AI는 중국 정부가 반란을 억압하고 특히 멀티미디어 콘텐츠와 라이브 채팅에서 정치 담론과 정보의 유통을 제약할 수 있는 역량을 막대하게 증폭시켰다. (494)

두 연구자는 이 상황을 조지 오웰의 <1984>보다는 올더스 헉슬리의 <멋진 신세계>에 가깝다고 해석했다. 사회비평가 닐 포스트먼은 이렇게 말했다.

"오웰이 두려워한 것은 책을 금지하려는 사람들이었다. 헉슬리가 두려워한 것은 책을 읽으려고 하는 사람이 애초에 아무도 없기 때문에 책을 금지할 이유 자체가 없는 세상이었다." (496)

https://bandiburi-life.tistory.com/613

독서습관189_알파와 감마 계층이 정해진 사회에서 우리의 소마는 무엇인가_멋진 신세계 다시 가

AI 테크놀로지가 꼭 정부가 언론을 더 잘 감시하고 정보를 더 잘 검열하고 시민을 더 잘 억압하게 돕는 쪽으로만 발달해야 하는 것도 아니다. 이 모든 것은 테크놀로지의 방향이 어디를 향하게 할 것인가에 대한 "선택"에 달려 있다. (503)

실제로 중국 스타트업들은 이제 감시와 억압용으로 개발한 AI 도구들을 다른 비민주주의 국가들에 수출하려 하고 있다. 무제한의 데이터 접근과 금전적 인센티브의 주된 수혜자 중 하나인 중국의 거대 테크 기업 화웨이는 이러한 도구를 50개국에 수출한 것으로 알려졌다. (505~506)

로힝야족 (출처: Store norske leksikon)

미얀마 군부는 인구 다수를 차지하는 불교도 사이에 타인종 혐오 감수성을 종종 불러일으켰는데, 가장 자주 타깃이 된 사람들이 무슬림인 로힝야족이었다. 로힝야족은 이곳에 수 세기 동안 살아온 사람들임에도 정부의 프로파간다는 이들을 외국인이고 이방인이라고 묘사한다. 정부가 통제하는 매체에 로힝야족에 대한 혐오 표현은 매우 일상적으로 등장한다. (507)

그는 알고리즘의 필터가 사용자들에게 본인의 견해와 일치하는 목소리만 들리는 인공적인 공간을 만들어 준다는 것을 표현하기 위해 필터 버블이라는 말을 만들었다. 필터 버블은 해로운 영향을 일으킨다. (513)

유튜브에서 시청되는 모든 동영상 중 70퍼센트가 알고리즘 추천을 통해 도달되는데, 이는 가짜 정보와 조작이 사용자를 토끼굴로 이끌 가능성이 많다는 뜻이다. (516)

AI가 종종 그저 그런 자동화밖에 하지 못하는데도 왜 AI에 그렇게 열광하는 것인가? 답은 대규모 데이터 수집 및 타깃 광고에서 찾을 수 있으며, 이 두 가지 모두와 관련해 앞으로 더 큰 일들이 벌어질 것이다. (523)

페이스북은 2020년 미국 대선 이후 사용자를 오도할 소지가 있는 이야기와 신뢰성이 낮은 웹사이트를 촉진하지 않도록 알고리즘을 바꾸기로 결정했고 그 결과는 놀라웠다. 증오 선동 콘텐츠와 가짜 정보가 더 이상 바이럴되지 않았다. 하지만 얼마 뒤에 이 변화는 철회되었고 페이스북은 예전의 비즈니스 모델로 다시 돌아왔다. 그 변화가 (...) 페이스북에서 쓰는 시간이 줄어든 것으로 나타난 것이 주된 이유였다. (528)

위르겐 하버마스 (출처: Wikimedia Commons)

독일 철학자 위르겐 하버마스가 제시한 "공론자" 개념은 건전한 민주적 담론의 핵심 특징을 잘 포착하고 있다. 하버마스는 공론장을 개인들이 모여 사회적 사안과 정책에 대해 논의하는 장으로 정의하고, 이것이 민주적 정치 과정에 필수적이라고 주장했다. (529)

우리가 경험으로 알고 있는 바는, 이윤 동기와 AI 환상에 의해 그려진 경로가 반민주적이라는 것이다. 그리고 이 경로는 권위주의 정부와 테크 기업들이 다른 모든 이의 비전을 밀어내고 자신의 비전을 밀어 넣으려 한 것과 관련이 있다. (533)

---

11장 테크놀로지의 경로를 다시 잡기

현재 우리가 직면한 문제들은 근본적으로 기업이 막대한 경제적 정치적 사회적 권력을 가지고 있는 데서 나오며, 특히 테크 산업이 그렇다. 기업계의 권력 집중은 공유된 번영을 훼손한다. 기업들이 테크놀로지 변화로 인한 이득이 공유되는 것을 제한하려 하기 때문이다. (557)

테크놀로지의 방향을 다시 잡기 위한 정책들(570~)

• 방향 재설정을 위한 시장 인센티브
• 거대 테크 기업의 분할
• 조세 개혁
• 노동자에 대한 투자
• 테크놀로지 방향 재설정을 위한 정부의 리더십
• 프라이버시 보호와 데이터 소유권
• 통신품위법 230조 철폐
• 디지털 광고세
• 그 밖의 정책들: 부유세, 재분배와 사회안전망 강화, 교육, 법정최저임금제, 학계의 개혁

1993년 영화 <필라델피아>는 미국에서 HIV에 감염된 성소수자의 삶과 그들이 처한 문제를 영화관의 대형 스크린에서 보여준 초창기 작품으로, 관객들의 인식을 바꾸는 데 크게 일조했다. 이어서 비슷한 주제를 다룬 TV 드라마들도 나왔다. (596)