[책걸상 함께 읽기] #48. <권력과 진보>

“ AI가 우리 대부분이 생계를 의지하고 있는 노동시장을 근본적으로 교란해서 임금과 노동의 불평등이 확대되면 어떻게 하는가? AI의 주된 영향이 생산성을 높이는 것이 아니라 권력과 풍요를 평범한 사람들에게서 데이터를 통제하고 기업의 핵심 의사결정을 내리는 사람들에게로 이동시키는 것이면 어떻게 하는가? 그 길에서 개도국의 수십억 인구를 더 가난해지게 만들면 어떻게 하는가? AI가 피부색 등에 기반한 기존의 편견을 강화하면 어떻게 하는가? AI가 민주적 제도와 기관들을 파괴하면 어떻게 하는가? 이 모두가 실제로 우려해야 할 일임을 보여주는 사례가 점점 많이 쌓이고 있다. AI는 산업화된 나라에서만이 아니라 세계 모든 곳에서 불평등을 증폭시키는 경로로 기울어져 있는 것으로 보인다. 또한 AI는 테크 기업들과 권위주의적 정부가 수집하는 방대한 데이터에서 연료를 공급받아 민주주의를 질식시키고 독재를 강화하고 있다. ...현재로서 AI는 생산력 향상에는 그다지 기여하지 못하면서도 경제를 근본적으로 바꾸어 놓고 있다. 모든 것을 종합해 볼 때, AI에 대해 오늘날 새로이 솟고 있는 열광은 익숙한 테크노-낙관주의의 강화된 버전이라고 볼 수 있을 것 같다. AI 테크놀로지가 자동화와 감시, 그리고 이미 디지털 세계에 에워싸여 버린 평범한 사람들의 권력을 약화하는 데 초점을 두고 있다는 점은... ”

“ 하지만 성배에 담긴 성수에 파리가 빠져 있으면 어떻게 하는가? AI가 우리 대부분이 생계를 의지하고 있는 노동시장을 근본적으로 교란해서 임금과 노동의 불평등이 확대되면 어떻게 하는가? AI의 주된 영향이 생산성을 높이는 것이 아니라 권력과 풍요를 평범한 사람들에게서 데이터를 통제하고 기업의 핵심 의사결정을 내리는 사람들에게로 이동시키는 것이면 어떻게 하는가? 그 길에서 개도국의 수십억 인구를 더 가난해지게 만들면 어떻게 하는가? AI가 피부색 등에 기반한 기존의 편견을 강화하면 어떻게 하는가? AI가 민주적 제도와 기관들을 파괴하면 어떻게 하는가? ”

“ 하지만 중대한 차이가 하나 있었는데, 파나마에는 부역 노동력이 없었고 현지 노동력이 부족했다. 그래도 레셉스는 전혀 굴하지 않고 자마이카 등 카리브해 인근 식민지 섬들에서 노동력을 조달할 수 있으리라고 생각했다. 그가 생각하기에, 서인도 제도 노동자들은 유럽인에 비해 더 낮은 임금과 더 고된 여건에서도 일할 용의가 있을 것이었다. 또한 레셉스는 수에즈에서처럼 기계가 노동생산성을 높여줄 것이고 필요할 때면 언제나 새로운 기술이 나타나 구해주리라고 확신했다. ”

“ 사람들이 정치 지도자에게 복종하는 이유는 (단순히 폭력에 눌려서가 아니라) 사회 제도, 규범, 믿음이 그 지도자에게 큰 지위와 권위를 부여했기 때문이다. 사람들이 그를 따르는 이유는 그를 따르기로 설득되었기 때문이다 ”

“ 강압 권력을 가진 사람보다는 설득 권력을 가진 사람에게 지배되는 게 훨씬 낫지 않느냐고 생각할지도 모르겠다. 어느 면에서는 그렇기도 하다. 하지만 두 가지 면에서 현대 사회에서는 설득 권력도 강압 권력만큼이나 해로울 수 있다. 첫째, 설득의 힘을 가진 사람들은 자신의 결정으로 고통받게 될 사람이나 그 결정이 일으킬 우발적 피해에 신경 쓰지 않는 쪽으로 이미 스스로를 설득했을 가능성이 크다. (자신이 역사의 올바른 쪽에 서 있고 공공선을 위해 일하는 것이라고 믿기 때문이다.) 둘째, 설득 권력을 가진 사람이 편향된 선택을 내릴 때는 폭력에 의지하는 사람이 내리는 선택보다 덜 가시적이고 덜 자명해서, 그것을 포착하고 고치기가 더 어려울 수 있다. 이것이 비전의 덫이다. ”