AI 이후의 세계 함께 읽기 모임

“ 정부의 핵심적인 활동을 인간이 결정하고 감독할 때만 바로 그 정당성을 확보할 수 있다. 예를 들어 법을 집행할 때 법원이 상식과 도덕에 입각해 판결의 이유를 제시하고, 당사자들이 공정성을 따져본 후 만일 사회의 도덕 원칙에 부합하지 않는다고 판단하면 이의를 제기할 수 있어야 판결의 정당성이 확보된다. 따라서 AI시대에도 중대한 판단을 하는 주체는 올바른 자격을 갖추고 이유를 제시할 수 있으며 익명이 아닌 인간이어야 한다. ”

“ 같은 맥락에서 민주주의에도 인간성이 유지돼야 한다. 그러자면 일단 민주적 논의와 선거가 훼손되지 않아야 한다. 민주적 논의를 하기 위해서는 개개인에게 발언의 기회가 주어져야 하고, 인간의 발언이 AI에 의해 왜곡되지 않아야 한다. 인간에게는 언론의 자유가 보장돼야 하지만 AI에게도 그런 자유가 허락되면 안 된다. 4장에서 말했듯이 AI는 실제 영상이나 오디오와 분간이 잘 안 가는 딥페이크처럼 부정확한 정보를 고품질로 대량 생성할 수 있다. 아무리 인간이 원해서 자동으로 말하는 AI가 탄생했다고 해도, AI가 만드는 말은 진짜 인간이 하는 말과 쉽게 구별돼야 한다. 잘못된 정보와 허위정보(악의적으로 날조된 정보)의 유통을 방지하기 위해, 쉽진 않아도 AI의 개입을 반드시 규제해야 한다. ”

“ AI는 지금 우리가 아는 의미의 이성을 약화하는 움직임을 촉진한다. SNS는 사유의 공간을 축소하고, 온라인 검색은 개념을 습득하려는 의지를 감소한다. 이전의 알고리즘도 인간에게 ‘중독성’ 있는 콘텐츠를 잘 전달했지만 AI는 그 방면으로 훨씬 유능하다. 그래서 사람들이 심층적 독서와 분석을 덜 하고, 그런 행위에 전통적으로 따르던 보상도 줄어든다. 디지털 세상을 거부할 때 치러야 할 대가가 커지면서 그 세상이 인간의 사고에 미치는 영향력, 곧 인간의 주의를 끌거나 분산하고 무언가를 믿게 만드는 힘이 강해진다. 그 결과로 정보를 검토·검증·해석할 때 인간이 수행하는 역할이 축소되는 대신 AI의 역할이 확대된다. ”

“ 낭만주의자들은 인간의 감정이 중요한 정보의 원천이라고 주장했다. 그들은 주관적 경험이 진실의 한 형태라고 봤다. 포스트 모더니스트들은 낭만주의에서 더 나아가 주관적 경험이라는 필터로 객관적 현실을 식별할 수 있지 않겠냐고 질문했다. AI는 거기서 훨씬 더 나아가 역설적 결과를 낳을 것이다. 심층적 패턴을 포착해서 새로운 객관적 사실을, 예를 들면 질병의 존재, 산업재해나 환경재해의 조짐, 안보의 위험 신호를 규명할 것이다. 하지만 미디어·정치·담론·엔터테인먼트의 영역에서는 AI가 우리의 기호에 맞게 정보를 재가공함에 따라 편견이 확증·심화되면서, 우리가 객관적 진실을 이해하고 합의하기 어려워진다. 그래서 AI시대에 인간의 이성은 확장되면서도 위축될 것이다. ”

“ AI가 구석구석에 들어와 일상을 확장하고 변형한다면 인간은 상충하는 충동을 느낄 것이다. 비전문가는 이해할 수 없는 기술 앞에서 AI의 판결을 신의 판결과 동급으로 받아들이고 싶을지 모른다. 그런 충동은 비록 오해에서 비롯됐다고 하나 어느 정도 이해된다. 자신이 해석하거나 통제할 수 없는 지능이 생소하면서도 유익한 결론을 도출하는 세상에서, 그 결정을 따르는 것이 과연 어리석은 짓일까? 이런 논리에 의해 다시 주술적 세계관이 만들어진다. 이번엔 AI가 신의 대리인이 되어 계시를 내리고 일부 인간이 그 지시를 맹목적으로 따르는 구도다. 특히 AGI가 신과 같은 지능으로 세계를 이해하고 그 구조와 안에 내포된 가능성을 직감하는 초인적 존재로 여겨질 수 있다. 하지만 AI를 맹종하면 인간의 이성이 발휘하는 힘과 그 힘이 미치는 범위가 감소해 반발을 부를 공산이 크다. ”

“ AI시대의 특성을 잘 반영하고 시대의 지침이 될 윤리체계를 확립하는 일이 무엇보다 중요하다. 이는 어느 한 분야에 맡길 수 없는 과업이다. AI를 개발하는 컴퓨터과학자와 기업가, AI를 배치하길 원하는 군사 전략가, AI를 조성하려는 정치 지도자, AI의 더 깊은 의의를 탐구하는 철학자와 신학자는 각자의 위치에서 큰 그림의 작은 조각만 볼 수 있을 뿐이다. 이들이 모두 논의에 참여해서 선입견에 휘둘리지 않고 의견을 교환해야 한다. ”

“ 따라서 AI 윤리가 반드시 확립돼야 한다. 제한, 협력, 추종을 선택할 때마다 무조건 극적인 일이 발생하진 않겠지만, 그런 결정이 누적돼서 생기는 결과는 대단히 극적일 것이다. 따라서 독단적 결정은 용납될 수 없다. 인류가 미래를 만들어나가려면 결정의 순간마다 방향을 제시해줄 공통된 원칙이 필요하다. 아무리 다자간 협력을 끌어내기가 어렵고 때로는 불가능하다고 해도, 공통된 윤리가 없이 행동한다면 불안정성만 커질 뿐이다. AI를 설계하고 훈련하며 그와 협력하는 사람들은 지금까지 인간이 이루지 못했던 거대하고 복잡한 목적들을 달성할 것이다. ”

“ AI는 인간이 만들었으니 인간이 감독해야 한다. 하지만 우리 시대에 AI를 둘러싼 문제점 중 하나는 이를 만들 능력과 자원을 가진 사람들이 모두 철학적 측면에서 AI의 파급효과를 숙고하진 않는다는 사실이다. 많은 개발자가 AI로 어떤 기능을 구현하고 어떤 문제를 해결할지만 생각한다. 혹시 그것이 역사의 줄기를 바꾸는 혁명을 초래하거나 다양한 집단에 영향을 미칠 가능성은 없는지 따져보진 않는다. AI시대에는 인류가 무엇을 만들고 있으며 그것이 우리에게 어떤 의미인지 설명해줄 데카르트와 칸트의 후예가 필요하다. ”

“ 지금 우리의 문제는 아직 그 기술들의 철학적 시사점을 다 알지 못한다는 점이다. 우리가 신기술을 토대로 진보하는 중이지만, 아직까지 그 진보는 저절로 나타나는 변화일 뿐 우리가 의식적으로 이루고 있진 않다. 인간의 의식에 마지막으로 대변혁이 있었던 계몽주의시대에 그토록 큰 변화가 일어났던 이유는 신기술(인쇄술)이 등장하면서 새로운 철학적 사유가 발생하고 그 결과물이 신기술에 의해 보급됐기 때문이다. 우리 시대에도 신기술이 등장했지만 아직 길잡이가 될 철학은 성립되지 않았다. ”

“ 우리는 기존의 사회에서 무엇을 보존해야 하는가? 또 기존 사회에서 무엇을 희생해 더 좋은 것을 얻어야 하는가? 사회규범과 세계 균형에 관한 관념에 AI의 창발성을 어떻게 편입할 것인가? 그 밖에도 어떤 질문들을 탐구해야, 우리가 경험하지도 못했고 직관적으로 알아내지도 못하는 상황에 대처할 수 있는가? 그리고 이 모든 것을 아우르는 ‘메타적’ 질문이 존재한다. 자신과 다른 식으로 세계를 해석하고 이해하는 AI의 ‘도움’을 받는 인간들이 과연 이 시대에 필요한 철학을 수립할 수 있는가? 혹시 우리를 기다리는 숙명은 인간이 완전히 이해하지 못하는 기계와 협력해 세계를 바꿔나가는 미래가 아닌가? ”