AI 이후의 세계 함께 읽기 모임

“ 과학 연구, 창작, 소프트웨어 개발 같은 분야에서 인간과 다르게 현실을 인식하는 대화자가 존재한다면 큰 도움이 될 것이다. 하지만 그렇게 협업하기 위해서는 우리의 이성이 유일하게 현실을 지각하거나 탐색하는 수단이 아닌(어쩌면 가장 효과적인 수단도 아닌) 세상에 적응해야만 한다. 그렇다면 금속활자 인쇄기가 발명된 후 약 6세기 동안 인간의 경험에 일어난 어떤 변화보다도 큰 변화가 일어날 것이다. ”

“ 이에 각 사회는 두 가지 길 중 하나를 선택해야 한다. 하나는 그때그때 단편적으로 대응하면서 적응하는 것이고, 다른 하나는 인간의 진취적 능력을 총동원해 AI의 역할을 정의하는 동시에 우리의 역할도 재정의하는 논의를 시작하는 것이다. 우리의 기본적인 선택은 전자다. 후자는 지도자와 철학자, 과학자와 인문학자 등 여러 집단의 적극적 대화가 요구되기 때문이다. ”

“ AI는 어디까지나 인간이 만들고 관리하는 대상이다. 하지만 우리가 AI에 익숙해지고 의존도가 높아질수록 이를 통제하는 행위가 비용적·심리적으로 부담스러워지고 더 복잡한 기술이 요구될 수 있다. 그래도 우리는 AI가 인간의 경험을 어떻게 바꾸고 정체성에 어떤 의문을 제기하는지 이해하여, 그런 변화의 양상 중 어느 부분을 규제하거나 인간의 다른 활동으로 균형 잡아야 하는지 판단해야 한다. 인류의 미래를 계획하려면 AI시대에 걸맞은 인간의 역할을 정의해야 한다. ”

“ 설명이 가능할 때 의미와 목적이 생기고, 대중이 도덕원리를 인정하고 실천할 때 정의가 구현된다. 하지만 알고리즘은 제 결론을 인간의 경험에 근거하여 대중에게 설명하지 않는다. 그런 알고리즘이 곳곳에서 작용하는 세상을, AI 전문가를 포함해 일부는 지능적으로 발전한 세상이라고 생각할지 모른다. 하지만 대다수는 AI가 하는 행동의 이유를 이해할 수 없어서 자율성이 감소하고 세상에 의미를 부여하기가 어려워졌다고 느낄 것이다. ”

“ AI가 노동의 본질을 바꾸면 많은 사람이 정체성, 성취감, 경제적 안정성에 타격을 입을지 모른다. 그런 변화로 실직할 위험이 커지는 쪽은 아마도 전문 훈련이 요구되는 블루칼라 및 중간관리 직종, 데이터를 검토·해석하거나 표준 양식으로 문서를 작성하는 업무의 비중이 높은 전문직종일 것이다. 만일 그런 변화로 효율성만 높아지지 않고 새로운 노동자에 대한 수요가 발생한다 할지라도, 설령 그런 현상이 사회 전반에서 삶의 질을 향상하고 경제의 생산성을 키우는 과도기적 변화라는 사실이, 단기간이나마 일자리를 잃은 당사자에게는 위로가 될 리 없다. ”

“ 지금 ‘디지털 네이티브’와 이전 세대의 간극이 존재하듯이 ‘AI 네이티브’와 이전 세대의 간극이 벌어질 전망이다. 미래 세대는 어릴 때부터 알렉사와 구글 홈보다 진화화여 베이비시터, 과외 교사, 상담사, 친구 등 다양한 역할을 수행하는 AI 도우미와 함께 자랄지 모른다. 이런 AI 도우미는 세상에 존재하는 거의 모든 언어와 학문을 가르치고 각 학생의 학습 능력과 방식에 맞춰 학업 성취도를 극대화하는 맞춤형 교육을 제공할 것이다. 그리고 아이가 심심할 때는 친구로, 부모가 외출 중일 때는 보호자로 그 곁을 지킬 것이다. AI 기반의 맞춤형 교육이 도입되면 인간의 평균적 능력이 향상될 가능성과 손상될 위험성이 공존한다. ”

“ 그렇게 세월이 흐르면 사람들이 인간보다 디지털 도우미를 더 좋아하게 될지 모른다. 타인은 자신의 취향을 척척 알아차리지 못하고 ‘의견 차’가 크기 때문이다(인간은 남의 성격과 욕구를 내면화하지 않으므로). 그렇다면 우리는 인간관계에 덜 의존하게 될지도 모른다. 그럴 때 유년기의 중요한 경험은 어떻게 형성될 것인가? 인간의 감정을 (모방할 수는 있겠으나) 느끼지 못하는 기계가 항상 동반자로서 공존한다면 아이의 세계관과 사회화 과정이 어떻게 달라지는가? 상상력에는 어떤 영향을 미치는가? 놀이의 성격은 어떻게 바뀌는가? 친구를 사귀고 집단에 동화되는 과정은 어떻게 변화할 것인가? ”

“ 우리 시대의 모순은 디지털화로 인간이 이용하는 정보가 계속 늘어나지만 진중한 사색에 필요한 공간은 점점 줄어든다는 사실이다. 끊임없이 범람하는 콘텐츠 때문에 사유의 비용이 증가함에 따라 사유의 빈도는 감소한다. 자극을 원하는 인간의 욕구에 맞춰 알고리즘이 우리에게 추천하는 콘텐츠나 경험은 대체로 극적이고, 충격적이고, 감정적이다. 이런 환경에서 진지하게 생각할 공간을 찾기란 쉬운 일이 아니다. 그뿐만 아니라 현재 지배적인 커뮤니케이션 방식도 진득한 사유에 그리 도움이 안 된다. ”

“ AI가 한 세기 동안 만들어진 음악이나 방송을 분석해 ‘히트작’을 만들면 창작의 산물이라 해야 할까, 단순한 짜깁기의 결과물이라 해야 할까? 작가·배우·화가처럼 인간의 고유한 능력을 발휘해 현실과 인생의 경험을 작품으로 승화하는 사람이라고 지금껏 여겨졌던 창작자들을 보는 자타의 시선이 그대로 유지될까? ”

“ 정부의 핵심적인 활동을 인간이 결정하고 감독할 때만 바로 그 정당성을 확보할 수 있다. 예를 들어 법을 집행할 때 법원이 상식과 도덕에 입각해 판결의 이유를 제시하고, 당사자들이 공정성을 따져본 후 만일 사회의 도덕 원칙에 부합하지 않는다고 판단하면 이의를 제기할 수 있어야 판결의 정당성이 확보된다. 따라서 AI시대에도 중대한 판단을 하는 주체는 올바른 자격을 갖추고 이유를 제시할 수 있으며 익명이 아닌 인간이어야 한다. ”

“ 같은 맥락에서 민주주의에도 인간성이 유지돼야 한다. 그러자면 일단 민주적 논의와 선거가 훼손되지 않아야 한다. 민주적 논의를 하기 위해서는 개개인에게 발언의 기회가 주어져야 하고, 인간의 발언이 AI에 의해 왜곡되지 않아야 한다. 인간에게는 언론의 자유가 보장돼야 하지만 AI에게도 그런 자유가 허락되면 안 된다. 4장에서 말했듯이 AI는 실제 영상이나 오디오와 분간이 잘 안 가는 딥페이크처럼 부정확한 정보를 고품질로 대량 생성할 수 있다. 아무리 인간이 원해서 자동으로 말하는 AI가 탄생했다고 해도, AI가 만드는 말은 진짜 인간이 하는 말과 쉽게 구별돼야 한다. 잘못된 정보와 허위정보(악의적으로 날조된 정보)의 유통을 방지하기 위해, 쉽진 않아도 AI의 개입을 반드시 규제해야 한다. ”

“ AI는 지금 우리가 아는 의미의 이성을 약화하는 움직임을 촉진한다. SNS는 사유의 공간을 축소하고, 온라인 검색은 개념을 습득하려는 의지를 감소한다. 이전의 알고리즘도 인간에게 ‘중독성’ 있는 콘텐츠를 잘 전달했지만 AI는 그 방면으로 훨씬 유능하다. 그래서 사람들이 심층적 독서와 분석을 덜 하고, 그런 행위에 전통적으로 따르던 보상도 줄어든다. 디지털 세상을 거부할 때 치러야 할 대가가 커지면서 그 세상이 인간의 사고에 미치는 영향력, 곧 인간의 주의를 끌거나 분산하고 무언가를 믿게 만드는 힘이 강해진다. 그 결과로 정보를 검토·검증·해석할 때 인간이 수행하는 역할이 축소되는 대신 AI의 역할이 확대된다. ”

“ 낭만주의자들은 인간의 감정이 중요한 정보의 원천이라고 주장했다. 그들은 주관적 경험이 진실의 한 형태라고 봤다. 포스트 모더니스트들은 낭만주의에서 더 나아가 주관적 경험이라는 필터로 객관적 현실을 식별할 수 있지 않겠냐고 질문했다. AI는 거기서 훨씬 더 나아가 역설적 결과를 낳을 것이다. 심층적 패턴을 포착해서 새로운 객관적 사실을, 예를 들면 질병의 존재, 산업재해나 환경재해의 조짐, 안보의 위험 신호를 규명할 것이다. 하지만 미디어·정치·담론·엔터테인먼트의 영역에서는 AI가 우리의 기호에 맞게 정보를 재가공함에 따라 편견이 확증·심화되면서, 우리가 객관적 진실을 이해하고 합의하기 어려워진다. 그래서 AI시대에 인간의 이성은 확장되면서도 위축될 것이다. ”

“ AI가 구석구석에 들어와 일상을 확장하고 변형한다면 인간은 상충하는 충동을 느낄 것이다. 비전문가는 이해할 수 없는 기술 앞에서 AI의 판결을 신의 판결과 동급으로 받아들이고 싶을지 모른다. 그런 충동은 비록 오해에서 비롯됐다고 하나 어느 정도 이해된다. 자신이 해석하거나 통제할 수 없는 지능이 생소하면서도 유익한 결론을 도출하는 세상에서, 그 결정을 따르는 것이 과연 어리석은 짓일까? 이런 논리에 의해 다시 주술적 세계관이 만들어진다. 이번엔 AI가 신의 대리인이 되어 계시를 내리고 일부 인간이 그 지시를 맹목적으로 따르는 구도다. 특히 AGI가 신과 같은 지능으로 세계를 이해하고 그 구조와 안에 내포된 가능성을 직감하는 초인적 존재로 여겨질 수 있다. 하지만 AI를 맹종하면 인간의 이성이 발휘하는 힘과 그 힘이 미치는 범위가 감소해 반발을 부를 공산이 크다. ”