『포스트휴먼이 몰려온다』 혼자 읽기

“ 인공지능은 인간만을 인식과 사회적 행동의 주체로 여겨 온 오랜 인식과 사회 체계에 새로운 차원의 관점을 요청하고 있다. 사회혁명에 비견되는 전면적인 관점 전환과 새로운 사고의 틀을 요구한다. 근대 시민사회에 시민이라는 주체의 등장과 그에 대한 인식의 확산으로 인해, 사회계약론 논의가 전개되고 시민혁명이 일어난 것에 비길 수 있다. 시민혁명 이후 각 사회 세력의 참여와 논의를 통해 새로운 사회계약이 만들어지고 근대 시민사회의 기틀이 됐다. 새로운 기술 환경이 변화시키고 있는 현실과 미래에 적합한 거버넌스 시스템을 만들기 위한 근본적인 논의와 모색이 필요한 이유이다. 이는 구체적으로 비인격 주체의 자율성과 책임성을 어느 수준까지 인정하고 허용할 것인지, 그에 따른 변화를 기존 사회 시스템과 어떤 방식으로 조화시킬지에 관한 논의이다. ”

“ 강력한 도구와 기술을 소유하고 있는지, 작동 구조를 이해해 활용할 수 있는지 여부에 따라서 개인들 간의 격차는 커진다. 이제껏 경험해 보지 않은 개인 간 초격차의 불평등이 펼쳐지는 환경이 예고돼 있다. 또한 사회적 차원에서 비인격 주체의 등장은 기존 사회제도와 민주주의의 근간을 뒤흔들고 위협하는 존재의 출현을 의미한다. 기존 사회 시스템은 독립적 인간만을 자율적 판단과 행동의 주체로 삼고 설계되었다. ”

“ 우리는 작동방식이 드러나지 않는 첨단 기술에 대해 이해와 통제가 불가능한 상황이 되었지만 의존도는 더욱 깊어졌다. 하지만 기대와 달리 알고리즘은 신뢰하고 위임하기에 너무 위험하다는 게 우리가 알고리즘에 의존하는 정도가 깊어지면서 점점 선명하게 드러나고 있다. ”

“ 도구적 인간이 끝없이 효율과 편리를 추구한 결과, 더 강력하고 효율적인 도구를 갖게 되었지만 그에 대한 통제는 소수에게 넘어갔고 도구적 인간은 도구의 지배를 받는 종속적 처지가 되고 있다. 시민들의 교육기간이 늘어나고 정보화 도구가 편리해진 환경에서 도리어 허위·왜곡 정보의 파급력과 영향력이 커지고 있는 현상도 유사한 아이러니다. ”

“ 그런데 언제부터 우리는 예술가의 작업도 정치적 행위도 모두 다 노동으로 바라보게 되었을까? 아렌트에 의하면, 그것은 산업혁명 이후 자동화된 공장 시스템을 갖춘 근대 산업사회의 생산양식이 인간의 활동을 노동으로 집약시키는 데 성공하면서부터다. 산업화가 발달할수록 지속 가능한 가치를 창출하는 예술적 ‘작업’도, 차이와 다양성으로부터 공적 의미를 길어 내는 자유로운 토론 ‘행위’도, 소비품을 대량 생산하는 ‘노동’ 앞에서 점차 그 의미를 잃어 버리게 된다. 인간 활동의 모든 결과물은 노동 생산물과 마찬가지로 교환가치나 시장가치로 계산된다. ”

“ 질베르 시몽동은 『기술적 대상들의 존재 양식에 대하여』(1958)에서 노동으로 환원될 수 없는 기술의 본래적 모습을 밝혀 낸다. 그에 따르면, ‘기술’이란 인간이 자신을 둘러싼 세계와 관계 맺는 근본적인 존재 방식이다. 마이크로폰이 입력된 약한 음성신호를 크게 증폭하여 출력함으로써 강연자와 청중을 연결하듯이, 기술적 대상은 다양한 종류의 입력 에너지를 다른 형태의 출력 에너지로 변환하는 기능을 통해 이질적인 것들을 서로 관계 짓고 소통시키는 매개 역할을 한다. 인간은 항상 이러한 기술적 대상들과 더불어 기술적 대상들이 매개하는 세계 안에서 살아간다. ”

“ 시몽동은 ‘노동’을 이런 기술의 발전 과정 중 특정 시기에 두드러졌던 하나의 양상으로 축소한다. 기술 발달이 아직 연장이나 도구 수준에 머물러 있어서 기술적 대상들이 스스로 움직일 수 없었을 때, 그래서 인간이 직접 들고 움직이며 그것들에게 동력을 제공할 수밖에 없었을 때 하던 활동을 노동이라고 보는 것이다. 따라서 자동화된 기계들이 인간의 노동력 없이도 스스로 작업할 수 있게 되었다면 인간이 굳이 그런 노동을 고집할 필요가 없다는 것이다. ”

“ 시몽동은 노동보다 더 근본적이고 노동 자체를 포괄하는 더 큰 범주가 기술적 활동이라고 주장한다. 망치든 스마트폰이든 모든 수준에서 기술적 대상들을 발명하고 수리하고 개선하고 관리하는 활동의 총체가 바로 기술적 활동이다. 기술적 활동은 기계들을 사용하는 노동에 그치는 것이 아니다. 기계들의 작동 방식 및 기계들이 다른 기계들과 맺는 관계에 대한 세심한 주의와 이해, 기계들의 작동에 요구되는 자연적ㆍ기술적ㆍ인간적 조건들에 대한 다각적 인식 등 상당한 범위에서 앎의 능력도 포함하는 것이다. ”

“ 따라서 시몽동은 자동화된 기계들이 노동을 대체하는 것이 인간 소외의 원인이라고 보지 않는다. 산업혁명 시기, 기계들이 인간의 일자리를 빼앗는다고 기계들을 부수었던 러다이트 운동(1811)도 사실은 노동 패러다임에 갇혀 있던 인간이, 기술의 진화를 제대로 이해하지 못하고, 발전한 기술적 대상들과의 적합한 관계 방식을 찾지 못해서 일어난 사건으로 그는 이해한다. ”

“ 장인이 자신의 연장들을 손에 쥐고 작업할 때, 즉 노동할 때, 느꼈던 인간과 기술적 대상 사이의 일체감은 그 연장들이 자동화된 기계로 발전하게 되자 부서진다. 마치 심리생리학적으로 연속적이었던 내 품 안의 자식이 다 자란 성인이 되어 자립하게 되었을 때 부모들이 느끼는 서운함처럼, 자신의 손을 떠난 자동기계들 앞에서 인간은 소외감을 느낀다. 이런 소외감은 기술적 대상들을 생산수단으로 소유한다고 해서 사라지는 것이 아니다. 성인이 된 자식과 부모가 예전과는 다른 방식으로 관계를 회복하는 것이 자연스럽듯이, 자동화된 기계들과 인간도 다른 방식의 관계로 부서진 연속성을 회복해야 하는 것이다. 다시 말해 노동 소외의 문제는 기술의 자동화 그 자체에 있는 것이 아니라 기술성의 발달 수준에 맞추어 인간과 기술의 적합한 관계 방식을 찾아내는 것에 그 해법이 있다. ”

“ 베르나르 스티글레르는 『고용은 끝났다, 일이여 오라!』(2015)에서 노동으로부터 ‘고용’과 ‘일’을 구분한다. 통상 노동은 보수와 상관없이 자신이 할 수 있는 ‘일’의 의미도 담고 있지만, 동시에 그 일의 가치를 임금으로 계산해야 하는 ‘고용’의 현실과 분리될 수 없는 것이기도 하다. 그러나 ‘일’과 ‘고용’은 엄연히 다르다. ‘일’이라는 것은 보수를 받든 안 받든 나의 고유성과 독특성을 실현하는 활동이면서, 동시에 나의 활동을 통해 내 주변의 동료들이나 일반 시민들과 같은 다른 사람들의 고유한 삶을 실현하는 데도 이바지할 수 있는 활동을 말한다. 반면 ‘고용’은 단지 노동자들이 급여를 받는 활동일 뿐이다. 고용을 통해서 진정한 일을 실현할 수도 있지만 그런 경우는 매우 드문 것이 현실이다. 현대인들 대부분이 돈을 벌기 위해 고용되어 하는 일과 돈이 되지 않는 진짜 자기 일을 구분하고 있다. ”

“ 스티글레르의 진단에 따르면, 현대 사회는 노동 중심 사회를 넘어서 고용 중심 사회로 이행했다. ‘인간은 모름지기 노동을 해야 인간답게 살 수 있다’는 것에서 ‘인간은 고용이 되어야만 살아갈 수 있다’는 것으로 삶의 패러다임이 바뀌면서 노동에 담긴 순수한 ‘일’의 의미마저 해체되고 있다. 아이러니하게도 고용 중심 사회는 완전 고용을 통해 모두에게 안정적인 삶의 터전을 보장해 주는 방향이 아니라 오히려 모두를 프롤레타리아화하면서 궁핍함을 강화하는 방향으로 가고 있다. ”

“ 소비 동물이 된 현대인들은 각자의 개성과 고유한 욕망에 따라 자신과 타인의 삶에 기여하는 긍정적이고 생산적인 ‘일’을 하는 것이 아니라, 고도 산업화된 자본과 매스미디어에 의해 충동화된 소비 욕구를 충족시키기 위해 어쩔 수 없이 고용된 노동을 할 뿐이다. 고용된 노동은 자신이 하고 있는 일이 무엇이며 어떤 의미와 가치가 있는지 관심도 이해도 없는 아이히만과 같은 ‘무사유 노동자’를 양산하며 ‘무관심의 경제’를 구축한다. 무관심의 경제란 경제 주체인 개인들이 그들이 속한 공동체에 아무런 관심도 기울이지 않고 공동체로부터의 보호나 관심도 전혀 기대하지 않는, 한마디로 ‘각자 도생’의 경제 시스템이라고 할 수 있다. ”

“ 소비 자본주의와 결합된 디지털 자동화 기술은 사용자 맞춤형 광고 기법과 행위 유발형 마케팅으로 우리 모두를 아무 생각 없는 자가 소비 기계로 만들고 있다. 내 정보로 데이터를 만들고 그 데이터를 다시 내가 소비하는 네트워크 시스템 안에서 그 시스템을 구성하는 하나의 기능적 요소에 불과한 존재. 스티글레르는 이런 자동화 사회의 지배원리를 ‘알고리즘 통치성’이라고 부른다. ”

“ 고용이 사라지고 임금노동이 불가능해진다면 어떻게 돈을 분배할 것인가? 스티글레르는 실업을 없애는 가장 좋은 해결책이 바로 고용을 없애는 것이라고 주장한다. 그는 향후 10년 내에 냉혹하게 불어닥칠 고용 한파야말로 ‘무관심의 경제’에서 ‘기여경제’로 경제체제를 바꾸어야 할 필연성을 뒷받침해 준다고 본다. 사용가치나 교환가치보다 실용가치를 창출하자는 것이다. ‘실용가치’는 시장에서 일회적인 상품으로 소비되는 ‘노동’ 생산물에 붙는 것이 아니라, 지속적으로 공유되고 확산되고 계승되면서 더 나은 가치들을 창출할 수 있는 ‘일’의 생산물에 붙는 것이다. ‘무관심의 경제’가 경쟁과 소비를 가속화하고 냉혹한 자본 논리 외에 나와 타인의 삶에 대한 어떠한 관심도 없는 체제라면, ‘기여경제’는 자신의 앎을 나누고 그 혜택을 함께 누리면서 더불어 살아가는 삶을 지향하는 체제다. ”

“ 기여경제 안에서는 고용과 임금노동으로 살아가는 것이 아니라 실용가치를 창출하는 일과 기여소득으로 살아간다. ‘기여소득’은 실용가치를 창출하는 일, 즉 자신의 잠재성을 실현하여 사회적으로 가치 있는 앎의 형태를 발명하는 사람들에게 지급되는 소득이다. 가령 프리웨어는 모든 사용자들에게 그 사용과 연구, 수정, 복제, 배포가 기술적, 법적으로 허용되어 있는 소프트웨어다. 이 개방된 소프트웨어는 모든 사람들의 기여에 의해 지속 보완됨으로써 사용자 모두의 앎을 발전시키는 데 기여한다. 이런 프리웨어 개발자들에게 또는 새로운 문화적 가치를 창조하는 비정규직 예술인들에게 기여소득 지급이 가능할 것이다. 기여소득은 임금이나 실업 수당이 아닌 방식으로, 다시 말해 고용이 아닌 일의 관점에서 부를 분배하는 방식이다. ”

“ 의료 현장에서 인공지능이 도입될 가능성이 가장 높은 영역으로 주목받는 분야가 영상 판독이다. 이를테면 소장에 있는 용종polyps은 암으로 발전하기 전에 일찍이 발견하는 것이 중요한데, 이를 인공지능에게 맡기는 것이다. 인공지능이 이런 일을 하려면 수많은 환자들의 영상 사진에서 용종을 찾아 표식을 하고 입력하는 작업이 필요하며, 이 일을 인간이 하고 있다. ”

“ 이른바 콘텐츠 조정이라고 불리는 일도 인간이 인공지능을 도와주는 또 다른 사례다. 우리가 유튜브, 트위터, 페이스북과 포털 등을 많이 보지만 유해한 콘텐츠를 만나기란 쉽지 않다. 포르노그래피, 아동학대, 살인, 자살, 폭력, 욕설, 증오 발언, 인종차별주의, 동성애 혐오, 주류 판매 등 온갖 유해한 종류의 콘텐츠들이 있지만, 짐작하는 것만큼 자주 보이지 않는다. 그 이유는 간단하게도 누군가가 사전에 걸러 주고 있기 때문이다. 흔히 인공지능이 영상과 음성을 인식해 자동으로 필터링한다고 알려져 있지만, 사실 이 일은 인공지능이 수행하기 어렵다. 무엇이 가치 있는 콘텐츠이고 무엇이 걸러야 할 콘텐츠인지 구분해 내는 일이 생각만큼 간단치 않기 때문이다. ”

“ 전쟁의 참상을 고발하기 위해 끔찍한 살해 현장을 찍은 동영상들이 수시로 소셜미디어에 올라온다. 이 콘텐츠가 공익적 목적인지 아니면 단순히 주목받기 위한 시도인지 인공지능이 평가할 수 있을까? 결국, 이 일은 인간의 몫이다. 인간노동자가 직접 콘텐츠를 보고 포르노그래피인지 혹은 끔찍한 폭력 영상인지 평가하고 제거하는 것이다. 우리가 페이스북이나 유튜브에서 불쾌한 경험을 그나마 피할 수 있는 이유는 인공지능을 대신해 유해한 콘텐츠를 실시간으로 제거하는 숨은 인간노동이 있기 때문이다. 인공지능의 커튼 뒤에는 보이지 않는 인간들이 인공지능의 모자란 능력을 채워 주며 인공지능의 일을 부지런히 도와주고 있다. ”

“ 이 크라우드 워크를 수행하는 기업 중에 가장 유명한 것이 ‘아마존 미케니컬 터크(AMT)’다. 아마존은 거대 기술 기업으로서 데이터 처리 업무를 외주로 주는 데 그치지 않고 그 업무를 중개하는 기업을 세웠다. AMT는 데이터 레이블링과 같은 단순 반복적이지만 인간만이 할 수 있는 종류의 일을 수행할 노동자와 이런 종류의 일을 외부에 맡기고 싶은 기업 및 개발자 들을 서로 연결해 준다. ”