[책걸상 함께 읽기] #6. <로봇의 지배>

오타. ‘기본소득,공상 혹은 환상’ 2022년 출간이네요. 책걸상에서도 언급해주셔서 구입했는데 이번 기회에 읽어야겠습니다.

로봇-인공지능 같은 과학 기술 발전에 따른 ‘자동화’가 우리의 삶, 특히 일자리(자본, 노동, 권력)에 미치는 영향을 산업 혁명부터 지금까지 넓은 맥락에서 살펴보고 싶다면 칼 베네딕트 프레이의 『테크놀로지의 덫』(에코리브르, 2019년)이 좋습니다. 이 책은 저도 좋아하고 자주 인용하는 책입니다.

와 YG님의 지식큐레이션 너무 유익해서 기대감으로 행복하면서도 한편 압도되네요ㅋㅋㅋㅋ 나를 죽이지 못한 시련은 나를 강하게 만든다고 하더니 이 책들 다 읽고 나면 저희 독지가들 엄청나게 강해지겠어요ㅋㅋㅋㅋ 멋진 큐레이션 감사합니다!! 일단 로봇의 부상부터 차근히 읽어볼게요~

저는 몇 년 전 ‘로봇의 부상’을 아주 흥미롭게 읽었었는데, ‘무어의 법칙’마저 이제 무효하다는 이야기도 들리고 시간이 지날 수록 이 책의 내용도 점점 outdated되었을거라는 생각에 가끔 다른 사람한테 강력추천하면서도 찝찝했거든요. 그런데 YG님께서 업데이트를 강권하시니 장바구니에 담겨있던 걸 얼른 결제해서 3장까지 읽었는데, 최신 동향을 엿듣는 재미는 있지만, 과거부터 하나하나 혁신을 스토리텔링해주는 전작에 비해, ‘빗나간 예상’, ‘걸림돌’, ‘아직 멀었음’, ‘이 회사 망하고 저 회사는 투자엄청하고’같은 얘기 위주같아서, 방송 전에 나머지를 얼른 더 읽어봐야겠습니다 이번 판데믹 이후 인간접촉을 불필요하게하는 기계의 비인간성에 대한 관점/가치의 변화라던가, 자율주행에 대해 여전히 지나친 낙관, 우버가 완전자율주행차량을 도입하면 사실상 테크기업이 아니라 렌터카회사가 된다-는 내용이 기억에 남습니다 아마존go편의점의 무인판매방식을 체험해보고싶다는 호기심이 들면서, 동시에 이게 보편화된다면 얼마나 많은 일자리가 사라질 건지 생각도 들고, 또 코로나가 극심할 때 고객대면을 하는 저임금 서비스직이 위험에 노출되면서 그 뒤로도 복귀하지않아 지금도 미국의 많은 소매업종이 극심한 구인난에 시달린다는걸 생각해보면 6장을 얼른 읽어보고싶어지네요!

‘로봇의 부상’을 읽었을 때 쯤에 ‘제2의 기계시대’라는 책도 읽었었는데 그 저자들이 쓴 ‘머신 플랫폼 클라우드’랑 ‘포스트피크’는 아직 읽어볼만 할까요? 사실은 인공지능에 대해 비판적인 견해를 가진 것으로 보이는 ‘AI지도책(케이트크로포드/노승영 역)’이 지금 가장 끌리긴 합니다 이렇게 읽어보지도 않은 책 제목을 마구 던지는건, YG는 다 읽어봤을 것 같기 때문입니다. YG님은 사실 튜링테스트를 통과한 책추천인공지능이 아닌지 의심이 됩니다. 헤이시리,빅스비,알렉사처럼 헤이와이쥐, 이런이런 책 추천해줘! 하면 0.8초만에 13권 추천해주실 것만 같은데, 사실 사람처럼 보이기 위해 그 속에 매번 ‘강한 과학’이나 ‘과학의 품격’을 끼워넣도록 프로그래밍된 거잖아요. 맞죠?

멋지십니다… 방송에서 써먹겠습니다!! (출처 밝히구요 ㅎㅎ)

@SOO 아, 그 두 책도 제가 치운 책들입니다. 앤드루 맥아피와 에릭 브린욜프슨은 로봇, 인공지능과 일자리의 미래와 관련해서 가장 비관적인 예측을 하는 저자인데요. 마틴 포드도 『로봇의 부상』 때까지만 하더라도 그 둘과 궤를 같이 했었는데 이번 『로봇의 지배』에서는 (제목과는 달리) 논점이 훨씬 풍부해졌습니다. 저는 이렇게 새로운 정보에 맞춰서 자신의 입장을 교정하는 저자들이 좋더라고요.

머신러닝 파이프라인 / 영상입니다 / 결국 사람손으로 다! 해야한다는.. https://www.linkedin.com/posts/akmel-syed_ml-pipelines-probably-seen-this-1-before-ugcPost-7024108860843954176-YGvK?utm_source=share&utm_medium=member_android

오늘(2월 6일)과 수요일(2월 8일)에 책걸상 <로봇의 지배>편이 업로드됩니다... 많은 청취 부탁드려요... 정말 좋은 책이니 책도 많이 읽어주시구요..^^

오늘과 수요일 방송에서는 최근 화제가 된 챗GPT를 중심으로 주로 인공지능(AI)의 가능성에 대해서 얘기를 하고 있는데요. 생각해보니, 최근에 함께 읽으면 좋을 법한 다른 책을 전혀 언급하지 않았더라고요. 『노동자 없는 노동』(롤러코스터). 제가 최근에 <기획회의>에 소개한 내용을 아래 옮기니 관심 있으신 분은 한번 살펴보세요.

무심히 지나쳤겠지만, 항상 궁금했을 겁니다. 가끔, 인터넷에서 특정 서비스를 이용하고자 가입할 때 ‘봇’이 아닌 ‘인간’임을 증명하라는 요구를 받을 때가 있습니다. 가만히 생각해보세요. 한때는 해상도가 낮아서 희미하게 보이는 어려운 단어의 철자를 입력하길 요구받았습니다. 그러다, 어느 순간에는 동물 사진을 보여주면서 ‘고양이가 있는 사진을 골라요!’ 같은 요구를 받았었죠. 요즘에는 또 유행이 바뀌었습니다. 서로 다른 제각각의 환경에서 찍은 도로 사진을 놓고서 ‘신호등이 있는 사진을 골라요!’ ‘버스가 있는 사진을 골라요!’ 같은 요구에 응하며 인간임을 증명해야 합니다. 왜 우리는 이렇게 인간임을 증명했을까요? 이유가 있습니다. 세 살 정도의 시지각 지능을 가진 인간이라면 누구나 언뜻 보기에는 비슷해 보이는 귀여운 치와와의 맛있는 초코칩 머핀 사진을 정확하게 구분할 수 있습니다. 하지만, 인공지능이 치와와와 초코칩 머핀 사진을 구분하려면 엄청난 양의 학습 데이터가 필요합니다. 그렇다면, 인공지능 학습에 동원할 치와와와 초코칩 머핀 사진은 어떻게 확보할 수 있을까요? 이게 말처럼 쉽지 않습니다. 왜냐하면, ‘치와와’ 혹은 ‘초코칩 머핀’으로 이름표가 붙여진 많은 양의 사진이 필요할 테니까요. 누군가는 치와와 사진과 초코칩 머핀 사진을 먼저 분류하고 나서 각각 이름표를 붙이는 수고를 해야 합니다. (이걸 ‘라벨링(labelling)’이라고 합니다.) 눈치 빠른 분은 감 잡으셨죠? 우리는 신호등 사진을 신중하게 골라 인간임을 증명하며, 자율 주행 자동차의 인공지능을 학습시키는 데이터 라벨링 작업에 자신도 모르게 동원되는 것입니다. 구글과 같은 서비스를 이용하는 대가로 우리의 시간과 주의력을 내주는 셈이죠. 하지만, 이렇게 무차별 이용자를 상대로 눈속임하는 일만으로는 역부족입니다. 결국에는 집중적으로 인공지능 학습 데이터를 라벨링하는 노동력이 필요합니다. 최근 나온 『노동자 없는 노동』(롤러코스터)은 겉으로는 사람 따위는 필요 없는 것처럼 보이는 글로벌 테크 기업의 인공지능 알고리즘이 사실은 수많은 사람의 피땀에 의존하는 현실을 고발합니다.

저자 필 존스는 아프리카 케냐의 사막 지대에 자리 잡은 세계 최대 난민촌 다다브에 사는 한 여성의 하루를 소개하면서 본문을 시작합니다. 그녀가 하루 동안 할 일은 이렇습니다. “동영상에 라벨을 지정하고, 짧은 녹취록을 만들고, 알고리즘에 각양각색의 고양이 사진을 식별하는 방법을 알려주는 것”입니다. 주로 마우스를 클릭하는 이런 ‘클릭 노동’은 “불안정하고 고될 뿐만 아니라 작업 시간이 아닌 완료한 작업 건수를 기준으로 임금을 받기” 때문에 1시간 동안 버는 돈은 1달러(약 1,260원)가 안 됩니다. 그녀가 난민촌에서 선택할 수 있는 극소수의 ‘공식’ 노동이니 이거라도 고마워해야 할까요? 실제로 그렇게 생각하는 사람이 많습니다. 우간다, 케냐, 인도에 거주하는 난민의 생존을 돕는다는 비영리 플랫폼 ‘사마소스’가 이런 노동에 ‘미세 노동(micro work)’이라는 이름을 붙인 이유도 이 때문입니다. 공식 금융 영역에서 대출받지 못하는 가난한 사람에게 돈을 빌려줘서 자립을 돕는 운동으로 한때 유명했던 ‘소액 대출(microloan)’에서 따온 말이니까요. 이런 클릭 노동 혹은 미세 노동을 옹호하는 이들의 논리는 이렇습니다. 구글, 애플, 아마존, 테슬라 같은 기업은 끊임없이 자사의 인공지능을 훈련 시킬 데이터의 라벨링 작업이 필요합니다. 이런 라벨링 작업을 노동자에게 정당한 대가를 지불하면서 진행하려면 엄청난 비용이 발생하고, 그것은 이들 기업이 주도하는 인공지능 혁신을 가로막겠죠. 그런데, 전 세계 곳곳에는 시간당 1달러가 아쉬운 수많은 사람이 있습니다. 케냐의 난민촌, 경제가 붕괴한 남미의 베네수엘라, 남아시아의 거대 빈민촌(슬럼) 등에 사는 가난한 사람들이죠. 이들도 손에 스마트폰은 쥐고 있어서 언제든 전 세계 곳곳으로 연결될 수 있습니다. 물론, 이들도 인간이니 치와와와 초코칩 머핀 사진 정도는 쉽게 구분할 수 있고요. 이 둘을 효과적으로 연결하면 어떨까. 기업은 시간당 1달러도 안 되는 싼 노동력을 확보해서 자사가 원하는 라벨링 작업을 효과적으로 진행할 수 있고, 가난한 사람은 시간당 1달러라도 벌어서 생계에 도움을 줄 수 있으니 좋은 일 아닌가. 인공지능과 ‘인간 지능’의 놀라운 협업!

필 존스는 바로 이런 시각에 맞섭니다. 몇 가지 이유가 있습니다. 그가 보기에 미세 노동은 단기적인 임시 취업, 무보수 노동(인턴십), 불완전 취업이나 노동 빈곤과 유사한 특히 2008년 금융 위기 이후 전 세계의 새로운 표준이 된 ‘하등 취업’의 한 가지 사례에 불과합니다. 이것은 미세 노동 종사자가 누구인지를 보면 알 수 있습니다. 미세 노동자는 남미, 남아시아, 아프리카에만 있는 것이 아닙니다. 미국이나 유럽의 “실직 교사, 거동이 불편한 전문직 종사자, 퇴역 군인, 광장 공포증이 있는 작가” 같은 이들도 공식 노동 시장에서 밀려나면 결국 마우스를 클릭하면서 미세 노동 시장으로 끌려 들어옵니다. 이런 현상이 가속화할 때 노동 시장은 어떻게 될까요? (“임금 수렵 채집 시대의 등장.”)

미세 노동이 겉으로 드러나지 않으면서 문제는 더욱더 커지죠. 예를 들어, 미국에서 시험적으로 운용 중인 음식 배달 로봇은 멀리 콜롬비아에 있는 미세 노동자가 부분적으로 조종합니다(시간당 2달러). 로봇 서비스가 제대로 작동하려면 꼭 필요한 “인간의 감독과 교정이” 미세 노동자에게 저임금 외주로 맡겨지는 것이죠. 인간 노동이 로봇 노동의 부품처럼 되는 상황이죠. 또 다른 문제는 훨씬 더 끔찍합니다. 미세 노동자는 자기가 어떤 서비스를 위해서 동영상이나 사진에 라벨링을 하고, 녹취를 만드는지 알지 못합니다. 예를 들어, 어떤 난민촌의 미세 노동자는 난민을 효과적으로 감시하는 서비스를 위해서 라벨링 작업을 합니다. 브라질의 슬럼에서 미세 노동에 종사하는 누군가는 드론 사진에 라벨링을 하는 작업을 합니다. 나중에 그 작업의 결과물은 공권력으로 빈민촌을 효과적으로 쓸어버리는 데에 활용될 수도 있습니다. 안면 인식 서비스의 인공지능을 위한 미세 노동은 결국 신장 위구르 자치구의 중국 내 소수 민족을 탄압할 목적으로 쓰일 수가 있고요. 세상에서 가장 힘없는 약자가 무심코 한 미세 노동이 바로 자신 혹은 그들과 처지가 비슷한 이웃을 탄압하는 데에 쓰이는 비극! 더구나 이들은 뿔뿔이 흩어져 있는 데다가 서로의 존재도 알 수 없어서 과거에 공장 노동자가 그랬듯이 연대하고 저항하는 일마저도 불가능합니다. 연대의 원천적 봉쇄!

어떻습니까? 필 존스가 『노동자 없는 노동』에서 펼쳐 보이는 미세 노동의 민낯은 우리가 알지 못했던 혹은 알려고 하지 않았던 인공지능 알고리즘이 지배하는 지금 세상의 진실입니다. 이 책을 덮고 나서 느꼈던 무력감은 이런 흐름을 막을 뾰족한 방법을 찾을 수 없기 때문입니다. (물론, 저자는 각성과 연대와 실천 또 희망을 말합니다만.) 국내의 인공지능을 둘러싼 논의에서 공백으로 빠져 있는 대목이 바로 미세 노동 혹은 “루프 속 인간(human-in-the-loop)”에 대한 고민입니다. 존스의 책에 더해서 이미 2018년 6월에 「루프 속의 프레카리아트: 인공지능 속 인간 노동과 기술 정치」(2018년 6월) 같은 연구 성과를 펴낸 하대청 같은 과학학자의 후속 작업을 기대해 봅니다.

@SOO 그리고, 저는 인공지능(AI)이 아닙니다. 이렇게 드라마를 좋아하는 인공지능이 있나요? :)

월요일 방송에 언급하신 마틴포드의 책중에 AI 마인드 읽었는데요. 인터뷰 집이라 대화하는것 처럼 읽기 쉬웠어요. 마틴 포드의 저서 3권중에 저희집 청소년에게 보여줄 책으로 한권을 꼽으라면 AI 마인드가 아닐까 생각했어요.

『AI 마인드』를 진행하면서 인공지능(AI) 연구자와의 대화가 『로봇의 지배』를 쓰는 데에 많은 영향을 준 것 같아요. 마틴 포드가 핵심을 포착해서 정리하는 능력이 뛰어나서 거의 요즘의 인공지능 연구의 최신 트렌드를 정리했다는 인상도 받았습니다.

방송 듣고 깔끔하게 로봇의 부상 건너뛰고 로봇의지배 구입했습니다. 다 읽는 건 힘에 부쳐서요.

https://openai.com/blog/chatgpt/ 오늘 책걸상 방송에 나왔던 chatGPT 사이트 입니다.