H대 클래식기타 동아리 기술 진보를 걱정하는 “로봇의 지배” 읽기 모임

1주차 목표 4.3 월 -p.24 4.4 화 -p.36 4.5 수 -p.51 4.6 목 -p.67 4.7 금 -p.81 4.8 토 -p.102 4.9 일 -p.113 참고일 뿐입니다. 자유롭게 읽고 생각을 나누어 보아요.

저는 4/3 188 page 읽고 있습니다.

1일차... 개념이 확실히 와닿지는 않지만 사람이 직접 수행하기에는 어마어마한 시간이 소요되는 여러 실험을 빠른 시간동안 무한반복해가며 해답을 찾아가는 알파폴드의 등장이 일단 고무적으로 느껴집니다. 새로운 바이러스에 최적인 백신을 찾는데 많은 도움을 주고, 더 나아가 고급 지식이 민주적으로 활용할 가능성이 높아진다는 점에선 일단 AI나 로봇의 발전이 긍정적으로 느껴집니다만 계속 책을 읽을 수록 초조해지는건 왜 일까요??

2일차 이 책의 처음 몇 장을 넘기며 인상적이었던 문구가 “지능을 전기처럼 사용한다"는 것이었습니다. "인공지능을 전기에 비유하는 이유는 어디에나 있고 보편적으로 접근할 수 있으며, 결국 인류 문명의 거의 모든 측면에 닿아 이를 변화시킬 것이라는 의미가 있기 때문이다."p.30 최근 쳇gpt(가 불완전한 상태로 너무 거침없는 대답을 내놓는단 지적은 있지만)의 등장으로 정중한 독촉 영문메일도 작성해보는 체험에 향후 훌륭한 보조자 역할 정도는 맡길 수 있겠단 생각도 듭니다. 방대한 처리를 위해 소모되는 전력량도 스스로 줄여나가는 AI라니…

3일차 오늘은 MS나 구글, 아마존 등 클라우드서비스업체에 대한 이야기가 주제 같습니다. 예전에 사용하던 기업내 서버를 단지 외주 주는 걸 넘어 어마어마한 용량의 컴퓨팅자원을 효율적으로 유지하고 뭣보다 여러 사람의 접근이 용이하게 만드는 토대가 된다는데 그러면서 각종 데이터의 보호가 중요한 문제가 될 것 같습니다. 분야별 전문가들이 최고의 정보를 각각 보유하는 것과 클라우드에 집중된 최고의 정보들을 결합하여 사용 가능할 때 그 차원의 차이도 클 것 같은데 과연 공유와 보호의 적정선은 쉽게 협의가 될 지 궁금합니다. 제가 속한 업계에서도 각종 서류를 클라우드에 올리고(아마 서비스 제공자가 AWS를 이용하니 안전성에 대해선 걱정 안해도 된다 그랬던 것 같은데…) 그렇다고 그 데이터들이 결합하여 개선된 결과를 가져오는진 모르겠고… 이래서 전문가의 해설이 필요합니다. @크리스파파

4일차 실생활에 바짝 다가온 로봇과 AI 하지만 2-3년 전의 기대만큼 상용화의 길은 쉽지는 않은 것 같다. "일단 로봇이 냉장고 앞까지 왔다면 냉장고 문을 열어야 한다. 한 번 직접 열어보고 힘이 얼마나 필요한지 확인해보자. 하지만 단순히 완력의 문제는 아니다. 몸무게가 45킬로그램 이상이라면 누구나 쉽게 냉장고 문을 열 수 있다. 이 상황을 뮬리적으로 생각해보자. 로봇이 냉장고 문을 여는 데 성공하려면 플라스틱 장난감으로는 안된다. 바퀴 달린 아마존 에코로도 할 수 없다. 기계가 넘어지지않고 다른 일을 할 수 있으려면 상당히 무거워야 하고 인간에 맞춰 설계된 환경을 조작하려면 인간의 신체 비율에 매우 가까워야 한다." 일론머스크는 2020년말까지 자율주행 로보택시를 보급한다고 하였으나 우리가 접하는 뉴스는 불법으로 자율 주행하다 끔찍한 사고를 당한 테슬라 운전자에 관한 뉴스다. 여전히 로봇은 달걀과 동일한 크기의 강철을 손으로 들어야할 때 이를 구분하여 적절한 힘을 가하는데 실패하지만 또 우리가 모르는 사이 클라우드에서 제공하는 실시간 정보를 바탕으로 우리를 위협하진 않을지 모를 일이다.

5일차 우리 생각에 AI의 발전으로 가장 먼저 떠올려왔던 자율주행차량은 생각보다 쉽게 도입되기 어렵다는 점을 어제 읽었는데 오늘은 상대적으로 제한된 구역-통제가 원할한 공간에서는 이미 로봇화가 상당히 진행된 사례를 보여준다. 대표적으로 아마존의 물류창고인데 예전에는 한 사람이 하루 19km를 걸어다니며(또는 달리며) 하던 일을 오류없이 자동화된 로봇이 훨씬 빨리 대체해가고 있다. 사람은 여러 과정중 이전보다 훨씬 줄어든 과정을 더 많이 하게 되는데 마치 기계의 일부가 된 것 같다. 쉽게 예측할 수 있듯이 지루한 반복 작업의 결과는 잦은 부상으로 이어진다. 현재 로봇이 대체하기 어려운 기능은 사람의 손의 감각이라고 한다. 동일한 크기의 계란과 돌맹이를 사람은 보지 않고 만지는 것으로 어떤 힘으로 집어 들지를 감각적으로 알 수 있지만 로봇에겐 여전히 이게 어려운 일이다. 만약 손의 감각이 사람 수준에 달하게 되면(이 또한 딥러닝으로 가능할 것 같다.) 그야말로 사람은 불필요한 완전 100% 자동화 로봇의 시대가 열리게 되는데... 음...

6일차 로봇과 AI가 여러 업종에 미치는(미칠) 영향의 사례로 오늘은 소매업계와 의료계를 소개한다. 슈퍼마켓은 70년대 바코드 스캐너 도입이 가장 최근의 혁신이었고 증가하는 온라인시장에 대비해 휴먼터치를 강조해왔지만 팬데믹을 거치면서 아마존과 유사한 물류로봇을 도입하기 시작했다. 물론 효율성면에서 거대한 물류창고와 비교하기 어렵지만 매장 뒷편을 효율적으로 관리하는 시스템을 도입하였고, 또 아마존도 아마존고라는 소매매장을 확대해가는데 이미지 러닝을 통해 소비자가 집어든 물건을 매장 내의 카메라가 놓치지 않고 스캔하여 바로 계산하고 개찰구를 통과할 때 결제가 이뤄지는 100% 무인시스템을 도입했다. 한편 의료계에서는 기술적인 진보에도 불구하고 (환자의 만족도는 높아질 수 있지만) 의사나 간호사의 생산성이 높아지기는 어려운 상황이다. 의사협회 등의 힘도 일반 노동자 단체와는 비교되지 않을 만큼 힘이 세고, 의료분쟁에 대비하는 문제도 복잡하다. 무엇보다 예외 상황에서 AI가 올바른 선택을 할 수 있으리란 신뢰가 없는 게 가장 큰 이슈인 듯 싶다. 의료계에서도 AI 도입의 가장 큰 잇점이라면 "의사를 대체하는 것이 아니라 최고 수준의 의사가 지닌 기술과 경험을 효과적으로 민주화하는 방식으로 의사들을 증강하는 것(p.100)"인데 특히 의사가 부족한 시골이나 제3세계 국가에는 충분히 그 의미가 클 것 같다.

7일차 다시 자동차업계로 돌아와 테슬라와 구글의 기술적인 진보에도 불구하고 상용화에 시간이 더 소요될 것으로 보는 이유를 살펴본다. 현재의 자율주행시스템은 이동 중인 거리를 고도로 정확하게 매핑하는 기술에 의존하지만 예상치 못한 도로폐쇄나 공사, 교통사고, 특히 보행자와의 (무언의 눈짓이나 손짓 등등의) 커뮤니케이션을 통한 신호를 감지하는 것과 같은 류의 부수적으로 보이지만 안전에 지대한 영향을 미치는 요소를 처리할 수 없는 상황인 듯 하다. 상대적으로 통제변수가 덜한 고속도로에서의 자율주행 트럭의 상용화는 훨씬 수월해 보이지만 오류의 결과는 차량의 속도와 측정불가의 운동에너지로 상용화를 위한 인증이 쉽지 않을 것이고, 업계에서도 지도 학습이 과대포장되었다는 지적이 나오고 있다(셀츠 악스마허, 스타스키로보틱스-파산한 트럭자율주행회사 CEO). 기술적인 요인 외에 흥미로웠던 것은 우버나 리프트의 입장이다. 현재 그들의 사업 모델에서 차량의 관리(엔진오일교환, 세차, 타이어교환, 보험가입 등)라는 귀찮은 일들은 모두 차량 소유자의 일이고 우버는 깔끔하게 수수료만 챙기면 되는 상황이었는데 자율주행차량이 도입되면 운전자(대부분 차량소유자)가 없게 되는 것이고 그 일을 우버 자신이 직접 수행해야 하는 상황이다. 가벼운 몸집으로 깔끔하게 수수료만 받던 회사가 렌트카 회사처럼 고가의 차량을 여러 대 소유하고 관리하는 상황... 이 회사를 기술기업이라 할 수 있을까? 이러한 인식때문인지 일론머스크는 차량소유자를 투자자의 개념으로 바꾸려는 노력도 하는 것 같다. 테슬라가 자율주행차량의 중개자 역할을 하겠다고 선언했다고... 하지만 이용자에게는 저렴하게 우버와 경쟁하면서 차량소유자에겐 투자금을 상쇄할만큼의 수익을 보장할 수 있을런지...

로봇의 지배 읽기 2주차 목표 4.10 (월) ~p.126 4.11 (화) ~p.147 4.12 (수) ~p.168 4.13 (목) ~p.187 4.14 (금) ~p.210 4.15 (토) ~p.233 4.16 (일) ~p.257

위의 계획대로 읽고 있지는 않고, 먼저 앞서가고 있는데, 위의 계획 상에 이번 주에 읽게 되는 5,6장은 매우 흥미롭네요. 5장 ChatGPT와 6장 '그렇다면 앞으로 어떤 직업을 선택해야 하는가?'에 대한 내용입니다. ChatGPT로 우리 곁으로 화~악 다가온 AI 서비스는 변화 속도가 너무 빨라서 책 내용이 조금은 뒤처진 느낌이네요. (변화 속도를 보면 그럴 수 밖에 없을 듯 합니다.) 그래서 6장 어떤 직업을 선택해야 할 것인가? 하는 건 참으로 어려운 문제일 수 밖에 없습니다. 그러나 현재 우리가 상상을 못 하는 직업이 계속 생겨날 것으로 보입니다. 자동차가 나왔을 때, 스마트폰이 나왔을 때 등등을 생각해보면 사람들은 새로운 직업? 역할? 등을 만들어 낼 것입니다. 우리에게 정말 필요한 건 나이에 관계없이 새로운 것에 관심을 갖고, 그쪽으로 이동할 수 있다는 마음가짐이 아닌가 싶습니다. (굳이 '도전'이라는 거창한 단어까지 사용하지 않은, 썼다가 지운 이유는, 우리가 안 가면, 그리로 가라고 강제로라도 등떠밀어 보낼 테니까요.)

먼저 읽는 분의 글을 맛보고 읽기 시작하면 스포일러가 되는 것이 아니라 더 깊게 읽을 수 있다는 장점이 있습니다. (그 반대도 마찬가지... 이미 읽었는데 다른 사람이 후에 같은 책에 대해 이야기할 때 이야기는 더 깊어지는 것 같습니다.) 고무적이예요~~

8일차 기술의 발전이 정말 빠르다고 생각하지만 이는 어디까지나 정보 통신 분야(bit)에서의 상황이고 atom의 세계는 1800년대 후반에 비하면 정체기라 할 수 있다(p.114(. 그 와중에 딥러닝이 단기간에 성과를 낼 수 있는 가장 유망한 분야는 새로운 화합물의 발견이다(p.117). 새로운 물질을 만들어내기 위한 실험의 과정은 끊임없는 시행착오를 거쳐야 하는 노동 집약적 과정인데 실제로 아마존이나 구글에서는 전문화된 과학 연구에도 클라우드 기반 딥러닝 도구를 도입하고 있고, 이는 화학이나 재료공학자들이 머신러닝 전문가가 되지 않고도 인공지능의 힘을 사용할 수 있게 한다는 점을 의미한다(p.119). 3년 간의 지난한 팬데믹의 기간... 그 기간이 길게 느껴졌지만 어쩌면 이러한 머신러닝을 통한 새로운 백신의 개발 과정이 없었다면 그 기간이 더 길어졌을 수도 있을 것 같다.(물론 음모론으로 보는 사람의 눈에는 이 모든 게 사기라고 할지도..) 또 한 가지 중요한 사실은 세계 각국의 연구자들의 연구 결과가 쏟아져나오는 상황에서 인접한 연구의 결과를 살펴봐야 하는 상황이라면 아무래도 협업의 의미에서 지체가 많이 되겠지만 인공지능을 통해 최신의 정제된 다양한 기술이 전체적으로 관리된다면 이 또한 AI의 놀라운 성과일 것이라 생각된다. 하지만 저자는 그럼에도 불구하고 생명을 다루는 분야에서 각종 실험의 최종단계는 조심스러울 수밖에 없는 임상의 과정이 필수적으로 들어가야 하기때문에 이전에 비해 드라마틱한 속도의 진전은 기대하기 어렵다는 입장인 듯 하다.

9일차 ~p.147 오늘은 4장 인공지능의 진화과정을 간단히 소개하고 있는데 과학의 범위의 가변성을 생각하지 않을 수 없습니다. 특정 시점에 우세하고 어쩌면 유일한 방법이라고 생각하면서 폐기대상으로 여겼던 다른 방법이 이후에 대세가 되기도 합니다. 전통적인 수학자들은 확률을 수학의 범주에 넣기에 주저했다는 이야기를 들은 것 같은데(아닐수도...) 오로지 논리적인 설명이 가능한 것만 수학의 범주로 보고 왜 그렇게 되어가는지가 언제든 설명되어야 하는 수학의 전통적인 특성만으론 설명하기 어려운 현실이 있기때문이 아닐까 싶습니다. 통계와 확률이 논리적으로 설명되지는 않지만 그냥 현실의 상황을 보여주는 도구로 사용되는 것처럼 딥러닝의 세계도 비슷한 과정을 거쳐온 것 같습니다. 이미지러닝이라는게 어쩌면 통계와도 비슷한 면이 있는 것 아닌가 싶습니다. 모집단이 거의 현실을 담을 수 있을만큼 거대해진 상황에서 추상적인 로직이 해결하지 못하는 문제를 해결할 수 있는 수단이 되는 것 아닌가 싶네요.(수학을 멀리한지 30년된 문과생이라 비약이 있더라도 이해바랍니다.)

10일차 ~p.168 하드웨어를 병렬로 연결해서 수 없이 많은 데이터를 효과적으로 돌리면 되는 간단한 문제인 줄 알았는데 여기서 멈짓하게 됩니다. 연구 기관인 오픈AI(지금은 쳇GPT로 모르는 사람이 없는 기관이 되었네요.^^)의 분석에 따르면 최첨단 인공지능 프로젝트에 필요한 컴퓨팅 리소스가 "기하급수적으로 증가"해 3.4개월다 2배로 늘고 있고 페이스북처럼 자금력이 충분한 회사도 앞으로 재정적으로 지속가능하지 못할 수도 있다니...(p.163) 실례로 브레이크아웃라는 게임(아마도 우리에겐 벽돌깨기로 알려진 게임인 듯합니다.)에서 초인적인 능력을 보여주던 시스템이 패들을(사실은 픽셀을) 조금만 위로 옮겨 놓기만해도 속수무책이 되고, 제대로 반응하기 위해 처음부터 다시 학습이 필요하다니 대체 인간이란 존재의 적응력을 오히려 존경해야 하는게 아닌가 싶습니다. 이런 분위기에서 저자는 인공지능의 겨울이 오지 않을까 걱정을 하기도 합니다. 인공지능이 일부-아마도 테슬라의 앨런 머스크-의 의도에 따라 과대포장되어있고 이처럼 하드웨어의 규모 증대로만은 한계에 부딪치게 될 것이기때문에 뭔가 지금과 다른 근본적인 혁신이 있어야 할 것이라고...

11일차 ~p.187 인공지능에 대해 알아가면서 일반적인 것과 특별한 것에 대해 생각해 봅니다. 특별한 목적을 위해 무언가를 준비하는 것은 상대적으로 쉬운 일이지 않나... 반면 세상사 일반적으로 벌어지는 일에 대해 현명하게 살아가는 법을 준비 해야 한다면.... 장기적으로는 후자가 쉬울 수 있지만 단기적으로는 어려울 것 같습니다. 이는 인공지능에 상식의 영역을 훈련시키는 것이 단기간에 어려울 수도 있다는 반증이 아닐까 싶습니다. 인공지능에게 인간 수준 이상의 의사소통, 추론, 새로운 아이디어를 요구하는 것-"일반 인공지능"은 현재 인공지능이 당면한 중요한 과제인 듯 합니다. 이를 위해 인간의 언어를 이해하는 방법으로 이 문제를 돌파하려는 경향도 있습니다. 우리도 이제는 잘 알고 있는 오픈AI의 GPT(이 책은 대략 2020년 이전에 집필 중이었던 것 같습니다.)도 여기에 해당하는데, 관련 연구자들은 GPT-2가 제시된 한 두 문장의 텍스트를 이용해서 긴 이야기를 만들어내는 능력에 감탄했다고 합니다. 무엇보다 이야기 안에서의 일관성에 놀란 것 같습니다. 책에서는 유니콘을 봤다는 문장을 던져서 더 긴 이야기를 기술하도록 실험했는데 "뿔이 네 개달린 유니콘"처럼 유니콘의 정의에 부합하지 않은 문장을 만들어내기도 하면서 처음 언급했던 일반적인 지식, 즉 상식을 채우는 것은 그저 하드웨어의 용량을 늘리는 것으로는 불가능할 수도 있다는 지적도 있습니다. 사족 이쪽 계통은 관련 연구에 진전이 있을 때는 이를 공유하는 전통이 있는데 오픈AI 경영진은 오남용의 이유를 들어 GPT-2 코드의 공유를 거부하면서 비난을 많이 받았다는 이야기도 소개됩니다. 최근 챗GPT가 일반인에게 공개되고 관심 있는 많은 분들이 테스트한 결과 굉장히 따뜻한 심성을 가진(예의 바른), 하지만 모르는 주제에 대해서도 구라를 잘 떠는 남성이라는 결론을 내리는 분들이 많은 걸 보면 비공개 결정이 허무맹랑한 주장은 아니었던 것 같기도 합니다. 꼭 팩트체크가 필요하다고...

12일차 (~p.210) 시의회가 시위대에 허가를 거부했다. 그들은 폭력을 두려워했기 때문이다. 누가 폭력을 두려워했을까? 시의회는 시위대에 허가를 거부했다. 그들은 폭력을 옹호했기 때문이다. 누가 폭력을 옹호했을까? (p.196) 각 두 번째 문장의 "그들은"이 누구인지 왠만한 사람이라면 쉽게 알 수 있다. 하지만 인공지능에게는 이를 구분하는 것이 쉽지 않은 것 같다. 최고의 컴퓨터 알고리즘도 이 문제에 대해 찍는 정도의 정답율을 보인다고 한다. 사람에게는 전혀 어렵지 않은 문제를 최고의 인공지능이 답하지 못하는 그 간극은 상식의 영역이다. 그렇다면 상식에 해당하는 지식이 인공지능에 학습시키면 인간과 같은 생각이 가능할까? 인공지능이 특정 사물을 구분하기 위해 특정 사물에 레이블을 붙여 수 천 번을 교육시키는 것에 비해 엄마가 아기에게 저게 개라고 알려주면 이후 바로 상황과 종류에 상관없이 개를 알아보는 것은 상식의 영역과는 다른 인지 과정의 차이가 있는 것이라 생각할 수 있다. 이러한 한계를 극복하고 진짜 생각하는 기계를 만드는데 걸리는 시간에 대한 전문가들의 예측 또한 불가능한 것 같다. 예측자에 따라 10년부터 180년까지 그 범위가 너무 넓어 예측치라고 하기도 어렵다. (5년 전에 했던 이 질문을 지금 다시 한다면 또 그들은 10년부터 180년까지라고 말할 것이다.) 물리학자들이 핵융합을 놓고 자주 하는 오래된 농담이 있단다. "그건 항상 30년 뒤에 일어날 일지지." 아무튼 인공지능 연구자들이 생물학상의 신경을 참고하는 것이지만 또 그 반대로 인공지능의 성과가 생물학 연구의 진전에도 도움을 준다는 점도 흥미롭다.

13~14일차 (~p.257) 가족들과 가벼운 여행을 다녀오느라 어제 오늘 분량을 함께 읽었습니다. 이틀 분량은 6장 "사라지는 일자리, 인공지능이 경제에 미칠 영향"인데 읽을 수록 암울하기만 합니다. 과거에도 기술의 발전은 있었지만 이로 인해 사라진 일자리가 대체되어 왔습니다. 1차산업 종사자(농어민)가 2차산업 종사자(공장노동자)로 바뀌고, 다시 3차산업 종사자(서비스업)로 바뀌어가면서 큰 실업의 문제는 발생하지 않았지만 인공지능으로 인한 노동시장의 변화는 그 양상이 다른 것 같습니다. 특히나 코로나 기간을 거치면서 사람들이 대면하지 못하는 상황은 자동화를 더욱 가속화했고 이는 포스트 코로나에도 과거로 회귀하지는 않을 것으로 예상됩니다. 사람을 줄이고 그 자리를 기계로 대체한 환경에 익숙해진 기업은 더 효율적이고 관리가 편한 상태로의 가속화를 진행하는데 결국 저소득층의 단순 반복 직업부터 고소득 화이트컬러 영역의 업무까지 대체될 것으로 예상됩니다. 그렇다면 어떤 직업이 유망할까요? 뻔한 이야기이지만 아마도 이 책을 읽는 많은 사람들이 가장 중요하게 생각할 것 같아서 책 구매에 조그마한 동기라도 남겨두려고 따로 소개하지는 않겠습니다. ^^ 아무튼 인공지능이 사회 전반에 미칠 혜택과는 무관하게 개인 개인의 일자리에는 악영향을 미칠 것은 분명해 보이고, 이에 대한 별다른 준비가 안된다면 결국 수요붕괴로 기업들에게도 암울한 미래가 될 수 있을 것 같습니다. 이제 진정 기본소득, 특별히 근로의욕을 저해하지 않는 기본소득, 정치인에게 휘둘리지 않는 기본소득(선거철마다 "나는 기본 소득을 50% 인상시키겠습니다!!" 같은...)의 고민이 필요한 시점 같습니다.

로봇의 지배 읽기 3주차 목표 4.17 (월) ~p.278 4.18 (화) ~p.287 4.19 (수) ~p.298 4.20 (목) ~p.312 4.21 (금) ~p.326 4.22 (토) ~p.337 4.23 (일) ~p.347 그믐까지 가야하는데 3주차에 마무리 되는 일정이 되어 버렸는데 남은 열흘간은 되새기는 기간으로…

15일차 (~p.278) 인공지능의 악영향을 다룬 부분은 중국의 신장 위구르를 조명하고 있습니다. 단지 민족적인 이질성으로 인한 탄압 정도로 생각했습니다만(그 자체로도 끔찍하지만) 각종 감시 기법과 기술 성능을 실험하기 위한 시험장으로 활용하고 있다니... 전체주의 국가에는 정책이 수립되면 일사불란하게 공산당을 중심으로 모든 방향이 그 정책을 향하게 됩니다. 중국은 알파고가 이세돌을 바둑으로 물리치는 것을 시작으로 서양에 비해 늦게 시작했지만 일단 정책이 수립되니 이미 생성된 첨단 지식을 거침없이 흡수하고 서양에 비해 덜 민감한 각종 데이터를 무제한으로 사용할 수 있는 잇점(?)까지 있어서 이미 특허출원수는 미국을 앞질렀고 질적으로도 조만간 미국을 추월할 것으로 예상됩니다. 어느 연구자는 중국의 기술이 서양 기술의 모방 수준이라고 무시하기도 하지만 아무런 제재없는 인공지능의 개발이 어떻게 활용될지 걱정이 되는 부분이 있습니다.