[문예출판사] 에리히 프롬 신간 <희망의 혁명> 함께 읽기

미션1. (61p 독서 완료) 먼저 미션에서 언급한 논점은 세밀하게 따져보면 2단계로 해석됩니다. 첫째는 AI 기술 개발을 지속할 것인지 멈출 것인지, 둘째는 지속하기로 결정했다면 개발 시 그 속도를 전 인류적 차원에서 함께 조절 및 통제할 것인지 아니면 개개인 또는 국가 및 기업의 자율적 역량에 따라 그저 놔둘 것인지로요. 사실 첫 단계에서 아마 영구불변으로 인공지능 개발을 멈춰야 한다고 주장하는 사람은 많지 않을 것으로 보입니다. 엘빈 토플러가 <부의 미래>에서 주장했듯이 혁명의 물결은 거스를 수 없는 법이죠. 인공지능 개발은 인류가 직면한 정치, 경제, 사회, 환경 등의 문제를 개선하기 위해서라도 계속 이루어져야 할 것입니다. 다만 두 번째 단계에서는 의견이 격렬하게 대립할 것 같네요. 저는 개인적으로 인공지능 개발의 속도를 전 세계가 합의하여 조절해야 한다고 생각합니다. 왜냐하면 개발하는 주체가 인류애를 가진 독존적 개인이 아니라 이윤을 추구하는 기업이나 국익을 우선하는 국가이기 때문입니다. 선량한 시민이 모인 국가는 선량한가라는 주제로 지속적인 토론이 이루어져왔고 그 토론의 강력한 한 축은 그럴 수 없다는 것입니다. 개인의 선의는 절대 집단의 선의가 될 수 없음을 우리는 역사적으로도 잘 알고 있습니다. 사회적 관계 속에서 그 압력을 거스를 수 없는 인간은 자신의 뜻과 반하더라도 인공지능을 계속 개발할 것입니다. 다른 기업이나 국가가 달콤한 과실을 선점하기 전에 더욱 그리하겠지요. 고삐 뿔린 망아지처럼 눈앞만 보고 달리게 될 것입니다. 물론 그러한 움직임을 제어하려는 사회의 움직임도 있겠지만 새로운 물결 속에서 도태될 수 있다는 두려움은 기업과 국가를 잠식하여 더욱 그들만의 경쟁을 부추길 것입니다. 마사 누스바움이 이야기한 두려움을 우리 모두가 연대하여 극복하지 못하면 미래는 더욱 암울한 방향으로 흘러갈 뿐입니다. 인류는 전 지구적으로 심각한 문제가 될 수 있는 것을 함께 논의하며 조절하기 위해 애쎴습니다. 핵폭탄으로 인한 세계 멸망을 막기 위해 핵보유국을 더 늘리지 않으려는 제도적 규제를 합의하기도 하였고, 기후 위기를 극복하기 위해 탄소 중립 정책 및 재생 에너지 사용 비율을 높이려는 세계 협약도 체결하였습니다.(물론 핵폭탄을 먼저 제작한 나라나 탄소를 이미 많이 배출한 나라가 세계적으로 강력한 힘을 행사하는 선진국이라 그 아이러니를 지적하면 조약 자체의 모순성을 부인할 수는 없지만, 지구의 비극적 결말을 막기 위한 세계의 합의라는 부분에 좀더 초점을 맞추고 싶습니다.) 인공지능의 명과 암은 분명합니다. 그리고 암은 명에 비해 그 위험이 실제 피부에 와닿지 않아 많이 축소되어 있습니다. 인간의 사고 이상을 뛰어넘어 무언가를 만들어내면서 독자적으로 판단할 수 있는 생성형 인공지능이 아무 대비 없이 예측불가능한 어떤 순간에 탄생할 지도 모르는 것입니다. 그러니 다함께 숙의하여 적절하게 속도를 조절해야만 하며, 발달하는 문명의 속도에 인간의 정신과 문화가 지체되지 않도록 노력해야만 하겠습니다.

미션 1. AI의 개발 속도를 조절하자는 것은 어떤 식이든 AI의 개발은 지속된다는 것이겠죠. AI로 인해 인간의 직업의 축소되고 가짜 뉴스의 범람은 걱정거리가 분명합니다. 하지만 AI의 개발은 결국 인간의 편리를 위한 것에서 시작된 것이죠. GhatGPT를 사용한 예를 본적이 있어요. 질문 몇 줄로 서치와 문서작업이 한 번에 되는 것이 편리하더라구요. 그동안 힘들게 자료찾고 보고서 작성하는데 많은 시간을 보낸 것을 허무하게 만들었습니다. 개인적으로 GhatGPT를 써서 일에 적용해보고 싶었습니다. 일상생활에 도움을 받기 위해 기술을 발전시키는 것이기에 계속 계발되어 사용될 것 같습니다. 다만 더 확대된 AI의 개발이 인간의 통제권을 뺐는다는 두려움이 있지만 이또한 개발자인 인간이 사전에 제한을 두어야할 부분이긴 합니다. 닥치기 전까지 어떤 문제점을 가지고 있는지 정확히 알수는 없지만 이미 개발되어 만들어진 상태를 늦춘다고 늦추어 질 것같지도 않도 더 비밀화되어 개발된 상황을 더 알 수 없게 되는 것은 아닌지 모르겠네요.

저는 "자연을 두고 승리의 정점에 서 있던 인간이 어쩌다 자기 창조물의 노예가 되어 자신을 스스로 파괴할 심각한 위험에 처하게 됐을까?"라는 문장이 눈에 들어왔어요. 단순히 기술의 발전에 매료되고 맹목적으로 따르는 것이 아니라, 그 기술 개발이 어떤 결과물을 가져올지에 대한 자각도 필요하다 생각합니다. 마냥 빠르고 편리한 것들이 좋은 점만 있지는 않을 테니까요. 사람들은 점점 게을러지고, 조금의 불편도 겪지 않으려고 아등바등 살아가는 것 같아요. 이게 더 빨라? 저게 더 빨라? 속도감에 미쳐있는 사람들처럼 느껴지기도 하는데, 저는 그 모습이 굉장히 무섭습니다. 뒤를 돌아보지 않는 것 같아서요. AI, 챗GPT의 발전을 찬양만 할 것이 아니라 경각심을 갖고, 이것의 발전이 근미래 우리에게 어떤 영향을 미칠지도 심도 있게 고민해 봐야 한다고 생각합니다.

챗GPT, AI가 우리의 삶에 어떤 영향을 미치는지 생각해보면 시스템의 통제권을 잃어가고 있다는 에리히 프롬의 견해는 지금까지도 유효한 분석인 것 같아요. 읽으면서 그 통찰력에 놀랐습니다. 저는 시스템의 통제권을 잃고 있다는 문제 의식 설정에 동의하며, 그 속도 조절이 필요하다는 주장에도 공감합니다. 먼저 통제권이라는 말은 물질적인 소비행동 뿐만 아니라 그 기저에 있는 사고방식에까지도 널리 적용할 수 있을 것 같아요. 특히나 이제는 챗GPT처럼 AI가 콘텐츠를 생산해내면서 기술이 ‘직접적으로’ 우리의 생각에도 영향을 미치게 되었죠. 예컨대 AI가 학습을 통해 쏟아낸 혐오표현은 생명 전반에 대한 존중을 사라지게 하고, 각종 검색엔진이나 챗GPT는 편리하게 과제, 업무를 수행할 수 있게 해 주었지만 동시에 배움의 과정에 따르는 정성, 스스로 생각하는 과정에 수반되는 깨달음의 기쁨을 반감시키는 것 같습니다. @땡스 님께서 지적해주신 대로 세대에 따라 사람들의 특성도, 인식도 많이 달라지는 게 분명하고요. (이를 두고 인간성의 상실, 후퇴가 이루어지고 있다고도, 진보가 이루어진다고도 볼 수 있을 것 같습니다.) 이건 나아가 우리가 인간으로 할 수 있는 역할에 대해서도 깊은 회의를 불러오는 것 같아요. 많은 직업들이 대체되고, 또 기술의 발전만을 위한 직업 위주로 사회 구조가 개편되면서 주된 직업역량에도 인문학적 사고력의 중요성보다 코딩기술처럼 사람의 수행능력, 곧 기능성을 강조하는 비중이 높아졌고요. 그런데 아직까지 @신묘 님의 지적처럼, 기술의 발전에 따른 명은 부각되어 왔지만 암은 축소되어 있는 것 같습니다. 이에 대한 사회적 논의도 경제 개발, 성장의 논리를 이유로 많이 위축되어 온 것이 사실이고요. 원론적인 이야기일 수 있지만 많은 분들이 지적해주셨듯, 기술에 대한 성찰은 필수적인 것 같아요. @Eins 님께서 지적해주셨듯 기술의 발전을 막기는 어려울 거예요. 다만 지적해주신 것처럼 우리에게 미치는 기술의 영향력을 과소평가해서도 안될 겁니다. 기술의 발전을 막을 수 없으니 어쩔 수 없다고 포기하는 것은 체념이지, 우리가 가질 수 있는 적절한 생명의-희망의!- 태도가 아니니 그것 역시 주의해야 할 거고요. @몽언니 님 말씀대로 그렇다고 마냥 신뢰해서는 안될 테니, 비판적으로 받아들여야 할 텐데 참 어려운 일입니다. 하지만 우리가 기술을 어떻게 개발해갈 것인가, 우리가 기술을 개발하는 과정에서 놓치고 있는 것은 없나.. 고민하지 않는다면 통제권의 상실은 피할 수 없을 것 같습니다. 그렇게 된다면 기술의 발전도 인간을 돕는다는 긍정적 의미를 지니지 않을 겁니다. 더 빠른 성장, 더 많은 소비를 위한 탐욕일 뿐이겠죠. 이런 점에서 @별가루맛사탕 님께서 말씀하신 '바른 신념'에 대한 사회적 논의의 필요성, @짱구뽀빠이 님께서 언급해주신 기술의 목표 성찰, @연해 님께서 말씀해주신 개발 속도에 대한 사회적 논의(호흡 가다듬기라고도 말할 수 있겠네요)는 필수적인 것 같아요. 기술이 개인적 삶과 사회적 삶의 구조화된 시스템을 어떻게 위협할 수 있을지 설명하기 위해 인간의 삶(개인적, 사회적) 기저에 있는 인간의 본성과, 인간의 특별한 존재 방식인 희망에 대해 이야기한 이번 주차 읽기과제를 수행하며 여러 번 놀랐어요.희망이 소비에 대한 욕망도, 절망도, 체념도, 이에 대한 반발심인 파괴욕도 아니라는 말에 깊이 공감했습니다. 희망은 ‘우리를 인간답게 하는’ 활력을 향한, 생명과 성장에 수반되는 정신상태라는 걸 되새기면서 내가 희망을 품고 살았나? 희망하는 삶을 살고 있었나? 반성도 했고요. 저 역시도 @크리스마스 님처럼 희망에 무게를 싣고 끝까지 책을 읽어보려고요. 기술에 대해 어떤 입장을 취할 것인지 더 읽어보고, 더 고민하다보면 미션에 대한 제 답도 더욱 구체화될 것 같아요. 좋은 미션 고맙습니다.

정말 우려스러운 상황은 지구적으로 등장하는 가짜 뉴스들인것 같습니다. 또 스스로 생각하는 능력이 부족한 사람들이 그런 뉴스들을 그대로 받아들이거나, 맹목적으로 추종하기까지 하는 상황이죠. 그런데 우리가 속도조절을 하자고 해도, 그게 가능할까요? 어느때보다 인문학이 필요하다고 생각합니다, 프롬이 얘기하는 해법도 인간적인 사회에 대한 희망인 것 같습니다. 희망의혁명! 아직 읽는중이기는 합니다만,

미션 1 기술 개발 속도에도 조절이 필요합니다. 이미 전 영역에 걸쳐 변화는 시작되었고, 관련 기술 및 산업 발달의 흐름을 중단할 방도가 없습니다. 개발과 연구활동 자체릉 저지할 수 없다고도 볼 수 있겠습니다. 그러나 그것이 작금의 현실과 같이 무제한적으로, 인간 생활에 밀접한 영역임에도 불구하고 무조건적인 정보수집과 무단 이용 등 마치 현실과 완전히 분리된 사고실험처럼 여겨지는 것이 옳다는 뜻은 아닙니다. 기술에는 선악이 없으나 그 자체로 자연발생하는 것이 아닙니다. 기술이 만들어지고 활용되는 모든 과정과 배경에 사람이 있습니다. 인간의 선의지에만, 개인이 체감하는 물리적 한계에만 기대기에는 우리 모두가 너무나도 깊고 멀게 이어져있습니다. 예측하지 못한 피해는 가속되고 걷잡을 수 없이 번지는 경우가 허다합니다. 문제가 수면 밖으로 드러나 심각성을 인지한 다음에는 늦습니다. 제한이 필요합니다. 방향과 영향 모두에요. 그러므로 속도 조절은 그 자체를 목적하지 않더라도 충분히 예측 가능한 부수적 효과로 의도되어야 합니다.

오늘 부터 책 읽기 시작합니다😊

미션1 어찌되었든 과학 기술은 발전되어야 한다고 봅니다. 그걸 사용을 어떻게 하느냐에 따른건 인간들의 몫인거죠. 지금 영화로 하고 있는 오펜하우머라는 작품도 책 아메리칸프로메테우스 라는 책을 보면 과학의 발명, 그것을 어떻게 사용하느냐에 대한 찬반론 같은 걸 생각해보는 것도 좋을꺼 같아요. 다만 쳇 GPT의 경우 이제 앞으로 1-2년만 지나면 정확률이 높아질꺼 같은데 그럴때 우리가 그것에 적응이 된다면 쳇GPT가 틀린답변이나, 일부러 틀리에 이야기 하는걸 어떻게 우리가 그것을 걸러 낼 수 있느냐가 관건인거 같습니다. 그동안에도 엄청난 과학과 기계의 개발이 있었지만 아직까지는 우리가 잘 해나가고 있으니 앞으로도 그렇게 될꺼라는 희망입니다, 에리히프롬이 책에서도 이야기 했지만 우리 인간은 희망도 없고 변화도 없고 움직이지 않는다면 더이상 우리는 쇠퇴할 수 밖에 없다고 한 글이 생각나네요. 61p 까지 미션완료했습니다

미션1 AI 개발을 지속해야 한다는 입장입니다. 모든 국가와 단체, 개인의 AI 개발 속도를 조절한다는 것은 불가능에 가까운 일이며, 그것이 과연 합당한 일인지도 무척 의문스럽습니다. AI의 확장과 개발은 필연적인 일이 아닐지요. 변화하는 사회에 발맞춰서 AI를 다루는 방법에 관해 적절히 교육하고, AI로 인해 파생되는 문제 또한 각계각층에서 적극 논의하여 대응하여야 할 것입니다. 처음 TV나 인터넷이 나올 때도 마찬가지 이야기가 있었지요. 바보 상자나 무분별한 정보의 홍수, 그럴싸한 왜곡된 정보들 속에서 논리적이고 비판적으로 사고하고, 옳고 그름을 판별하는 능력이 무엇보다 중요해지겠습니다. 새로운 사회에서 우리가 할 일은 새로운 기술의 발전이 모두에게 더 나은 삶을 제공하도록 바른 신념을 바탕으로 바른 방향을 제시하는 것이라 생각합니다.

미션 1. 더 이상의 기술 개발이 인류에게 어떤 공익을 가져다줄지 의심스럽습니다. 과학자 또는 기술자들은 자신이 하고 있는 일의 진보와 성취를 위해서만 일을 하는 경향이 있다고 생각합니다. 이 기술이 어떤 문제점이 있을지를 깊이 있게 생각하지 못하는 것 같습니다. 기술의 진보가 마치 더 나은 세상을 구현해줄거라는 상상만 하는거죠. 안타깝지만 앞으로 기술의 통제가 불가능한 상황이 도래할 것이라 생각합니다. 우리가 살고 있는 21세기 세상이 과연 프롬이 살던 시절보다 더 행복해졌는지 의문을 가져야 할 때 아닐까요. 누구를 위한 개발, 무엇을 위한 개발일까요?

에리히 프롬의 책을 읽으면서 어렵기도 하지만 시대를 넘어 선 공감에 놀랐습니다. 그래서 모임지기님의 질문에도 조금 더 고민을 해보게되네요. :) 미션1 . AI, 챗GPT 기술도 역사 속에서 새롭게 등장했던 많은 신기술들처럼 초반에는 반대 세력이 등장하고 부작용이 나타나 혼란과 반성의 목소리들이 쌓이겠지만 결국 "사람에게 이로운 방향"으로 집단지성이 반응하지 않을까 생각합니다. '믿고 싶다'에 더 가까운 말이겠지만요. 사람은 의미를 찾고 만드는 존재라 개인적인 혹은 사회적인 (긍정의) 의미를 만들거라고 생각합니다. 그러자면 기술개발의 속도만큼이나 인류의 공동선 혹은 지성에 대한 점검이 더 부각되어야 할 것입니다. 기술 개발의 속도는 인간의 지성과 서로 반응하며 꾸준히 순기능이 더 많도록 이끄는 방향을 모색해야 합니다.

기술개발의 중지라는것은 힘들것으로 보입니다. 이미 인류는 개발의 충분한 요소들을 가지고 있고 그것에 대한 기대도 상당하기 때문입니다. 그러나 우리는 그 거듭된 개발의 벼랑위에서 위기를 맞은 환경의 모습을 보고 있습니다. 인류는 path finder로써 항상 길을 찾는다! 환경위기를 극복할 길을 찾고 있지만 가능할지는 모르겠습니다. 지나온 길을 되돌아 보는것은 같은 실수를 거듭하지 않기 위해서 입니다. 둑에 손가락을 꽂아 물의 범람을 지연시켰던 소년처럼 세계가 함께 AI의 개발속도를 조절하고 그 사이 인류의 기술적응을 위한 준비시간과 기회를 준다면 그 충격이 좀 더 완화되지 않을까요? 물론 그렇게 되기 위해선 당장의 기업이익을 내려놓아야 하는등의 손해가 따르기에, 이윤창출보다 중요한 인류애등이 우선시 되어야 하리라 봅니다. 쉽지 않는 결정이지만, 프롬이 추구하는 희망을 바라보면 가능할수도 있지 않을까요?

@메이플레이 앞으로도 기술 개발은 더욱 비밀화될 수 있다는 말씀에 공감해요. 지금도 온전히 알지 못하는 영역이 많은데, 개발을 숨기면 과학에 문외한인 저로서는 알 방법이 없거든요. 과학자들과 대중 간의 소통도 더욱 이뤄져야 할 것 같아요. @매일그대와 님, 공감합니다. 대중이 긍정적으로 역할을 할 수 있도록, 집단 지성을 활성화할 방안에 대해서도 고민해봐야 할 것 같아요.

한 문장 한 문장을 천천히 곱씹으며 책읽기를 시작한 덕분인지 미션 문제에 대해서도 천천히 곱씹어보게 되었습니다. AI기술이 발전에 발전을 거듭하고 이미 우리 생활에 미치는 영향이 큰만큼 기술 개발 속도 조절이 가능할런지 의문점이 생깁니다. 다만 발전에 따른 편리함과 이익추구에 맞서는 문제점들을 어떻게 규정짓고 대책을 세울것인지에 대한 고민과 대책이 필요하다고 봅니다. 속도 조절이 아니라 기술 개발에따른 부작용과 문제점을 해결할 방안에 더욱 비중을 두어야하지 않을까 생각해봅니다.

미션1. 23년 최고의 이슈라고 할 수 있는 AI, 챗GPT에 대해 여러분들은 어떻게 생각하시나요? AI 개발에 속도 조절이 필요할까요? 지속해야 할까요? "... 기계가 자체적으로 자신의 프로그램을 만들게 됐고, 이제는 기계가 인간의 생각마저 결정하게 됐다. (21 p.)" 첫 번째 미션을 마음에 담고 책을 읽기 시작한지 얼마 되지 않아 위의 문장을 만났습니다. AI 기술과 너무나 맞아 떨어지는 문장이에요. 10년 전만해도 저는 'AI 뒤에 사람있다.'고 말하곤 했는데, 최근의 AI를 보면 이제 '사람 앞에 AI 있다.'는 생각이 들어 무력감이 듭니다. 함께 공유해주신 기사에 나타나는 AI 개발이 지속되어야 한다는 주장에서 저는 오히려 속도를 조절해야만 하는 이유를 봅니다. 먼저 전 세계적으로 기업과 정부에서 '경쟁적으로' AI 기술 개발에 뛰어 들고 있다는 점이에요. 권력과 경제 논리에서 앞만보고 접근하는 태도로는 분명 간과하고 있는 것들이 있을 것이라 생각합니다. 또한 AI 전문가들이 현실의 AI가 공상과학영화나 소설에 등장하는 AI처럼 흑화될 수 없다고 단언하는 것을 여러 번 본 적이 있습니다. 기사에서도 우리나라 전문가는 'AI 기술이 앞으로 어떻게 변화할 것인지 모르는 상황에서 선(先)규제론은 조심해야 한다' 고 말했는데요, 그 반대의 경우에도 '어떻게 변화할 것인지 모르는 상황' 임은 동일하며 어떤 영향이 어떤 '사람들'에게 어느 정도로 미칠지 알 수 없다고 생각합니다. 실제로 AI 기술이 적용되는 분야가 넓어짐에 따라 생존권이 위협 받는 개인도 증가하고 있습니다. 현재 AI 이슈는 비단 '기술'의 차원을 넘어서 인간의 창작, 유희, 노동, 학습 등 전 분야로 확장되고 있어요. 그 흐름에 경쟁적으로 뛰어들고 있는 정부, 기업, 개인 등의 활동 주체도 다양하고요. 그래서 기술 개발이 중단될 수 없는 시대인 것 같긴 합니다. 다만 저는 AI 개발에 속도 조절이 필요하다고 생각해요. 프롬이 던지는 '어디를 향하고 있나?' 라는 질문이 필요한 때인 것 같습니다.