[문예출판사] 에리히 프롬 신간 <희망의 혁명> 함께 읽기

전 떨어졌나보네용..^^ 하시는 모든분들 2주간 행복한 독서해요~

책 잘 받았습니다. 주말에 열심히 읽고 글 쓰겠습니다!!!

앗! 늦게봤군요. 좋아하는 작가인데... 이 책은 처음 접합니다. 두근두근.

직접 준비한 책으로 참여시는 구글폼 작성 안해도 되나요?

안녕하세요 고나님! 구글폼은 도서 증정 이벤트를 위한 것으로 준비한 책으로 참여할 시엔 작성안해주셔도 됩니다 :)

오늘부터 모임 시작이네요. 책도 잘 받았습니다. 올려주신 분량에 맞춰 따라갈게요. 잘 부탁드립니다:)

프롬이 말한 "시스템의 통제권"이란 문제에 있어서도 AI의 속도조절은 필요하다고 생각해요. 기술이란 것이 왜 필요할까를 보면 인간에게 편리성을 주기 위해서죠. 그런데 지금 AI의 수준은 문장을 다 만들어 낼 정도로 급속하게 진행하고 있어요. 휴대폰이 나왔을 때 저는 어른이 되고 난 이후에 휴대폰이란 것을 접했지만, 지금의 아이들은 휴대폰을 이미 태어나면서 보고 자랍니다. 즉, 생각하는 기능, 뇌를 안쓰고 받아들이는 환경에서 자라게 되는거죠. 그래서 지금 아이들을 보면 문해력도 딸린다는 이야기도 많이 들리고요, 휴대폰으로 인한 각종 사고와 범죄도 많이 일어나게 되었죠. 이런 기술 증가 속도나 보급력 등을 비교해보면 AI는 훨씬 더 빠른 속도로 우리 일상에 침투하고 있다고 생각해요. 그래서 기술도 인간이 개발한 것인데 오히려 인간이 통제력을 상실하는 그런 시대가 올 것 같다는 우려도 사실 큽니다. 저는 편리성이라는 미명하에 개발되는 기술이 결국 부메랑이 되어 인간이 기술에 예속되지 않을까 우려가 되네요.

미션1. (61p 독서 완료) 먼저 미션에서 언급한 논점은 세밀하게 따져보면 2단계로 해석됩니다. 첫째는 AI 기술 개발을 지속할 것인지 멈출 것인지, 둘째는 지속하기로 결정했다면 개발 시 그 속도를 전 인류적 차원에서 함께 조절 및 통제할 것인지 아니면 개개인 또는 국가 및 기업의 자율적 역량에 따라 그저 놔둘 것인지로요. 사실 첫 단계에서 아마 영구불변으로 인공지능 개발을 멈춰야 한다고 주장하는 사람은 많지 않을 것으로 보입니다. 엘빈 토플러가 <부의 미래>에서 주장했듯이 혁명의 물결은 거스를 수 없는 법이죠. 인공지능 개발은 인류가 직면한 정치, 경제, 사회, 환경 등의 문제를 개선하기 위해서라도 계속 이루어져야 할 것입니다. 다만 두 번째 단계에서는 의견이 격렬하게 대립할 것 같네요. 저는 개인적으로 인공지능 개발의 속도를 전 세계가 합의하여 조절해야 한다고 생각합니다. 왜냐하면 개발하는 주체가 인류애를 가진 독존적 개인이 아니라 이윤을 추구하는 기업이나 국익을 우선하는 국가이기 때문입니다. 선량한 시민이 모인 국가는 선량한가라는 주제로 지속적인 토론이 이루어져왔고 그 토론의 강력한 한 축은 그럴 수 없다는 것입니다. 개인의 선의는 절대 집단의 선의가 될 수 없음을 우리는 역사적으로도 잘 알고 있습니다. 사회적 관계 속에서 그 압력을 거스를 수 없는 인간은 자신의 뜻과 반하더라도 인공지능을 계속 개발할 것입니다. 다른 기업이나 국가가 달콤한 과실을 선점하기 전에 더욱 그리하겠지요. 고삐 뿔린 망아지처럼 눈앞만 보고 달리게 될 것입니다. 물론 그러한 움직임을 제어하려는 사회의 움직임도 있겠지만 새로운 물결 속에서 도태될 수 있다는 두려움은 기업과 국가를 잠식하여 더욱 그들만의 경쟁을 부추길 것입니다. 마사 누스바움이 이야기한 두려움을 우리 모두가 연대하여 극복하지 못하면 미래는 더욱 암울한 방향으로 흘러갈 뿐입니다. 인류는 전 지구적으로 심각한 문제가 될 수 있는 것을 함께 논의하며 조절하기 위해 애쎴습니다. 핵폭탄으로 인한 세계 멸망을 막기 위해 핵보유국을 더 늘리지 않으려는 제도적 규제를 합의하기도 하였고, 기후 위기를 극복하기 위해 탄소 중립 정책 및 재생 에너지 사용 비율을 높이려는 세계 협약도 체결하였습니다.(물론 핵폭탄을 먼저 제작한 나라나 탄소를 이미 많이 배출한 나라가 세계적으로 강력한 힘을 행사하는 선진국이라 그 아이러니를 지적하면 조약 자체의 모순성을 부인할 수는 없지만, 지구의 비극적 결말을 막기 위한 세계의 합의라는 부분에 좀더 초점을 맞추고 싶습니다.) 인공지능의 명과 암은 분명합니다. 그리고 암은 명에 비해 그 위험이 실제 피부에 와닿지 않아 많이 축소되어 있습니다. 인간의 사고 이상을 뛰어넘어 무언가를 만들어내면서 독자적으로 판단할 수 있는 생성형 인공지능이 아무 대비 없이 예측불가능한 어떤 순간에 탄생할 지도 모르는 것입니다. 그러니 다함께 숙의하여 적절하게 속도를 조절해야만 하며, 발달하는 문명의 속도에 인간의 정신과 문화가 지체되지 않도록 노력해야만 하겠습니다.

미션 1. AI의 개발 속도를 조절하자는 것은 어떤 식이든 AI의 개발은 지속된다는 것이겠죠. AI로 인해 인간의 직업의 축소되고 가짜 뉴스의 범람은 걱정거리가 분명합니다. 하지만 AI의 개발은 결국 인간의 편리를 위한 것에서 시작된 것이죠. GhatGPT를 사용한 예를 본적이 있어요. 질문 몇 줄로 서치와 문서작업이 한 번에 되는 것이 편리하더라구요. 그동안 힘들게 자료찾고 보고서 작성하는데 많은 시간을 보낸 것을 허무하게 만들었습니다. 개인적으로 GhatGPT를 써서 일에 적용해보고 싶었습니다. 일상생활에 도움을 받기 위해 기술을 발전시키는 것이기에 계속 계발되어 사용될 것 같습니다. 다만 더 확대된 AI의 개발이 인간의 통제권을 뺐는다는 두려움이 있지만 이또한 개발자인 인간이 사전에 제한을 두어야할 부분이긴 합니다. 닥치기 전까지 어떤 문제점을 가지고 있는지 정확히 알수는 없지만 이미 개발되어 만들어진 상태를 늦춘다고 늦추어 질 것같지도 않도 더 비밀화되어 개발된 상황을 더 알 수 없게 되는 것은 아닌지 모르겠네요.

저는 "자연을 두고 승리의 정점에 서 있던 인간이 어쩌다 자기 창조물의 노예가 되어 자신을 스스로 파괴할 심각한 위험에 처하게 됐을까?"라는 문장이 눈에 들어왔어요. 단순히 기술의 발전에 매료되고 맹목적으로 따르는 것이 아니라, 그 기술 개발이 어떤 결과물을 가져올지에 대한 자각도 필요하다 생각합니다. 마냥 빠르고 편리한 것들이 좋은 점만 있지는 않을 테니까요. 사람들은 점점 게을러지고, 조금의 불편도 겪지 않으려고 아등바등 살아가는 것 같아요. 이게 더 빨라? 저게 더 빨라? 속도감에 미쳐있는 사람들처럼 느껴지기도 하는데, 저는 그 모습이 굉장히 무섭습니다. 뒤를 돌아보지 않는 것 같아서요. AI, 챗GPT의 발전을 찬양만 할 것이 아니라 경각심을 갖고, 이것의 발전이 근미래 우리에게 어떤 영향을 미칠지도 심도 있게 고민해 봐야 한다고 생각합니다.

챗GPT, AI가 우리의 삶에 어떤 영향을 미치는지 생각해보면 시스템의 통제권을 잃어가고 있다는 에리히 프롬의 견해는 지금까지도 유효한 분석인 것 같아요. 읽으면서 그 통찰력에 놀랐습니다. 저는 시스템의 통제권을 잃고 있다는 문제 의식 설정에 동의하며, 그 속도 조절이 필요하다는 주장에도 공감합니다. 먼저 통제권이라는 말은 물질적인 소비행동 뿐만 아니라 그 기저에 있는 사고방식에까지도 널리 적용할 수 있을 것 같아요. 특히나 이제는 챗GPT처럼 AI가 콘텐츠를 생산해내면서 기술이 ‘직접적으로’ 우리의 생각에도 영향을 미치게 되었죠. 예컨대 AI가 학습을 통해 쏟아낸 혐오표현은 생명 전반에 대한 존중을 사라지게 하고, 각종 검색엔진이나 챗GPT는 편리하게 과제, 업무를 수행할 수 있게 해 주었지만 동시에 배움의 과정에 따르는 정성, 스스로 생각하는 과정에 수반되는 깨달음의 기쁨을 반감시키는 것 같습니다. @땡스 님께서 지적해주신 대로 세대에 따라 사람들의 특성도, 인식도 많이 달라지는 게 분명하고요. (이를 두고 인간성의 상실, 후퇴가 이루어지고 있다고도, 진보가 이루어진다고도 볼 수 있을 것 같습니다.) 이건 나아가 우리가 인간으로 할 수 있는 역할에 대해서도 깊은 회의를 불러오는 것 같아요. 많은 직업들이 대체되고, 또 기술의 발전만을 위한 직업 위주로 사회 구조가 개편되면서 주된 직업역량에도 인문학적 사고력의 중요성보다 코딩기술처럼 사람의 수행능력, 곧 기능성을 강조하는 비중이 높아졌고요. 그런데 아직까지 @신묘 님의 지적처럼, 기술의 발전에 따른 명은 부각되어 왔지만 암은 축소되어 있는 것 같습니다. 이에 대한 사회적 논의도 경제 개발, 성장의 논리를 이유로 많이 위축되어 온 것이 사실이고요. 원론적인 이야기일 수 있지만 많은 분들이 지적해주셨듯, 기술에 대한 성찰은 필수적인 것 같아요. @Eins 님께서 지적해주셨듯 기술의 발전을 막기는 어려울 거예요. 다만 지적해주신 것처럼 우리에게 미치는 기술의 영향력을 과소평가해서도 안될 겁니다. 기술의 발전을 막을 수 없으니 어쩔 수 없다고 포기하는 것은 체념이지, 우리가 가질 수 있는 적절한 생명의-희망의!- 태도가 아니니 그것 역시 주의해야 할 거고요. @몽언니 님 말씀대로 그렇다고 마냥 신뢰해서는 안될 테니, 비판적으로 받아들여야 할 텐데 참 어려운 일입니다. 하지만 우리가 기술을 어떻게 개발해갈 것인가, 우리가 기술을 개발하는 과정에서 놓치고 있는 것은 없나.. 고민하지 않는다면 통제권의 상실은 피할 수 없을 것 같습니다. 그렇게 된다면 기술의 발전도 인간을 돕는다는 긍정적 의미를 지니지 않을 겁니다. 더 빠른 성장, 더 많은 소비를 위한 탐욕일 뿐이겠죠. 이런 점에서 @별가루맛사탕 님께서 말씀하신 '바른 신념'에 대한 사회적 논의의 필요성, @짱구뽀빠이 님께서 언급해주신 기술의 목표 성찰, @연해 님께서 말씀해주신 개발 속도에 대한 사회적 논의(호흡 가다듬기라고도 말할 수 있겠네요)는 필수적인 것 같아요. 기술이 개인적 삶과 사회적 삶의 구조화된 시스템을 어떻게 위협할 수 있을지 설명하기 위해 인간의 삶(개인적, 사회적) 기저에 있는 인간의 본성과, 인간의 특별한 존재 방식인 희망에 대해 이야기한 이번 주차 읽기과제를 수행하며 여러 번 놀랐어요.희망이 소비에 대한 욕망도, 절망도, 체념도, 이에 대한 반발심인 파괴욕도 아니라는 말에 깊이 공감했습니다. 희망은 ‘우리를 인간답게 하는’ 활력을 향한, 생명과 성장에 수반되는 정신상태라는 걸 되새기면서 내가 희망을 품고 살았나? 희망하는 삶을 살고 있었나? 반성도 했고요. 저 역시도 @크리스마스 님처럼 희망에 무게를 싣고 끝까지 책을 읽어보려고요. 기술에 대해 어떤 입장을 취할 것인지 더 읽어보고, 더 고민하다보면 미션에 대한 제 답도 더욱 구체화될 것 같아요. 좋은 미션 고맙습니다.

정말 우려스러운 상황은 지구적으로 등장하는 가짜 뉴스들인것 같습니다. 또 스스로 생각하는 능력이 부족한 사람들이 그런 뉴스들을 그대로 받아들이거나, 맹목적으로 추종하기까지 하는 상황이죠. 그런데 우리가 속도조절을 하자고 해도, 그게 가능할까요? 어느때보다 인문학이 필요하다고 생각합니다, 프롬이 얘기하는 해법도 인간적인 사회에 대한 희망인 것 같습니다. 희망의혁명! 아직 읽는중이기는 합니다만,

미션 1 기술 개발 속도에도 조절이 필요합니다. 이미 전 영역에 걸쳐 변화는 시작되었고, 관련 기술 및 산업 발달의 흐름을 중단할 방도가 없습니다. 개발과 연구활동 자체릉 저지할 수 없다고도 볼 수 있겠습니다. 그러나 그것이 작금의 현실과 같이 무제한적으로, 인간 생활에 밀접한 영역임에도 불구하고 무조건적인 정보수집과 무단 이용 등 마치 현실과 완전히 분리된 사고실험처럼 여겨지는 것이 옳다는 뜻은 아닙니다. 기술에는 선악이 없으나 그 자체로 자연발생하는 것이 아닙니다. 기술이 만들어지고 활용되는 모든 과정과 배경에 사람이 있습니다. 인간의 선의지에만, 개인이 체감하는 물리적 한계에만 기대기에는 우리 모두가 너무나도 깊고 멀게 이어져있습니다. 예측하지 못한 피해는 가속되고 걷잡을 수 없이 번지는 경우가 허다합니다. 문제가 수면 밖으로 드러나 심각성을 인지한 다음에는 늦습니다. 제한이 필요합니다. 방향과 영향 모두에요. 그러므로 속도 조절은 그 자체를 목적하지 않더라도 충분히 예측 가능한 부수적 효과로 의도되어야 합니다.

오늘 부터 책 읽기 시작합니다😊

미션1 어찌되었든 과학 기술은 발전되어야 한다고 봅니다. 그걸 사용을 어떻게 하느냐에 따른건 인간들의 몫인거죠. 지금 영화로 하고 있는 오펜하우머라는 작품도 책 아메리칸프로메테우스 라는 책을 보면 과학의 발명, 그것을 어떻게 사용하느냐에 대한 찬반론 같은 걸 생각해보는 것도 좋을꺼 같아요. 다만 쳇 GPT의 경우 이제 앞으로 1-2년만 지나면 정확률이 높아질꺼 같은데 그럴때 우리가 그것에 적응이 된다면 쳇GPT가 틀린답변이나, 일부러 틀리에 이야기 하는걸 어떻게 우리가 그것을 걸러 낼 수 있느냐가 관건인거 같습니다. 그동안에도 엄청난 과학과 기계의 개발이 있었지만 아직까지는 우리가 잘 해나가고 있으니 앞으로도 그렇게 될꺼라는 희망입니다, 에리히프롬이 책에서도 이야기 했지만 우리 인간은 희망도 없고 변화도 없고 움직이지 않는다면 더이상 우리는 쇠퇴할 수 밖에 없다고 한 글이 생각나네요. 61p 까지 미션완료했습니다