[문예출판사] 에리히 프롬 신간 <희망의 혁명> 함께 읽기

미션 1 기술 개발 속도에도 조절이 필요합니다. 이미 전 영역에 걸쳐 변화는 시작되었고, 관련 기술 및 산업 발달의 흐름을 중단할 방도가 없습니다. 개발과 연구활동 자체릉 저지할 수 없다고도 볼 수 있겠습니다. 그러나 그것이 작금의 현실과 같이 무제한적으로, 인간 생활에 밀접한 영역임에도 불구하고 무조건적인 정보수집과 무단 이용 등 마치 현실과 완전히 분리된 사고실험처럼 여겨지는 것이 옳다는 뜻은 아닙니다. 기술에는 선악이 없으나 그 자체로 자연발생하는 것이 아닙니다. 기술이 만들어지고 활용되는 모든 과정과 배경에 사람이 있습니다. 인간의 선의지에만, 개인이 체감하는 물리적 한계에만 기대기에는 우리 모두가 너무나도 깊고 멀게 이어져있습니다. 예측하지 못한 피해는 가속되고 걷잡을 수 없이 번지는 경우가 허다합니다. 문제가 수면 밖으로 드러나 심각성을 인지한 다음에는 늦습니다. 제한이 필요합니다. 방향과 영향 모두에요. 그러므로 속도 조절은 그 자체를 목적하지 않더라도 충분히 예측 가능한 부수적 효과로 의도되어야 합니다.

오늘 부터 책 읽기 시작합니다😊

미션1 어찌되었든 과학 기술은 발전되어야 한다고 봅니다. 그걸 사용을 어떻게 하느냐에 따른건 인간들의 몫인거죠. 지금 영화로 하고 있는 오펜하우머라는 작품도 책 아메리칸프로메테우스 라는 책을 보면 과학의 발명, 그것을 어떻게 사용하느냐에 대한 찬반론 같은 걸 생각해보는 것도 좋을꺼 같아요. 다만 쳇 GPT의 경우 이제 앞으로 1-2년만 지나면 정확률이 높아질꺼 같은데 그럴때 우리가 그것에 적응이 된다면 쳇GPT가 틀린답변이나, 일부러 틀리에 이야기 하는걸 어떻게 우리가 그것을 걸러 낼 수 있느냐가 관건인거 같습니다. 그동안에도 엄청난 과학과 기계의 개발이 있었지만 아직까지는 우리가 잘 해나가고 있으니 앞으로도 그렇게 될꺼라는 희망입니다, 에리히프롬이 책에서도 이야기 했지만 우리 인간은 희망도 없고 변화도 없고 움직이지 않는다면 더이상 우리는 쇠퇴할 수 밖에 없다고 한 글이 생각나네요. 61p 까지 미션완료했습니다

미션1 AI 개발을 지속해야 한다는 입장입니다. 모든 국가와 단체, 개인의 AI 개발 속도를 조절한다는 것은 불가능에 가까운 일이며, 그것이 과연 합당한 일인지도 무척 의문스럽습니다. AI의 확장과 개발은 필연적인 일이 아닐지요. 변화하는 사회에 발맞춰서 AI를 다루는 방법에 관해 적절히 교육하고, AI로 인해 파생되는 문제 또한 각계각층에서 적극 논의하여 대응하여야 할 것입니다. 처음 TV나 인터넷이 나올 때도 마찬가지 이야기가 있었지요. 바보 상자나 무분별한 정보의 홍수, 그럴싸한 왜곡된 정보들 속에서 논리적이고 비판적으로 사고하고, 옳고 그름을 판별하는 능력이 무엇보다 중요해지겠습니다. 새로운 사회에서 우리가 할 일은 새로운 기술의 발전이 모두에게 더 나은 삶을 제공하도록 바른 신념을 바탕으로 바른 방향을 제시하는 것이라 생각합니다.

미션 1. 더 이상의 기술 개발이 인류에게 어떤 공익을 가져다줄지 의심스럽습니다. 과학자 또는 기술자들은 자신이 하고 있는 일의 진보와 성취를 위해서만 일을 하는 경향이 있다고 생각합니다. 이 기술이 어떤 문제점이 있을지를 깊이 있게 생각하지 못하는 것 같습니다. 기술의 진보가 마치 더 나은 세상을 구현해줄거라는 상상만 하는거죠. 안타깝지만 앞으로 기술의 통제가 불가능한 상황이 도래할 것이라 생각합니다. 우리가 살고 있는 21세기 세상이 과연 프롬이 살던 시절보다 더 행복해졌는지 의문을 가져야 할 때 아닐까요. 누구를 위한 개발, 무엇을 위한 개발일까요?

에리히 프롬의 책을 읽으면서 어렵기도 하지만 시대를 넘어 선 공감에 놀랐습니다. 그래서 모임지기님의 질문에도 조금 더 고민을 해보게되네요. :) 미션1 . AI, 챗GPT 기술도 역사 속에서 새롭게 등장했던 많은 신기술들처럼 초반에는 반대 세력이 등장하고 부작용이 나타나 혼란과 반성의 목소리들이 쌓이겠지만 결국 "사람에게 이로운 방향"으로 집단지성이 반응하지 않을까 생각합니다. '믿고 싶다'에 더 가까운 말이겠지만요. 사람은 의미를 찾고 만드는 존재라 개인적인 혹은 사회적인 (긍정의) 의미를 만들거라고 생각합니다. 그러자면 기술개발의 속도만큼이나 인류의 공동선 혹은 지성에 대한 점검이 더 부각되어야 할 것입니다. 기술 개발의 속도는 인간의 지성과 서로 반응하며 꾸준히 순기능이 더 많도록 이끄는 방향을 모색해야 합니다.

기술개발의 중지라는것은 힘들것으로 보입니다. 이미 인류는 개발의 충분한 요소들을 가지고 있고 그것에 대한 기대도 상당하기 때문입니다. 그러나 우리는 그 거듭된 개발의 벼랑위에서 위기를 맞은 환경의 모습을 보고 있습니다. 인류는 path finder로써 항상 길을 찾는다! 환경위기를 극복할 길을 찾고 있지만 가능할지는 모르겠습니다. 지나온 길을 되돌아 보는것은 같은 실수를 거듭하지 않기 위해서 입니다. 둑에 손가락을 꽂아 물의 범람을 지연시켰던 소년처럼 세계가 함께 AI의 개발속도를 조절하고 그 사이 인류의 기술적응을 위한 준비시간과 기회를 준다면 그 충격이 좀 더 완화되지 않을까요? 물론 그렇게 되기 위해선 당장의 기업이익을 내려놓아야 하는등의 손해가 따르기에, 이윤창출보다 중요한 인류애등이 우선시 되어야 하리라 봅니다. 쉽지 않는 결정이지만, 프롬이 추구하는 희망을 바라보면 가능할수도 있지 않을까요?

@메이플레이 앞으로도 기술 개발은 더욱 비밀화될 수 있다는 말씀에 공감해요. 지금도 온전히 알지 못하는 영역이 많은데, 개발을 숨기면 과학에 문외한인 저로서는 알 방법이 없거든요. 과학자들과 대중 간의 소통도 더욱 이뤄져야 할 것 같아요. @매일그대와 님, 공감합니다. 대중이 긍정적으로 역할을 할 수 있도록, 집단 지성을 활성화할 방안에 대해서도 고민해봐야 할 것 같아요.

한 문장 한 문장을 천천히 곱씹으며 책읽기를 시작한 덕분인지 미션 문제에 대해서도 천천히 곱씹어보게 되었습니다. AI기술이 발전에 발전을 거듭하고 이미 우리 생활에 미치는 영향이 큰만큼 기술 개발 속도 조절이 가능할런지 의문점이 생깁니다. 다만 발전에 따른 편리함과 이익추구에 맞서는 문제점들을 어떻게 규정짓고 대책을 세울것인지에 대한 고민과 대책이 필요하다고 봅니다. 속도 조절이 아니라 기술 개발에따른 부작용과 문제점을 해결할 방안에 더욱 비중을 두어야하지 않을까 생각해봅니다.

미션1. 23년 최고의 이슈라고 할 수 있는 AI, 챗GPT에 대해 여러분들은 어떻게 생각하시나요? AI 개발에 속도 조절이 필요할까요? 지속해야 할까요? "... 기계가 자체적으로 자신의 프로그램을 만들게 됐고, 이제는 기계가 인간의 생각마저 결정하게 됐다. (21 p.)" 첫 번째 미션을 마음에 담고 책을 읽기 시작한지 얼마 되지 않아 위의 문장을 만났습니다. AI 기술과 너무나 맞아 떨어지는 문장이에요. 10년 전만해도 저는 'AI 뒤에 사람있다.'고 말하곤 했는데, 최근의 AI를 보면 이제 '사람 앞에 AI 있다.'는 생각이 들어 무력감이 듭니다. 함께 공유해주신 기사에 나타나는 AI 개발이 지속되어야 한다는 주장에서 저는 오히려 속도를 조절해야만 하는 이유를 봅니다. 먼저 전 세계적으로 기업과 정부에서 '경쟁적으로' AI 기술 개발에 뛰어 들고 있다는 점이에요. 권력과 경제 논리에서 앞만보고 접근하는 태도로는 분명 간과하고 있는 것들이 있을 것이라 생각합니다. 또한 AI 전문가들이 현실의 AI가 공상과학영화나 소설에 등장하는 AI처럼 흑화될 수 없다고 단언하는 것을 여러 번 본 적이 있습니다. 기사에서도 우리나라 전문가는 'AI 기술이 앞으로 어떻게 변화할 것인지 모르는 상황에서 선(先)규제론은 조심해야 한다' 고 말했는데요, 그 반대의 경우에도 '어떻게 변화할 것인지 모르는 상황' 임은 동일하며 어떤 영향이 어떤 '사람들'에게 어느 정도로 미칠지 알 수 없다고 생각합니다. 실제로 AI 기술이 적용되는 분야가 넓어짐에 따라 생존권이 위협 받는 개인도 증가하고 있습니다. 현재 AI 이슈는 비단 '기술'의 차원을 넘어서 인간의 창작, 유희, 노동, 학습 등 전 분야로 확장되고 있어요. 그 흐름에 경쟁적으로 뛰어들고 있는 정부, 기업, 개인 등의 활동 주체도 다양하고요. 그래서 기술 개발이 중단될 수 없는 시대인 것 같긴 합니다. 다만 저는 AI 개발에 속도 조절이 필요하다고 생각해요. 프롬이 던지는 '어디를 향하고 있나?' 라는 질문이 필요한 때인 것 같습니다.

미션 2. 우리가 완성된 사람이라면, 그래서 더 이상의 어떠한 성장도 변화도 거치지 않을 것이라면, 알고리즘은 아주 완벽한 도구가 됐을 겁니다. 우리의 관심사와 특성이 고정되어 있으니 변수 설정도 얼마 할 필요가 없을 거예요. 하지만 우리의 변화가능성을 염두에 두지 않은, '확실성의 전제'가 알고리즘의 한계로 작용하는 것 같아요. 유사한 것만을 보고, 소비할 것이라고 생각하는 확실성이요. 그런 점에서 H님께서 지적하신 불투명한 변수의 설정과 정보 제공에 더해 우리가 은연중에 당연하다 생각해 온 확실성의 전제를 문제의 주요 원인으로 지적하고 싶습니다. 이와 관련해서 알고리즘이 주체적 의사 결정의 기회를 앗아간다는 데에 동의합니다. 기계가 나의 관심사와, 내가 궁금해하는 것에 '딱 맞는' 내용을 찾아서 나에게 먼저 추천해준다는 것은, 다양한 정보 가운데에서 우리가 직접 선택하고, 결정할 권리를 빼앗기는 것이기도 하니까요. 다른 한편으로 주체적 의사 결정의 기회를 빼앗는다는 것은, 사고방식이 유사해진다는 의미도 포함하는 것 같습니다. 우리가 유사한 콘텐츠를 소비하면 유튜브는 그 즉시 유사한 내용을 추천해주죠. 콘텐츠를 소화할 시간 없이 또 새로운 콘텐츠를 받아들여야 하는 구조는 사고의 기회를 제한합니다. 소비하는 내용은 유사해집니다. 검색엔진도 마찬가지죠. 내가 검색한 키워드에 '가장 적합한' 정보를 내어준다고 하지만 정보의 취사선택과 배열순서는 시스템의 논리가 결정한 겁니다. 이것은 콘텐츠의 공급량이 '적어서' 유사한 콘텐츠를 소비할 수밖에 없었던 과거와는 또 다른 양상입니다. 다만 이러한 알고리즘의 탄생 배경에 생산량이 많아질수록 좋다는 최대 생산의 논리가 있다는 걸 생각해보면 알고리즘만을 문제로 탓할 수는 없는 것 같아요. 사용자가 직접 선별하지 못할 정도로 정보가 쏟아지게 되었으니 빅데이터를 기계에게 맡기려는 움직임도 나온 거겠죠. 어쩌면 알고리즘은 문제의 근원이라기보다는 우리의 인식에서 비롯된 부산물일 거예요. 알고리즘의 활용방안이라면, 유치하지만 나의 생각을 정리할 시간을 갖는 것이 어떨까 싶습니다. 알고리즘을 사용하지 말자는 의견은 극단적일뿐더러 현실적이지도 않은 것 같아요. 하지만 최소한 검색, 콘텐츠의 소비, 챗GPT에게 어떤 내용을 맡기기 이전에 '어느 만큼만 미디어를 소비해야지, 어떤 내용을 구상해야지, 어떤 것을 알아봐야지' 는 생각할 수 있을 것 같아요. 다른 의견은 없는지 계속 반문하는 습관도 나만의 관점을 갖게 하는 데에 도움이 될 거고요. 인간의 자율성과 비판적 사고는 그런 사소하지만 수동성에서 벗어나려는 시도를 통해 만들어지는 거겠죠.

여러분들은 이에 대해 어떻게 생각하시나요? 알고리즘이 야기할 수 있는 문제로는 어떤 것이 있을까요? 우린 앞으로 알고리즘을 어떻게 활용해야 하는 것일까요? 알고리즘이 우리의 취향과 미학적 감성, 생각을 '반영'한 결과..라고 할 수는 있겠지만, '나의' 결과 값이라고 항상 말할 수는 없지요. 어쩌면 그 차이만큼이 불편이 되기도 하고, 다행이 되기도 하겠습니다. 그 차이를 어떻게 조절하느냐가 활용에서의 "어떻게"라고 할 수 있을 것 같아요. 다른 분들도 언급하신 대로 검색어 하나가 나의 온갖 정보 창구에 큐레이션 될 때의 소름 돋은 기억이 제게도 있습니다. 그러다 행운이다 싶게 얻어 걸린 적도 있고, '암만 빅 데이터라도 아직 나를 다 못 담는구나!' 싶게 답답한 경우도 있었지요. 그 미묘한 줄타기의 공백이 인류가 아닌 인간, 개인이 들어갈 자리라고 생각합니다. 내가 나를 표현하는 수고를 쉬지 않는 정성을 들일 수 있는 자리요. 남들과 무조건 달라지기 위한 몸부림이 아니라, 가장 자기다움을 표현할 수 있는 방향으로 애쓰는 것은, 0.01도의 작은 각도 차이지만 원점에서 멀어질 수록 그릴 수 있는 호의 길이가 달라지는 것처럼 거대해질 수 있는 것이지요. 효율성과 편의 안에 나를 매몰 시켜두고 안정감을 느끼기 보다는 조금 불안하더라도 자기만의 좌표를 찾아 내는 통찰과 책임감을 항상 가장 먼저 떠올려야 합니다. 쉬운 일은 아니겠지만, 이러한 책을 읽고 함께 나누며 공부하는 우리의 이 자리가 저에게는 통찰과 책임감을 배우는 기회가 되는 것처럼 다양한 방향에서 점검하는 노력이 필요합니다.

미션 2 알고리즘 하니 유튜브를 볼 때 항상 비슷한 것들이 나오는 것, 그리고 블로그나 웹을 볼 때 나오는 광고가 항상 비슷한 이유가 다 알고리즘 때문인거죠. 개인적 관심도를 반영하는 알고리즘이 정말 내 관심, 내 생각을 반영한 것일가는 한번 의심해본적이 있습니다. 우연히 잘못 클릭한 결과가 내가 선택한 것처럼 인식되어 전혀 관심없는 내용이 뜬적도 있었지요. 기계는 오로지 클릭한 수치와 같은 것으로 결과를 내리게 되는 것이죠. 무의미한 실수가 의미있는 결과가 되는 것이 아닌지, 즉 거짓이 진실처럼 되는 것이 아닌지 걱정이 되기도 합니다. 그리고 쉽게 연계시켜주는 알고리즘의 편리함보다 나를 한정된 유형으로 묶어놓는 것은 아닌가 싶기도 합니다. 늘 비슷한 정보로 묶인 알고리즘 때문에 새로운 정보가 차단되거나 외부의 의도에 의해 나도 모르는 사이 알고리즘에 끌려갈 수 있을 것 같아요. 알고리즘은 과정을 단순화 시켜서 시간을 단축시키고 보다 많은 정보를 제공해 줄 수 있습니다. 절차상의 문제를 간소화시키는 역할을 하는 알고리즘을 큰 도움을 받아 삶의 여유를 받을 것입니다. 하지만 무턱대고 주어지는 대로 받아들이는 것이 아니라 의심해보는 인간의 생각이 늘 함께해야 할 것 같습니다.

저는 이번 파트에서 과학적 접근이 시작된 배경에 대한 글이 인상 깊었어요. 과학 지향적인 인간이 합리적이고, 독립적인 인간이기를 멈추고, 절대적 확실성에 지나치게 의존하고 있는 것은 아닐까 싶기도 했고요. 컴퓨터 사용의 보편화가 적절한 예인 것 같습니다. 너무나 당연하게 예측 가능한 것들에만 기대고 있고, 오히려 그렇지 않은 것들은 옳지 않다고 말하는 것만 같아요. 위기감이 느껴집니다. "경영인은 컴퓨터의 예언을 자유롭게 받아들일 수도 있고, 거부할 수도 있다고 느끼지만 사실은 독실한 기독교도가 신의 의지에 반해서 행동할 자유가 없듯이 그 역시 사실상 컴퓨터의 예언을 거부할 자유가 거의 없다. 물론 그럴 수도 있겠지만 미치지 않고서야 그런 위험을 감수할 리가 없다. 신, 혹은 컴퓨터가 제시한 해법보다 확실한 것이 없기 때문이다."라는 문장처럼요. 트렌드를 맹목적으로 따르는 것도 저는 위태롭다는 입장입니다. 자신은 굉장히 트렌디한 사람이라고 자랑하듯 말하는 사람들을 보면, 마치 취향을 상실한 사람들 같아요. 그 전체 맥락에 깊이 들어가 보면 매스컴의 발달로 인한 일방적 학습일지도 모르는데, 그것조차 인지하지 못하고 있는 것 같아서요. 알고리즘도 마찬가지라 여겨집니다. 신속함, 편리함만을 찬양하기 보다 자신의 취향을 명확히 아는 것이 중요하다 생각돼요. 다들 주체성을 상실해가고 있음에도 그것조차 스스로 인지하지 못하는 것 같아 무섭게 느껴집니다. 주체성을 가진 이들을 오히려 이방인 취급하는 것 같고요(유행을 모른다느니, 나이가 들었다느니, 4차원이냐느니 등). 에리히 프롬의 '자유로부터의 도피'라는 책에서도 비슷한 느낌을 받았는데, 기류에 무조건적으로, 맹목적으로 편승할 것이 아니라 무엇이 자신에게 가장 잘 맞는 것인지를 면밀히 따져볼 필요가 있는 것 같아요. 그런 의미에서 주체성이 정말 중요한 것 같고요.

언젠가부터 연관되는 것이 뜨면 그게 알고리즘이라하더라구요. 그런데 뭐가 연관된 것인지도 모르겠고, 어떤 기준인지도 모르겠구요. 나의 취향이 반영되었다는데 영 아닌 것도 많던데...ㅇ그래서 그냥 오류나 별의미없겠거니 하고 넘기곤 했죠. 그런데 이책을 읽다보니 나와는 상관없이 어떤 기계값에 의해 그렇게 형성된 알고리즘이란 것이 지금은 의미없어 보이지만 이게 어떤 기준도 없이 계속 쓰이게 된다면 결국 인간이 기계에 예속되는 결과가 나오리라 생각해요. 확실성이란 기준으로 기계값이 맞다는 결론으로 인간의 의지와 주체성이 결국 알고리즘에 묶여버리는 결과가 되지 않을까 우려되는 것도 사실입니다. 어딘가에 묶어진다는 것은 한편으론 자율성과 사고를 침해당하는 것이니까요.