[문예출판사] 에리히 프롬 신간 <희망의 혁명> 함께 읽기

미션1 AI 개발을 지속해야 한다는 입장입니다. 모든 국가와 단체, 개인의 AI 개발 속도를 조절한다는 것은 불가능에 가까운 일이며, 그것이 과연 합당한 일인지도 무척 의문스럽습니다. AI의 확장과 개발은 필연적인 일이 아닐지요. 변화하는 사회에 발맞춰서 AI를 다루는 방법에 관해 적절히 교육하고, AI로 인해 파생되는 문제 또한 각계각층에서 적극 논의하여 대응하여야 할 것입니다. 처음 TV나 인터넷이 나올 때도 마찬가지 이야기가 있었지요. 바보 상자나 무분별한 정보의 홍수, 그럴싸한 왜곡된 정보들 속에서 논리적이고 비판적으로 사고하고, 옳고 그름을 판별하는 능력이 무엇보다 중요해지겠습니다. 새로운 사회에서 우리가 할 일은 새로운 기술의 발전이 모두에게 더 나은 삶을 제공하도록 바른 신념을 바탕으로 바른 방향을 제시하는 것이라 생각합니다.

미션 1. 더 이상의 기술 개발이 인류에게 어떤 공익을 가져다줄지 의심스럽습니다. 과학자 또는 기술자들은 자신이 하고 있는 일의 진보와 성취를 위해서만 일을 하는 경향이 있다고 생각합니다. 이 기술이 어떤 문제점이 있을지를 깊이 있게 생각하지 못하는 것 같습니다. 기술의 진보가 마치 더 나은 세상을 구현해줄거라는 상상만 하는거죠. 안타깝지만 앞으로 기술의 통제가 불가능한 상황이 도래할 것이라 생각합니다. 우리가 살고 있는 21세기 세상이 과연 프롬이 살던 시절보다 더 행복해졌는지 의문을 가져야 할 때 아닐까요. 누구를 위한 개발, 무엇을 위한 개발일까요?

에리히 프롬의 책을 읽으면서 어렵기도 하지만 시대를 넘어 선 공감에 놀랐습니다. 그래서 모임지기님의 질문에도 조금 더 고민을 해보게되네요. :) 미션1 . AI, 챗GPT 기술도 역사 속에서 새롭게 등장했던 많은 신기술들처럼 초반에는 반대 세력이 등장하고 부작용이 나타나 혼란과 반성의 목소리들이 쌓이겠지만 결국 "사람에게 이로운 방향"으로 집단지성이 반응하지 않을까 생각합니다. '믿고 싶다'에 더 가까운 말이겠지만요. 사람은 의미를 찾고 만드는 존재라 개인적인 혹은 사회적인 (긍정의) 의미를 만들거라고 생각합니다. 그러자면 기술개발의 속도만큼이나 인류의 공동선 혹은 지성에 대한 점검이 더 부각되어야 할 것입니다. 기술 개발의 속도는 인간의 지성과 서로 반응하며 꾸준히 순기능이 더 많도록 이끄는 방향을 모색해야 합니다.

기술개발의 중지라는것은 힘들것으로 보입니다. 이미 인류는 개발의 충분한 요소들을 가지고 있고 그것에 대한 기대도 상당하기 때문입니다. 그러나 우리는 그 거듭된 개발의 벼랑위에서 위기를 맞은 환경의 모습을 보고 있습니다. 인류는 path finder로써 항상 길을 찾는다! 환경위기를 극복할 길을 찾고 있지만 가능할지는 모르겠습니다. 지나온 길을 되돌아 보는것은 같은 실수를 거듭하지 않기 위해서 입니다. 둑에 손가락을 꽂아 물의 범람을 지연시켰던 소년처럼 세계가 함께 AI의 개발속도를 조절하고 그 사이 인류의 기술적응을 위한 준비시간과 기회를 준다면 그 충격이 좀 더 완화되지 않을까요? 물론 그렇게 되기 위해선 당장의 기업이익을 내려놓아야 하는등의 손해가 따르기에, 이윤창출보다 중요한 인류애등이 우선시 되어야 하리라 봅니다. 쉽지 않는 결정이지만, 프롬이 추구하는 희망을 바라보면 가능할수도 있지 않을까요?

@메이플레이 앞으로도 기술 개발은 더욱 비밀화될 수 있다는 말씀에 공감해요. 지금도 온전히 알지 못하는 영역이 많은데, 개발을 숨기면 과학에 문외한인 저로서는 알 방법이 없거든요. 과학자들과 대중 간의 소통도 더욱 이뤄져야 할 것 같아요. @매일그대와 님, 공감합니다. 대중이 긍정적으로 역할을 할 수 있도록, 집단 지성을 활성화할 방안에 대해서도 고민해봐야 할 것 같아요.

한 문장 한 문장을 천천히 곱씹으며 책읽기를 시작한 덕분인지 미션 문제에 대해서도 천천히 곱씹어보게 되었습니다. AI기술이 발전에 발전을 거듭하고 이미 우리 생활에 미치는 영향이 큰만큼 기술 개발 속도 조절이 가능할런지 의문점이 생깁니다. 다만 발전에 따른 편리함과 이익추구에 맞서는 문제점들을 어떻게 규정짓고 대책을 세울것인지에 대한 고민과 대책이 필요하다고 봅니다. 속도 조절이 아니라 기술 개발에따른 부작용과 문제점을 해결할 방안에 더욱 비중을 두어야하지 않을까 생각해봅니다.

미션1. 23년 최고의 이슈라고 할 수 있는 AI, 챗GPT에 대해 여러분들은 어떻게 생각하시나요? AI 개발에 속도 조절이 필요할까요? 지속해야 할까요? "... 기계가 자체적으로 자신의 프로그램을 만들게 됐고, 이제는 기계가 인간의 생각마저 결정하게 됐다. (21 p.)" 첫 번째 미션을 마음에 담고 책을 읽기 시작한지 얼마 되지 않아 위의 문장을 만났습니다. AI 기술과 너무나 맞아 떨어지는 문장이에요. 10년 전만해도 저는 'AI 뒤에 사람있다.'고 말하곤 했는데, 최근의 AI를 보면 이제 '사람 앞에 AI 있다.'는 생각이 들어 무력감이 듭니다. 함께 공유해주신 기사에 나타나는 AI 개발이 지속되어야 한다는 주장에서 저는 오히려 속도를 조절해야만 하는 이유를 봅니다. 먼저 전 세계적으로 기업과 정부에서 '경쟁적으로' AI 기술 개발에 뛰어 들고 있다는 점이에요. 권력과 경제 논리에서 앞만보고 접근하는 태도로는 분명 간과하고 있는 것들이 있을 것이라 생각합니다. 또한 AI 전문가들이 현실의 AI가 공상과학영화나 소설에 등장하는 AI처럼 흑화될 수 없다고 단언하는 것을 여러 번 본 적이 있습니다. 기사에서도 우리나라 전문가는 'AI 기술이 앞으로 어떻게 변화할 것인지 모르는 상황에서 선(先)규제론은 조심해야 한다' 고 말했는데요, 그 반대의 경우에도 '어떻게 변화할 것인지 모르는 상황' 임은 동일하며 어떤 영향이 어떤 '사람들'에게 어느 정도로 미칠지 알 수 없다고 생각합니다. 실제로 AI 기술이 적용되는 분야가 넓어짐에 따라 생존권이 위협 받는 개인도 증가하고 있습니다. 현재 AI 이슈는 비단 '기술'의 차원을 넘어서 인간의 창작, 유희, 노동, 학습 등 전 분야로 확장되고 있어요. 그 흐름에 경쟁적으로 뛰어들고 있는 정부, 기업, 개인 등의 활동 주체도 다양하고요. 그래서 기술 개발이 중단될 수 없는 시대인 것 같긴 합니다. 다만 저는 AI 개발에 속도 조절이 필요하다고 생각해요. 프롬이 던지는 '어디를 향하고 있나?' 라는 질문이 필요한 때인 것 같습니다.

미션 2. 우리가 완성된 사람이라면, 그래서 더 이상의 어떠한 성장도 변화도 거치지 않을 것이라면, 알고리즘은 아주 완벽한 도구가 됐을 겁니다. 우리의 관심사와 특성이 고정되어 있으니 변수 설정도 얼마 할 필요가 없을 거예요. 하지만 우리의 변화가능성을 염두에 두지 않은, '확실성의 전제'가 알고리즘의 한계로 작용하는 것 같아요. 유사한 것만을 보고, 소비할 것이라고 생각하는 확실성이요. 그런 점에서 H님께서 지적하신 불투명한 변수의 설정과 정보 제공에 더해 우리가 은연중에 당연하다 생각해 온 확실성의 전제를 문제의 주요 원인으로 지적하고 싶습니다. 이와 관련해서 알고리즘이 주체적 의사 결정의 기회를 앗아간다는 데에 동의합니다. 기계가 나의 관심사와, 내가 궁금해하는 것에 '딱 맞는' 내용을 찾아서 나에게 먼저 추천해준다는 것은, 다양한 정보 가운데에서 우리가 직접 선택하고, 결정할 권리를 빼앗기는 것이기도 하니까요. 다른 한편으로 주체적 의사 결정의 기회를 빼앗는다는 것은, 사고방식이 유사해진다는 의미도 포함하는 것 같습니다. 우리가 유사한 콘텐츠를 소비하면 유튜브는 그 즉시 유사한 내용을 추천해주죠. 콘텐츠를 소화할 시간 없이 또 새로운 콘텐츠를 받아들여야 하는 구조는 사고의 기회를 제한합니다. 소비하는 내용은 유사해집니다. 검색엔진도 마찬가지죠. 내가 검색한 키워드에 '가장 적합한' 정보를 내어준다고 하지만 정보의 취사선택과 배열순서는 시스템의 논리가 결정한 겁니다. 이것은 콘텐츠의 공급량이 '적어서' 유사한 콘텐츠를 소비할 수밖에 없었던 과거와는 또 다른 양상입니다. 다만 이러한 알고리즘의 탄생 배경에 생산량이 많아질수록 좋다는 최대 생산의 논리가 있다는 걸 생각해보면 알고리즘만을 문제로 탓할 수는 없는 것 같아요. 사용자가 직접 선별하지 못할 정도로 정보가 쏟아지게 되었으니 빅데이터를 기계에게 맡기려는 움직임도 나온 거겠죠. 어쩌면 알고리즘은 문제의 근원이라기보다는 우리의 인식에서 비롯된 부산물일 거예요. 알고리즘의 활용방안이라면, 유치하지만 나의 생각을 정리할 시간을 갖는 것이 어떨까 싶습니다. 알고리즘을 사용하지 말자는 의견은 극단적일뿐더러 현실적이지도 않은 것 같아요. 하지만 최소한 검색, 콘텐츠의 소비, 챗GPT에게 어떤 내용을 맡기기 이전에 '어느 만큼만 미디어를 소비해야지, 어떤 내용을 구상해야지, 어떤 것을 알아봐야지' 는 생각할 수 있을 것 같아요. 다른 의견은 없는지 계속 반문하는 습관도 나만의 관점을 갖게 하는 데에 도움이 될 거고요. 인간의 자율성과 비판적 사고는 그런 사소하지만 수동성에서 벗어나려는 시도를 통해 만들어지는 거겠죠.

여러분들은 이에 대해 어떻게 생각하시나요? 알고리즘이 야기할 수 있는 문제로는 어떤 것이 있을까요? 우린 앞으로 알고리즘을 어떻게 활용해야 하는 것일까요? 알고리즘이 우리의 취향과 미학적 감성, 생각을 '반영'한 결과..라고 할 수는 있겠지만, '나의' 결과 값이라고 항상 말할 수는 없지요. 어쩌면 그 차이만큼이 불편이 되기도 하고, 다행이 되기도 하겠습니다. 그 차이를 어떻게 조절하느냐가 활용에서의 "어떻게"라고 할 수 있을 것 같아요. 다른 분들도 언급하신 대로 검색어 하나가 나의 온갖 정보 창구에 큐레이션 될 때의 소름 돋은 기억이 제게도 있습니다. 그러다 행운이다 싶게 얻어 걸린 적도 있고, '암만 빅 데이터라도 아직 나를 다 못 담는구나!' 싶게 답답한 경우도 있었지요. 그 미묘한 줄타기의 공백이 인류가 아닌 인간, 개인이 들어갈 자리라고 생각합니다. 내가 나를 표현하는 수고를 쉬지 않는 정성을 들일 수 있는 자리요. 남들과 무조건 달라지기 위한 몸부림이 아니라, 가장 자기다움을 표현할 수 있는 방향으로 애쓰는 것은, 0.01도의 작은 각도 차이지만 원점에서 멀어질 수록 그릴 수 있는 호의 길이가 달라지는 것처럼 거대해질 수 있는 것이지요. 효율성과 편의 안에 나를 매몰 시켜두고 안정감을 느끼기 보다는 조금 불안하더라도 자기만의 좌표를 찾아 내는 통찰과 책임감을 항상 가장 먼저 떠올려야 합니다. 쉬운 일은 아니겠지만, 이러한 책을 읽고 함께 나누며 공부하는 우리의 이 자리가 저에게는 통찰과 책임감을 배우는 기회가 되는 것처럼 다양한 방향에서 점검하는 노력이 필요합니다.

미션 2 알고리즘 하니 유튜브를 볼 때 항상 비슷한 것들이 나오는 것, 그리고 블로그나 웹을 볼 때 나오는 광고가 항상 비슷한 이유가 다 알고리즘 때문인거죠. 개인적 관심도를 반영하는 알고리즘이 정말 내 관심, 내 생각을 반영한 것일가는 한번 의심해본적이 있습니다. 우연히 잘못 클릭한 결과가 내가 선택한 것처럼 인식되어 전혀 관심없는 내용이 뜬적도 있었지요. 기계는 오로지 클릭한 수치와 같은 것으로 결과를 내리게 되는 것이죠. 무의미한 실수가 의미있는 결과가 되는 것이 아닌지, 즉 거짓이 진실처럼 되는 것이 아닌지 걱정이 되기도 합니다. 그리고 쉽게 연계시켜주는 알고리즘의 편리함보다 나를 한정된 유형으로 묶어놓는 것은 아닌가 싶기도 합니다. 늘 비슷한 정보로 묶인 알고리즘 때문에 새로운 정보가 차단되거나 외부의 의도에 의해 나도 모르는 사이 알고리즘에 끌려갈 수 있을 것 같아요. 알고리즘은 과정을 단순화 시켜서 시간을 단축시키고 보다 많은 정보를 제공해 줄 수 있습니다. 절차상의 문제를 간소화시키는 역할을 하는 알고리즘을 큰 도움을 받아 삶의 여유를 받을 것입니다. 하지만 무턱대고 주어지는 대로 받아들이는 것이 아니라 의심해보는 인간의 생각이 늘 함께해야 할 것 같습니다.

저는 이번 파트에서 과학적 접근이 시작된 배경에 대한 글이 인상 깊었어요. 과학 지향적인 인간이 합리적이고, 독립적인 인간이기를 멈추고, 절대적 확실성에 지나치게 의존하고 있는 것은 아닐까 싶기도 했고요. 컴퓨터 사용의 보편화가 적절한 예인 것 같습니다. 너무나 당연하게 예측 가능한 것들에만 기대고 있고, 오히려 그렇지 않은 것들은 옳지 않다고 말하는 것만 같아요. 위기감이 느껴집니다. "경영인은 컴퓨터의 예언을 자유롭게 받아들일 수도 있고, 거부할 수도 있다고 느끼지만 사실은 독실한 기독교도가 신의 의지에 반해서 행동할 자유가 없듯이 그 역시 사실상 컴퓨터의 예언을 거부할 자유가 거의 없다. 물론 그럴 수도 있겠지만 미치지 않고서야 그런 위험을 감수할 리가 없다. 신, 혹은 컴퓨터가 제시한 해법보다 확실한 것이 없기 때문이다."라는 문장처럼요. 트렌드를 맹목적으로 따르는 것도 저는 위태롭다는 입장입니다. 자신은 굉장히 트렌디한 사람이라고 자랑하듯 말하는 사람들을 보면, 마치 취향을 상실한 사람들 같아요. 그 전체 맥락에 깊이 들어가 보면 매스컴의 발달로 인한 일방적 학습일지도 모르는데, 그것조차 인지하지 못하고 있는 것 같아서요. 알고리즘도 마찬가지라 여겨집니다. 신속함, 편리함만을 찬양하기 보다 자신의 취향을 명확히 아는 것이 중요하다 생각돼요. 다들 주체성을 상실해가고 있음에도 그것조차 스스로 인지하지 못하는 것 같아 무섭게 느껴집니다. 주체성을 가진 이들을 오히려 이방인 취급하는 것 같고요(유행을 모른다느니, 나이가 들었다느니, 4차원이냐느니 등). 에리히 프롬의 '자유로부터의 도피'라는 책에서도 비슷한 느낌을 받았는데, 기류에 무조건적으로, 맹목적으로 편승할 것이 아니라 무엇이 자신에게 가장 잘 맞는 것인지를 면밀히 따져볼 필요가 있는 것 같아요. 그런 의미에서 주체성이 정말 중요한 것 같고요.

언젠가부터 연관되는 것이 뜨면 그게 알고리즘이라하더라구요. 그런데 뭐가 연관된 것인지도 모르겠고, 어떤 기준인지도 모르겠구요. 나의 취향이 반영되었다는데 영 아닌 것도 많던데...ㅇ그래서 그냥 오류나 별의미없겠거니 하고 넘기곤 했죠. 그런데 이책을 읽다보니 나와는 상관없이 어떤 기계값에 의해 그렇게 형성된 알고리즘이란 것이 지금은 의미없어 보이지만 이게 어떤 기준도 없이 계속 쓰이게 된다면 결국 인간이 기계에 예속되는 결과가 나오리라 생각해요. 확실성이란 기준으로 기계값이 맞다는 결론으로 인간의 의지와 주체성이 결국 알고리즘에 묶여버리는 결과가 되지 않을까 우려되는 것도 사실입니다. 어딘가에 묶어진다는 것은 한편으론 자율성과 사고를 침해당하는 것이니까요.

미션2 유투브나 인스타를 보면 좀전에 내가 보던 것들을 파악해서 바로 그거에 대한 피드나 영상을 추천해주는걸 볼수있다. 뭐 그냥 아무 생각없이 보면 그냥 지나칠수 있는 문제겠지만, 내가 좀전까지 하던걸 마치 사찰이나 감시당한 느낌이다. 누군가 인터넷상에서 나를 감시 하는건 아닐까? 문득 조지오웰의 1984의 빅브라더가 실제로 존재하는 것은 아닐까 하는 섬뜩함이 몰려온다. 저자도 어떠한 철학이나 어떠한 전문가보다도 오히려 조지오웰이나 올더스헉슬리, 내가 생각하는 작가중에선 쥘베른,어슐러르귄 등등 디스토피아나 SF를 쓰는 작가들의 세계관이 어느때보다 더 사실로 올꺼같다는 기대감이나 두려움이 있다. 그동안의 문학 작품을 보았을때 그렇게 현실에 다가온적이 한두번이 아니니깐 말이다. 문학작품에서 나온 일부분이 현실로 다가왔을때 우리는 아무런 인식을 하지 못하지 않았나. 그렇게 미래는 우리가 모르는 틈에 우리 앞에 다가오는것이다. 알고리즘이야 말로 먼미래의 이야기가 아니고 지금 우리가 다가온 현실에 직면한 문제인거 같다. 문제??? 문제는 아니고 그냥 현실의 필수 인거 같다. 어느정도를 인정하게 되면 어느정도는 이해하고 넘어가지 않을까? 그냥 자연스럽게 사용하다보면 그것이 나의 삶의 일부분이 되고 그것을 잘 쓰느냐 오용하느냐는 개인의 몫이라 생각한다.

미션2 얼마 전 딸아이의 신발을 구입하려고 이것저것 검색하다가 발견한 한 브랜드의 노랑색 신발이 예뻐 보여서 최저가로 구입하기 위해 몸부림을 쳤드랬죠. 결국 이런저런 이유로 구입은 안했습니다만, 좀 소름돋았던 게 그 일 이후 인터넷 포탈의 광고가 제가 검색했던 신발로 도배되어 등장하더군요. 인터넷에서 내가 클릭했던 모든 데이터가 빅데이터화되어 상업적으로 활용되는 것을 목격한 순간이었습니다. 알고리즘이 사실 편리한 면이 많습니다. 비슷하면서도 다른 부류의 상품, 노래, 영화 등 내가 접해보지 못한 것을 소개해 줌으로 관심에 따른 다양성을 토대로 한 선택지를 넓혀주는 부분에서 큰 의의가 있다고 생각합니다. 다만 가장 우려되는 것은 완전히 새로운 것을 접할 수 있는 가능성을 차단하는 점입니다. 심리학 용어인 '확증편향'이 떠오르네요. 자기와유사한 생각과 정보만 접함으로써 생각이 한쪽으로만 굳어지는 일이알고리즘을 통해서 분명 강화될 것 같습니다. 지금의 정치 및 사회 현상만 봐도 충분히 염려되는 지점입니다. 그러므로 정보를 활용하는 주체인 우리는 알고리즘을 활용하면서도 의식적으로 알고리즘에 저항하는 검색 패턴을 가져야 하고 디지털 사회에서 자기자신을 아날로그적으로 가꿔나가는 것도 필요하지 않을까 싶습니다.