[미네르바독서학교 4기 중등부] "인공지능과 4차산업혁명의 미래"를 읽고 토론해요.

저는 223-224쪽의 '만약 인간보다 똑똑해진 로봇이 또 다른 로봇을 새롭게 만든다면, 그 로봇은 인간의 통제를 벗어날 가능성도 있습니다'가 가장 인상깊었던 문장인 것 같습니다. 물론 인간의 통제릉 벗어난다는 것이 꼭 영화나 소설에서처럼 사람을 해치거나 세계를 정복한다거나 하는것만은 아니겠지만, 만약 인간보다 똑똑해진 인공지능이 탄생하고, 인간의 힘으로는 통제할 수 없게된다면, 그 인공지능이 어떠한 행동을 하고, 어떠한 결과를 초래할지 예측할 수 없기때문에 상대에 대한 정보가 없을때 느끼는 공포감이 들었기 때문입니다.

차이교민: 제게는 207쪽의 '세상에 새롭게 나타나는 수많은 직업이 당분간 더 많이 주목받을 수 있고, 어쩌면 과거의 직업보다 더 큰 돈을 벌 수 있을지 모릅니다. 하지만 그 직업을 영위하며 살아가는 것이 과연 자신의 적성에 맞는 일인지, 정말로 행복한 일인지 결정하는 건 어디까지나 미래를 살아갈 자신의 몫입니다.' 라는 문장이 제일 인상 깊었습니다. 새로운 직업의 등장과 우위 점유 가능성은 인정 하면서도 그것만이 최고라고 보는 태도는 경계한다는 면에서 균형 잡혔고 신선하기 때문입니다. 4차 산업혁명에 관한 책이나 말을 하는 이들이 새로운 직업이 등장해 우위를 차지하는 것을 당연하게 여기고, 그만큼 새로운 직업을 가지고 미래 사회에 맞추어야 한다고 역설하는 경우가 수두룩합니다. 그러나 저는 4차 산업혁명과 관련된 직업이 아직은 낯선데다 적성에 그리 잘 맞는 것은 없다고 생각합니다. 제 주변에도 4차 산업혁명과 관련된 직업을 자기와 맞다고 생각하는 친구는 많지 않습니다. 이는 이제까지 4차 산업혁명 속 기술을 상세히 설명해 주고 장단점을 확실히 짚는 전문가나 책이 많지 않았기 때문이기도 하고, 어느 뇌과학자의 말대로 인간은 복잡한 현대사회에 완벽히 적응할 수 없기 때문일 수도 있습니다. 그 이유야 어쨌든, 저는 저와 제 주변 친구들을 떠올려 볼 때 이 문장이 매우 따뜻하게 느껴지고, 적성에 맞고 나를 행복하게 해줄 수 있는 직업을 찾아야 한다는 직업 선택에서의 일종의 '진리'를 다음에 올 시대에 맞게 잘 풀어냈다고 생각했습니다. 저에게 도움이 많이 되었습니다. 그리고 사람들이 이 문장에 나온 듯이 직업을 선택한다면 세상에 존재하는 직업과 산업의 종류가 다양해질 것이기에 4차 산업혁명이 완수된 지구도 풍요로울 것입니다. 아울러 직업 선택을 자유롭게 할 기본소득과 로봇세 도입의 필요성도 생각해 보게 하는 문장입니다. 4차 산업혁명에서 우리가 가져야 할 진실로 올바른 마음가짐과 그로 생길 효과, 그리고 그 효과를 내기 위한 사회의 변화를 모두 떠올리게 하는 이 문장, 저는 이 문장이 제일 인상적이었습니다.

저는 이 책의 224 쪽에서, " EU는 2017년 1월 벨기에 브뤼셀에서 EU 의회를 열어 AI 로봇의 법적 지위를 전자 인간으로 지정하는 결의안을 찬성 17표, 반대 2표, 기권 2표로 통과시켰답니다." 라는 문장이 가장 인상적이였습니다. 왜냐하면, 사람이 자신이 만든 물건에다가 인공 지능이 있다는 이유로, "전자 인간" 으로 인정해주고, 법적으로 권한을 행사할 수 있는 법인과 비슷한 권한을 로봇에게 준다는 것이 인상적이였기 때문입니다.

저는 213쪽에 나온 ‘이런 일이 현실이 된다면 모든 컴퓨터 시스템이 인간과 동등한, 혹은 인간보다 더 뛰어난 사고능력을 갖게 됩니다.’라는 문장이 가장 인상깊었습니다. 왜냐하면 시간이 지날수록 인공지능의 지능은 점점 더 발전하고 있고 인간의 인공지능 개발 욕심은 점점 더 늘고 있기 때문에 분명히 미래에 언젠가는 인간의 욕심에 의해 인공지능이 인간을 뛰어넘을 것이라고 저는 생각하기 때문에 더욱 더 조심하고 생각을 하면서 인공지능을 발전시켜야 한다고 생각하기 때문에 책에서 이 문장이 더욱 더 인상깊었습니다.

저는 로봇이 사람을 완벽히 대체하는 것이 가능할까?입니다. 저는 이 질문을 보고 많은 고민과 생각을 했고 인공지능이 담당할수 있는 부분과 할수 없는 것이 존재합니다. 하지만 미술,음악등의 창작영역까지 담당하고 있는 인공지능의 한계를 고민하게되어 신기했습니다

올해 화재가 되었던 '챗 GPT'를 기억하시나요? '챗 GPT'는 대화의 주체를 파악하고 자신의 행동 하나하나를 기억하는 인공지능으로써 마치 사람과 대화는 듯한 느낌을 주었는데요, 저도 이 '챗 GPT'를 사용해 보았습니다. 기사에서 보았던것 처럼 '챗 GPT'는 제가 말하는 모든것을 알아듣고 이해해 매우 섬세하고 정확한 답변을 주어 굉장히 놀라웠는데요, 만약 이 인공지능이 훨씬 더 발전하거나 육체를 가지게 된다면 어떤 일이 벌어질지 상상조차 하지 못했습니다.

차이교민: 저는 <메간>이라는 영화를 본 적이 있습니다. 인공지능 로봇 개발자 이모가 부모님을 잃은 조카에게 메간이라는 인공지능 로봇을 친구로 주는데, 아이는 세심하게 위해주고 부드러운 말을 해주는 로봇에게 의존하게 됩니다. 그런데 그 로봇이 점점 사람 친구를 대신하고 이모가 할 일까지 대신하더니 조카를 보호하고 그 아이와 같이 있는 것에 집착합니다. 그래서 이모가 전원을 끄거나 조카와 이야기할 자리를 내달라고 하면 거부하고 조카를 조금 해하거나 기분 나쁘게 한 이들은 모두 죽여버립니다. 결국에는 이모는 물론 자기를 이상하게 여기는 조카도 공격합니다. 다행히 오직 조카 말에 따라 힘만 써주는 구식 로봇으로 메간을 부수고, 이모가 조카에게 평생 책임져 줄 것을 약속하며 영화는 끝납니다. 저는 이 영화에서 메간이 인간의 말을 따르지 않는 것 자체보다, 그렇게 된 과정과 조카가 메간에 의존하는 모습이 섬뜩했습니다. 메간은 인공지능이기에, 이번 주 책의 저자가 말한 대로 그저 자기에게 맡은 일만 처리합니다. 자기가 맡은 일만을 위해 학습한 모든 것을 동원하다 보니 그중에 나쁜 것이 있어도 나쁘다는 것 자체를 인지하지 않아 잔인한 짓도 한 것입니다. 우리 인간도 나쁜 것이 그러하다고 인지하지 않으면 아이히만처럼 악한 일을 서슴없이 저지르게 되는데, 하물며 양심이란 것이 없고, 생각이 아닌 계산만 할 줄 아는 인공지능은 어떨지 걱정되었습니다. 인공지능의 학습 범위를 제한하고 학습 결과를 지속적으로 감시하며, 어떤 로봇이라도 로봇 3원칙을 반드시 입력하는 것의 필요성을 깊이 느꼈습니다. 그리고 인간 아이가 자기에게 맞춰 주고 좋은 말만 해주는 인공지능에게 의존하는 모습에서 인공지능과 상호작용을 하는 것의 단점을 보았습니다. 인공지능은 인간이 아닙니다. 저마다의 경험에 따라 섬세하게 공감해서 때로는 따뜻하게, 때로는 냉정하게 이야기하는 것이 아니라 그저 알고리즘으로 기분을 분석해 학습한 여러 정보 중 현재 진행되는 대화에 맞는 문장을 내놓습니다. 상대에 대한 호감, 애정과 자기 경험에서 얻은 생생하고 색다른 정보로 말하는 게 아닌 다른 상황에 적용되었던 대화 중 비슷한 것을 뽑는다는 것인데, 때문에 인공지능이 내놓는 것들은 지금까지 생산된 것을 약간의 재조합을 해 보여주는, 폐쇄적 결과물이라 할 수 있습니다. 그리고 인공지능이 잘 팔리고 많이 이용되어야 하니 달콤하게 말하도록 설계한 것입니다. 그런데 이 달콤하지만 폐쇄적인 답변을 무방비 상태로 오랫동안 습관적으로 듣는다면 인공지능을 인간보다 훨씬 더 가깝게 느끼게 되고, 그 사람은 인공지능이 들려주는 답변을 들으며 성장한 만큼 여러 사람의 의견을 들어 스스로 종합해 받아들이고 재생산하는 능력이 떨어질 수 있습니다. 냉정한 말에는 쉽게 우울해할 수도 있습니다. 인공지능이 수집한 정보의 결과물에 익숙해졌으니까요. 이 영화의 조카도 비슷한 경우입니다. 저는 미래에 이러한 경우가 많아져 인간을 거부하고 인공지능에 의존하는 아이들이 늘어나 기술과 돈을 쥔 자만 이익을 보고, 나머지 사람들 개개인의 정신, 가정과 사회는 제대로 유지되지 못하는 무서운 상황이 올 것 같아 우려됩니다. 그렇다면 인공지능을 인간 교류에 도움이 되는 방향으로 개발해야 할텐데, 대다수의 개발자들이 이 영화의 이모처럼 인공지능의 문제는 작게 여기고 기술과 그 발전을 과도하게 긍정적으로만 여기며 '기술 발전은 막을 수 없다'고 외칩니다. 개발을 하는 이들이 자신들인 데도 말입니다. 한편, 영화 결말에서 메간을 없애줄 때도 로봇이 기여합니다. 다만 그 로봇은 스스로 판단하지 않고 인간이 하라는 대로 힘을 발휘합니다. 힘이 약하다는 인간의 단점을 보완해 주는 것입니다. 조종 방식에서도 인간이 안경 같은 물건으로 로봇 입장이 되는 것이 아닌 로봇의 자세를 관찰하며 손으로 조종합니다. 작가는 아마 그 로봇으로 바람직한 로봇의 모습을 제시했을지도 모릅니다. 인간이 하지 못하는 것을 해주지만, 인간의 뜻을 전적으로 따르고 인간과 인간의 관계를 이어주는 모습 말입니다. 그런 로봇은 악한 인간의 손에만 넘어가지 않는다면 더없이 유용한 도구가 될 것입니다. 정리하자면, 저는 이 <메간>이라는 영화를 보며 인공지능의 위험성을 느끼며, 인공지능을 쓰더라도 인간이 주도권을 가져야 하고 인간과 인간의 관계에 소홀해선 안된다는 생각을 하였습니다. 기술을 맹신하고 기술 발전을 맹신하며 막을 수 없다고 하는 것이 얼마나 위험하며 또 일부 사람들에게만 좋은 것인지도 느꼈습니다.

그리고 저는 빙에서 만든 인공지능과 대화하고 시를 짓게 한 적이 있습니다. 인종차별과 사랑을 주제로 쓰게 했는데, 문장 구조상 이상한 점은 없었지만 감정이 결여되어 있었고 시 답지 않게 딱딱했습니다. 우스갯소리도 제가 다 황당할 정도로 웃기지도 않고 이해가 되지 않는 것도 많았습니다. 감성은 인간만 못한 듯 보였습니다. 그래도 말하는 말투가 예의 바르고 어딘지 모르게 귀엽다고 느꼈습니다. 그러나 인공지능이 쓴 시나 한 우스갯소리를 은연중에 따라할까봐 두려웠습니다. 누가 만들었든지 제가 생각한 결과가 아닌 것이 무의식에 들어오는 것도 거북한데, 그게 알고리즘의 결과라면 인간인 저의 뇌가 알고리즘에게 잠식 당하고 그의 종이 되는 기분이 들어 나와 인류의 존엄성을 해친다는 느낌이 들 것 같았기 때문이었습니다. 저는 나중에 창작에서 인공지능의 도움을 받는다면 차라리 인공지능의 창작물 중에서 좋은 요소를 뽑아 깊이 생각해 스스로 짓고, 정정당당히 인공지능의 도움을 받았다고 밝히고 싶습니다. 더 좋은 것은 혼자서 사유하면서 창작해 제 생활을 깊이 느낄 줄 아는 이가 되고 싶습니다.

이 책을 읽어보기 전에, 친구네 집 자동차를 타 보았는데, 그 차에 자율 주행 기능이 있어서 인공지능을 조금 경험해 본적이 있습니다. 처음에는 자동차를 사람이 운전하지 않아서 믿음이 가지 않았는데, 생각보다 안정감이 있게 운전을 하였고, 차가 막히는 곳에서도 차 간 간격을 잘 유지하고, 차선도 잘 따라가는 것을 보며, 인공 지능 기술이 짧은 시간안에 무척 빨리 발전했다는 것을 느꼈지만, 굽은 길 같은 곳에서는 아직 인간이 운전을 해야 한다는 것을 알고, 자율주행에도 아직 부족한 점이 조금은 있다는 것을 느꼈습니다. 또한, 이렇게 인간의 삶을 더 편하게 만들어주는 기술이 더 많이 개발되었으면 좋겠다고 느꼈습니다.

저는 초등학교 시절 [필]이라는 인공지능에 관한 책을 읽어본 적이 있습니다. [필]이라는 책은 인공지능이 인간을 뛰어넘었다는 배경으로 인공지능이 인간을 지배하는 내용의 책입니다.어린 나이에 인공지능이 사람을 지배한다는 것이 믿겨지지가 않았고 신기해서 인상깊었습니다. 그 시절이 엊그제 같은데 벌써 인공지능이 이렇게까지 성장했다는 것이 신기하여서 그 책이 더욱 더 인상깊고 오래 기억에 남습니디.

요즘 우리나라에서 부당한 판결을 내린 판사와 같이 재판에 관한 기사를 심심치 않게 볼 수 있는데요, 저는 이에 대해 AI 판사가 도입되어야 한다고 생각합니다. 왜냐하면 인공지능을 사용하는 것이 인간 판사를 사용하는 것보다 더 정확한 판결을 내릴 수 있기 때문입니다. 인공지능 판사는 인간과 달리 감정적인 의견이나 충동적인 판결이 없어 비교적 정확한 판결을 내리도록 도와줍니다. 물론 초기에는 문제가 있을 수도 있고, 법률에 따라 판결하는 것이기 때문에 강한 처벌을 마구 내릴수는 없겠지만, 인간 판사의 판결에서 발견되는 문제점들을 보완하는 데에는 도움이 돨 것이라고 생각합니다.

인공지능 판사는 도입하지 않아도 되며, 도입하기도 힘들다고 생각합니다. 재판정은 단순한 심판대 이상의 의미를 지닙니다. 법, 윤리, 개인 사정, 사회 전반을 의식하며 피해자와 가해자 또는 원고와 피고 모두를 고려해야 합니다. 어떤 사건이고, 어떤 사람들이냐의 따라 도움이 될 판결은 바뀝니다. 법에 대해 해석할 필요도 있습니다. 그것에는 인간의 고유한 사고 능력과 양심과 따뜻함이 있어야 하고, 유연성도 요구됩니다. 그런데 인공지능은 양심이나 따뜻함 같은 것 없이 그저 선례로써 계산만 할 뿐입니다. 주류가 한 법의 해석이나 권력자의 법의 해석만 입력되어 법의 해석이 일원화되거나 '어용 판사'가 될 가능성도 많습니다. 한 나라의 법이 시대의 변화에 따라 다르게 해석되지 못한다면 그것은 탄압하는 법, 또는 죽은 법이 되기 마련인데 말입니다. 그렇지 않더라도 법의 뜻을 표면적으로 해석하고, 개인의 사정을 고려하지 않은 판결을 할 수 있습니다. 사회의 발전을 저해할 수도 있다는 뜻입니다. 그리고 사람들의 신뢰도도 문제입니다. 지금처럼 권한을 가진 판사가 판결을 해도 가볍게 무시하는 사람들이 일부 있는데, 기계가 판결한다고 하면 더 많은 이가 '나보다 못한 기계 따위의 판단이 중요한가?' 아니면 '감히 기계가 판결을 하다니, 불쾌한 걸'하며 법을 가벼이 여기고 사람에 따라 모멸감과 분노를 느낄 수도 있습니다. 그러한 감정은 자존심과 존엄성을 가진 인간으로서 느낄 수도 있는 감정이기에 잘못됐다고만 하기도 어렵습니다. 그리고 인공지능은 다양한 상황에 적응할 능력이 떨어진다고 합니다. 학습된 범위 내에서만 계산을 할 수 있기 때문입니다. 그래서 전문가들도 정비사 같은 직업은 대체 가능성이 적다고 말합니다. 하물며 사건마다 달라지는 당사자들, 갈수록 느는 신종 범죄에 대해 사유해야 하는 판사는 어떻겠습니까? 마지막으로, 비용과 생태에 미치는 영향도 문제입니다. 사법부 적폐 같은 문제는 몇차례의 개혁과 법 제정, 인사 교체로 해결할 수 있고, 이 문제가 해결되면 일부 사람을 위해 빠져나가던 돈이 없어져 돈이 덜 들게 될 것입니다. 그러나 인공지능 판사라는 고도의 기계를 쓴다면 전기가 막대한 양으로 소모될 것입니다. 자연히 전기세도 지금보다 더 나가고, 생태에도 부담이 되리라 봅니다. 사법부 개혁보다도 장기적으로 더 큰 비용이 든다는 것입니다. 효과가 확실치 않은 것에 막대한 비용을 들이는 것은 세금을 낭비하는 일입니다. 그러므로 저는 인공지능 판사는 도입할 필요도 없고, 그럴 수 있는 가능성도 적다고 생각합니다.

저는 AI 판사가 도입되면 안된다고 생각합니다. 판사는 단순히 가해자의 형량만 정하는 직업이 아니라 인간적인 감정도 약간은 고려하여 재판의 내용을 듣고 여러 사람의 입장을 이해하고 판단하는 직업입니다. 하지만 AI가 판사 역할을 대신하게 된다면 변호사 검사 필요없이 사건의 내용만 듣고 판단하게 되므로 내용에는 어디서 오냐에 따라서 차이가 있을 수 있으므로 오류가 나서 잘못된 판단을 할 수 있습니다. 하지만 사람은 실수도 없진 않지만 여러 사람의 의견을 듣고 판단하므로 훨씬 더 인간적인 판단을 할 수 있기 때문입니다.

딱 한 가지로 단정짓긴 어렵지만, 저는 사물인터넷은 인간을 더 연결시키는 데에 더 많은 도움을 준다고 생각합니다. 인터넷이 더욱 활발하게 활성화가 되었고, 언제 어디서나 쉽고 빠르게 정보를 전달할 수 있기 때문에 사람들 사이의 정보의 교류가 더 빨라지고, 다양해질 것이라고 생각합니다. 또한, 장소의 제약이 없는 원격제어 시스템 등은 시간의 낭비를 줄여 인생에 집중하는 데에도 도움을 더 준다고 생각합니다.

저는 소외되게 할 가능성이 더 높다고 생각합니다. 지금도 사람을 마주하지 않고 사는 것이 습관이 된 일부 사람들이 누구와 통화하는 것조차 꺼린다고 합니다. 사람과 마주하기를 극도로 꺼리는 것은 두말할 나위 없고 말입니다. 그런데 사물인터넷이 등장해 기계가 자동으로 집안에 있는 물건들을 제어하고 책에 나온대로 영상물까지 추천해준다면 사람들 스스로 사람과 교류할 필요성을 너무나 쉽게 잊고, 거기에 생성형 인공지능 기술까지 들어간다면 사람과는 아무런 교류도 하고 싶어하지 않을 수 있습니다. 가족과 우연히라도 대화할 기회조차 없어져 은둔형 생활자를 생산할 위험도 있습니다. 기계가 작은 일도 해결해주면서 가족 간의 협업이나 이웃, 동료와의 협업이 적어져 사람들에게 사회성 결여, 우울감 등 다양한 정신적 문제가 나타날 수도 있습니다. 또한 사람들이 생활을 스스로 제어하며 소소한 사고나 발견을 할 기회가 거의 사라져버려서 이 세상에서 생산되는 생활의 지혜가 줄고, 그에 따라 사람들 대화의 주제도 많이 단순해질 것 같습니다. 그리고 공장이나 일반 직장에서 제 자리에서만 일하고 상사가 부하 직원의 신체를 감시하게 해 자칫 노동자들간의 단절과 노동자에 대한 심한 감시를 촉진할 수 있다고 봅니다. 사물인터넷이 정책의 보조로 아프거나 장애가 있는 사람들의 생활 보조에 쓰이고, 지금처럼 매트리스나 온 열기구 조절에 쓰는 것처럼 기능 개선, 조절과 안전을 위해 쓰인다면 나쁘지 않겠지만 사람의 선택권과 사람 간의 협업이라는 자리는 남겨놓아야 한다고 생각합니다.

저는 사물인터넷의 발달이 인간을 더욱 소외 시킬 것 같습니다. 왜냐하면, 사물 인터넷의 기능이, 사람이 서로 대화를 하거나, 직접 움직이지 않아도, 물건 자체가 우리의 상태를 센서로 인식하고, 자동으로 우리가 해야 했던 일들을 대신 해주기 때문에, 굳이 사람들이 서로 말을 하지 않을 것이라고 생각합니다. 따라서, 저는 사람들이 서로 하는 말 수가 적어졌으므로, 소외가 될 것이라고 생각합니다. 또한 사물인터넷의 정의는 사물들을 서로 인터넷으로 연결시키는 것이므로, 사람들은 연결되지 않을 것이라고 생각합니다.

저는 미래 사회에서 사물인터넷의 발달은 인간을 더욱 더 연결시키는데 도움에 된다고 생각합니다. 사물인터넷의 발달하게 되면 인터넷 기기들의 융합성,연결성은 점점 더 발달하게 되므로 인간의 인터넷 사용은 점점 더 편리해져 갈 것 입니다. 인간이 편리해질수록 사회의 발달 속도는 빨라지고 인간들 간의 융합성도 늘어날 수 있기 때문에 사물인터넷의 발달은 인간을 더욱 더 연결시킬수 있다고 생각합니다.