[미네르바독서학교 4기 중등부] "인공지능과 4차산업혁명의 미래"를 읽고 토론해요.

저는 로봇이 사람을 완벽히 대체하는 것이 가능할까?입니다. 저는 이 질문을 보고 많은 고민과 생각을 했고 인공지능이 담당할수 있는 부분과 할수 없는 것이 존재합니다. 하지만 미술,음악등의 창작영역까지 담당하고 있는 인공지능의 한계를 고민하게되어 신기했습니다

올해 화재가 되었던 '챗 GPT'를 기억하시나요? '챗 GPT'는 대화의 주체를 파악하고 자신의 행동 하나하나를 기억하는 인공지능으로써 마치 사람과 대화는 듯한 느낌을 주었는데요, 저도 이 '챗 GPT'를 사용해 보았습니다. 기사에서 보았던것 처럼 '챗 GPT'는 제가 말하는 모든것을 알아듣고 이해해 매우 섬세하고 정확한 답변을 주어 굉장히 놀라웠는데요, 만약 이 인공지능이 훨씬 더 발전하거나 육체를 가지게 된다면 어떤 일이 벌어질지 상상조차 하지 못했습니다.

차이교민: 저는 <메간>이라는 영화를 본 적이 있습니다. 인공지능 로봇 개발자 이모가 부모님을 잃은 조카에게 메간이라는 인공지능 로봇을 친구로 주는데, 아이는 세심하게 위해주고 부드러운 말을 해주는 로봇에게 의존하게 됩니다. 그런데 그 로봇이 점점 사람 친구를 대신하고 이모가 할 일까지 대신하더니 조카를 보호하고 그 아이와 같이 있는 것에 집착합니다. 그래서 이모가 전원을 끄거나 조카와 이야기할 자리를 내달라고 하면 거부하고 조카를 조금 해하거나 기분 나쁘게 한 이들은 모두 죽여버립니다. 결국에는 이모는 물론 자기를 이상하게 여기는 조카도 공격합니다. 다행히 오직 조카 말에 따라 힘만 써주는 구식 로봇으로 메간을 부수고, 이모가 조카에게 평생 책임져 줄 것을 약속하며 영화는 끝납니다. 저는 이 영화에서 메간이 인간의 말을 따르지 않는 것 자체보다, 그렇게 된 과정과 조카가 메간에 의존하는 모습이 섬뜩했습니다. 메간은 인공지능이기에, 이번 주 책의 저자가 말한 대로 그저 자기에게 맡은 일만 처리합니다. 자기가 맡은 일만을 위해 학습한 모든 것을 동원하다 보니 그중에 나쁜 것이 있어도 나쁘다는 것 자체를 인지하지 않아 잔인한 짓도 한 것입니다. 우리 인간도 나쁜 것이 그러하다고 인지하지 않으면 아이히만처럼 악한 일을 서슴없이 저지르게 되는데, 하물며 양심이란 것이 없고, 생각이 아닌 계산만 할 줄 아는 인공지능은 어떨지 걱정되었습니다. 인공지능의 학습 범위를 제한하고 학습 결과를 지속적으로 감시하며, 어떤 로봇이라도 로봇 3원칙을 반드시 입력하는 것의 필요성을 깊이 느꼈습니다. 그리고 인간 아이가 자기에게 맞춰 주고 좋은 말만 해주는 인공지능에게 의존하는 모습에서 인공지능과 상호작용을 하는 것의 단점을 보았습니다. 인공지능은 인간이 아닙니다. 저마다의 경험에 따라 섬세하게 공감해서 때로는 따뜻하게, 때로는 냉정하게 이야기하는 것이 아니라 그저 알고리즘으로 기분을 분석해 학습한 여러 정보 중 현재 진행되는 대화에 맞는 문장을 내놓습니다. 상대에 대한 호감, 애정과 자기 경험에서 얻은 생생하고 색다른 정보로 말하는 게 아닌 다른 상황에 적용되었던 대화 중 비슷한 것을 뽑는다는 것인데, 때문에 인공지능이 내놓는 것들은 지금까지 생산된 것을 약간의 재조합을 해 보여주는, 폐쇄적 결과물이라 할 수 있습니다. 그리고 인공지능이 잘 팔리고 많이 이용되어야 하니 달콤하게 말하도록 설계한 것입니다. 그런데 이 달콤하지만 폐쇄적인 답변을 무방비 상태로 오랫동안 습관적으로 듣는다면 인공지능을 인간보다 훨씬 더 가깝게 느끼게 되고, 그 사람은 인공지능이 들려주는 답변을 들으며 성장한 만큼 여러 사람의 의견을 들어 스스로 종합해 받아들이고 재생산하는 능력이 떨어질 수 있습니다. 냉정한 말에는 쉽게 우울해할 수도 있습니다. 인공지능이 수집한 정보의 결과물에 익숙해졌으니까요. 이 영화의 조카도 비슷한 경우입니다. 저는 미래에 이러한 경우가 많아져 인간을 거부하고 인공지능에 의존하는 아이들이 늘어나 기술과 돈을 쥔 자만 이익을 보고, 나머지 사람들 개개인의 정신, 가정과 사회는 제대로 유지되지 못하는 무서운 상황이 올 것 같아 우려됩니다. 그렇다면 인공지능을 인간 교류에 도움이 되는 방향으로 개발해야 할텐데, 대다수의 개발자들이 이 영화의 이모처럼 인공지능의 문제는 작게 여기고 기술과 그 발전을 과도하게 긍정적으로만 여기며 '기술 발전은 막을 수 없다'고 외칩니다. 개발을 하는 이들이 자신들인 데도 말입니다. 한편, 영화 결말에서 메간을 없애줄 때도 로봇이 기여합니다. 다만 그 로봇은 스스로 판단하지 않고 인간이 하라는 대로 힘을 발휘합니다. 힘이 약하다는 인간의 단점을 보완해 주는 것입니다. 조종 방식에서도 인간이 안경 같은 물건으로 로봇 입장이 되는 것이 아닌 로봇의 자세를 관찰하며 손으로 조종합니다. 작가는 아마 그 로봇으로 바람직한 로봇의 모습을 제시했을지도 모릅니다. 인간이 하지 못하는 것을 해주지만, 인간의 뜻을 전적으로 따르고 인간과 인간의 관계를 이어주는 모습 말입니다. 그런 로봇은 악한 인간의 손에만 넘어가지 않는다면 더없이 유용한 도구가 될 것입니다. 정리하자면, 저는 이 <메간>이라는 영화를 보며 인공지능의 위험성을 느끼며, 인공지능을 쓰더라도 인간이 주도권을 가져야 하고 인간과 인간의 관계에 소홀해선 안된다는 생각을 하였습니다. 기술을 맹신하고 기술 발전을 맹신하며 막을 수 없다고 하는 것이 얼마나 위험하며 또 일부 사람들에게만 좋은 것인지도 느꼈습니다.

그리고 저는 빙에서 만든 인공지능과 대화하고 시를 짓게 한 적이 있습니다. 인종차별과 사랑을 주제로 쓰게 했는데, 문장 구조상 이상한 점은 없었지만 감정이 결여되어 있었고 시 답지 않게 딱딱했습니다. 우스갯소리도 제가 다 황당할 정도로 웃기지도 않고 이해가 되지 않는 것도 많았습니다. 감성은 인간만 못한 듯 보였습니다. 그래도 말하는 말투가 예의 바르고 어딘지 모르게 귀엽다고 느꼈습니다. 그러나 인공지능이 쓴 시나 한 우스갯소리를 은연중에 따라할까봐 두려웠습니다. 누가 만들었든지 제가 생각한 결과가 아닌 것이 무의식에 들어오는 것도 거북한데, 그게 알고리즘의 결과라면 인간인 저의 뇌가 알고리즘에게 잠식 당하고 그의 종이 되는 기분이 들어 나와 인류의 존엄성을 해친다는 느낌이 들 것 같았기 때문이었습니다. 저는 나중에 창작에서 인공지능의 도움을 받는다면 차라리 인공지능의 창작물 중에서 좋은 요소를 뽑아 깊이 생각해 스스로 짓고, 정정당당히 인공지능의 도움을 받았다고 밝히고 싶습니다. 더 좋은 것은 혼자서 사유하면서 창작해 제 생활을 깊이 느낄 줄 아는 이가 되고 싶습니다.

이 책을 읽어보기 전에, 친구네 집 자동차를 타 보았는데, 그 차에 자율 주행 기능이 있어서 인공지능을 조금 경험해 본적이 있습니다. 처음에는 자동차를 사람이 운전하지 않아서 믿음이 가지 않았는데, 생각보다 안정감이 있게 운전을 하였고, 차가 막히는 곳에서도 차 간 간격을 잘 유지하고, 차선도 잘 따라가는 것을 보며, 인공 지능 기술이 짧은 시간안에 무척 빨리 발전했다는 것을 느꼈지만, 굽은 길 같은 곳에서는 아직 인간이 운전을 해야 한다는 것을 알고, 자율주행에도 아직 부족한 점이 조금은 있다는 것을 느꼈습니다. 또한, 이렇게 인간의 삶을 더 편하게 만들어주는 기술이 더 많이 개발되었으면 좋겠다고 느꼈습니다.

저는 초등학교 시절 [필]이라는 인공지능에 관한 책을 읽어본 적이 있습니다. [필]이라는 책은 인공지능이 인간을 뛰어넘었다는 배경으로 인공지능이 인간을 지배하는 내용의 책입니다.어린 나이에 인공지능이 사람을 지배한다는 것이 믿겨지지가 않았고 신기해서 인상깊었습니다. 그 시절이 엊그제 같은데 벌써 인공지능이 이렇게까지 성장했다는 것이 신기하여서 그 책이 더욱 더 인상깊고 오래 기억에 남습니디.

요즘 우리나라에서 부당한 판결을 내린 판사와 같이 재판에 관한 기사를 심심치 않게 볼 수 있는데요, 저는 이에 대해 AI 판사가 도입되어야 한다고 생각합니다. 왜냐하면 인공지능을 사용하는 것이 인간 판사를 사용하는 것보다 더 정확한 판결을 내릴 수 있기 때문입니다. 인공지능 판사는 인간과 달리 감정적인 의견이나 충동적인 판결이 없어 비교적 정확한 판결을 내리도록 도와줍니다. 물론 초기에는 문제가 있을 수도 있고, 법률에 따라 판결하는 것이기 때문에 강한 처벌을 마구 내릴수는 없겠지만, 인간 판사의 판결에서 발견되는 문제점들을 보완하는 데에는 도움이 돨 것이라고 생각합니다.

인공지능 판사는 도입하지 않아도 되며, 도입하기도 힘들다고 생각합니다. 재판정은 단순한 심판대 이상의 의미를 지닙니다. 법, 윤리, 개인 사정, 사회 전반을 의식하며 피해자와 가해자 또는 원고와 피고 모두를 고려해야 합니다. 어떤 사건이고, 어떤 사람들이냐의 따라 도움이 될 판결은 바뀝니다. 법에 대해 해석할 필요도 있습니다. 그것에는 인간의 고유한 사고 능력과 양심과 따뜻함이 있어야 하고, 유연성도 요구됩니다. 그런데 인공지능은 양심이나 따뜻함 같은 것 없이 그저 선례로써 계산만 할 뿐입니다. 주류가 한 법의 해석이나 권력자의 법의 해석만 입력되어 법의 해석이 일원화되거나 '어용 판사'가 될 가능성도 많습니다. 한 나라의 법이 시대의 변화에 따라 다르게 해석되지 못한다면 그것은 탄압하는 법, 또는 죽은 법이 되기 마련인데 말입니다. 그렇지 않더라도 법의 뜻을 표면적으로 해석하고, 개인의 사정을 고려하지 않은 판결을 할 수 있습니다. 사회의 발전을 저해할 수도 있다는 뜻입니다. 그리고 사람들의 신뢰도도 문제입니다. 지금처럼 권한을 가진 판사가 판결을 해도 가볍게 무시하는 사람들이 일부 있는데, 기계가 판결한다고 하면 더 많은 이가 '나보다 못한 기계 따위의 판단이 중요한가?' 아니면 '감히 기계가 판결을 하다니, 불쾌한 걸'하며 법을 가벼이 여기고 사람에 따라 모멸감과 분노를 느낄 수도 있습니다. 그러한 감정은 자존심과 존엄성을 가진 인간으로서 느낄 수도 있는 감정이기에 잘못됐다고만 하기도 어렵습니다. 그리고 인공지능은 다양한 상황에 적응할 능력이 떨어진다고 합니다. 학습된 범위 내에서만 계산을 할 수 있기 때문입니다. 그래서 전문가들도 정비사 같은 직업은 대체 가능성이 적다고 말합니다. 하물며 사건마다 달라지는 당사자들, 갈수록 느는 신종 범죄에 대해 사유해야 하는 판사는 어떻겠습니까? 마지막으로, 비용과 생태에 미치는 영향도 문제입니다. 사법부 적폐 같은 문제는 몇차례의 개혁과 법 제정, 인사 교체로 해결할 수 있고, 이 문제가 해결되면 일부 사람을 위해 빠져나가던 돈이 없어져 돈이 덜 들게 될 것입니다. 그러나 인공지능 판사라는 고도의 기계를 쓴다면 전기가 막대한 양으로 소모될 것입니다. 자연히 전기세도 지금보다 더 나가고, 생태에도 부담이 되리라 봅니다. 사법부 개혁보다도 장기적으로 더 큰 비용이 든다는 것입니다. 효과가 확실치 않은 것에 막대한 비용을 들이는 것은 세금을 낭비하는 일입니다. 그러므로 저는 인공지능 판사는 도입할 필요도 없고, 그럴 수 있는 가능성도 적다고 생각합니다.

저는 AI 판사가 도입되면 안된다고 생각합니다. 판사는 단순히 가해자의 형량만 정하는 직업이 아니라 인간적인 감정도 약간은 고려하여 재판의 내용을 듣고 여러 사람의 입장을 이해하고 판단하는 직업입니다. 하지만 AI가 판사 역할을 대신하게 된다면 변호사 검사 필요없이 사건의 내용만 듣고 판단하게 되므로 내용에는 어디서 오냐에 따라서 차이가 있을 수 있으므로 오류가 나서 잘못된 판단을 할 수 있습니다. 하지만 사람은 실수도 없진 않지만 여러 사람의 의견을 듣고 판단하므로 훨씬 더 인간적인 판단을 할 수 있기 때문입니다.

딱 한 가지로 단정짓긴 어렵지만, 저는 사물인터넷은 인간을 더 연결시키는 데에 더 많은 도움을 준다고 생각합니다. 인터넷이 더욱 활발하게 활성화가 되었고, 언제 어디서나 쉽고 빠르게 정보를 전달할 수 있기 때문에 사람들 사이의 정보의 교류가 더 빨라지고, 다양해질 것이라고 생각합니다. 또한, 장소의 제약이 없는 원격제어 시스템 등은 시간의 낭비를 줄여 인생에 집중하는 데에도 도움을 더 준다고 생각합니다.

저는 소외되게 할 가능성이 더 높다고 생각합니다. 지금도 사람을 마주하지 않고 사는 것이 습관이 된 일부 사람들이 누구와 통화하는 것조차 꺼린다고 합니다. 사람과 마주하기를 극도로 꺼리는 것은 두말할 나위 없고 말입니다. 그런데 사물인터넷이 등장해 기계가 자동으로 집안에 있는 물건들을 제어하고 책에 나온대로 영상물까지 추천해준다면 사람들 스스로 사람과 교류할 필요성을 너무나 쉽게 잊고, 거기에 생성형 인공지능 기술까지 들어간다면 사람과는 아무런 교류도 하고 싶어하지 않을 수 있습니다. 가족과 우연히라도 대화할 기회조차 없어져 은둔형 생활자를 생산할 위험도 있습니다. 기계가 작은 일도 해결해주면서 가족 간의 협업이나 이웃, 동료와의 협업이 적어져 사람들에게 사회성 결여, 우울감 등 다양한 정신적 문제가 나타날 수도 있습니다. 또한 사람들이 생활을 스스로 제어하며 소소한 사고나 발견을 할 기회가 거의 사라져버려서 이 세상에서 생산되는 생활의 지혜가 줄고, 그에 따라 사람들 대화의 주제도 많이 단순해질 것 같습니다. 그리고 공장이나 일반 직장에서 제 자리에서만 일하고 상사가 부하 직원의 신체를 감시하게 해 자칫 노동자들간의 단절과 노동자에 대한 심한 감시를 촉진할 수 있다고 봅니다. 사물인터넷이 정책의 보조로 아프거나 장애가 있는 사람들의 생활 보조에 쓰이고, 지금처럼 매트리스나 온 열기구 조절에 쓰는 것처럼 기능 개선, 조절과 안전을 위해 쓰인다면 나쁘지 않겠지만 사람의 선택권과 사람 간의 협업이라는 자리는 남겨놓아야 한다고 생각합니다.

저는 사물인터넷의 발달이 인간을 더욱 소외 시킬 것 같습니다. 왜냐하면, 사물 인터넷의 기능이, 사람이 서로 대화를 하거나, 직접 움직이지 않아도, 물건 자체가 우리의 상태를 센서로 인식하고, 자동으로 우리가 해야 했던 일들을 대신 해주기 때문에, 굳이 사람들이 서로 말을 하지 않을 것이라고 생각합니다. 따라서, 저는 사람들이 서로 하는 말 수가 적어졌으므로, 소외가 될 것이라고 생각합니다. 또한 사물인터넷의 정의는 사물들을 서로 인터넷으로 연결시키는 것이므로, 사람들은 연결되지 않을 것이라고 생각합니다.

저는 미래 사회에서 사물인터넷의 발달은 인간을 더욱 더 연결시키는데 도움에 된다고 생각합니다. 사물인터넷의 발달하게 되면 인터넷 기기들의 융합성,연결성은 점점 더 발달하게 되므로 인간의 인터넷 사용은 점점 더 편리해져 갈 것 입니다. 인간이 편리해질수록 사회의 발달 속도는 빨라지고 인간들 간의 융합성도 늘어날 수 있기 때문에 사물인터넷의 발달은 인간을 더욱 더 연결시킬수 있다고 생각합니다.

저는 AI 판사를 아직은 도입하지 않아야 한다고 생각합니다. 첫번째로, 저는 AI가 아직은 완벽하다고 느끼지 않고, 따라서 몇가지 오류를 일으킬 수도 생각합니다. 재판이라는 곳에서, 판사는 어떠한 사건에 대해 판결을 내리는, 재판에서 가장 중요한 사람 중 한명인데, 그런 중요한 역할을 가진 사람이 오류를 일으킬 수 있고, 실수를 할 가능성이 큰 사람이면, 안된다고 생각합니다. 또한, 만약 판사가 이렇게 실수를 할 가능성이 많은 사람이면, 재판을 받는 사람들이 판사를 신뢰하지 않을 것이고, 자연스럽게 판사가 내린 결판도 믿지 않을 가능성이 높아집니다. 두번째로, AI 판사들을 사용한다면, 개인 정보가 불법적으로 누출될 수 있고, AI 판사들의 보안 문제가 있습니다. 예를 들어서, AI 판사가 어떤 재판을 진행중인데, 그 AI 판사가 해킹을 당하면, 재판 도중에 AI 판사에게 주어진 개인정보가유출될 것입니다. 또한, 해킹을 당한 AI가 잘못된 판결을 내릴 수 도 있습니다.

인공지능은 결과적으로 인간의 일자리를 빼앗는다라고 생각하지않습니다. 책에서도 일자리가 없어지고 더 많은 일자리가 생긴다고 하였습니다.매번 산업혁명마다 직업이 사라지고 많아졌습니다. 예전과 비교한다면 기계와 인터넷이 생기면서 직업이 사라지고 늘어났습니다. 원하는 직업이 사라질순 있어도 직업이 없어지지 않을 것이라고 생각합니다.

저는 인공지능이 결과적으로 일자리를 빼앗는다고 생각합니다. 첫째, 인공지능은 자본가 입장에서 사람보다 훨씬 이로운 노동력이기에 당연히 더 많이 선택받을 것입니다. 오래전 선진국의 부유한 기업들은 인건비가 싸고 인권, 노동권에 대한 고려가 별로 필요하지 않은 중국으로 자국에 있던 공장을 이전했습니다. 지금은 동남아시아나 인도, 스리랑카 등의 국가로 진출합니다. 그렇지만 사람을 고용하니 정도 차이만 있을 뿐 노동자들에게 인건비를 지급하고 식사 시간을 주어야 하며, 현지 상황과 노동자들의 건강 따위에 따라 노동력이 불안정하게 될 수 있습니다. 그런데 노동력으로 인공지능을 쓴다면 초기 비용만 들 뿐 그 이후에는 인건비가 필요 없고 노사 갈등이나 노동법의 제약에 대해 걱정할 필요가 없습니다. 한마디로 자본가들이 찾고 찾던 상상할 수 없을 정도로 싸고 얌전한 노동력이라는 것입니다. 인공지능 기술이 완벽하지 않은 지금도 키오스크와 서빙 로봇이 빠르게 사람의 자리를 차지하고 있는 모습만 보아도 알 수 있습니다. 따라서 인공지능은 자본가들에 의해 빠르게 도입되어 사람의 자리를 줄일 것입니다. 둘째, 인공지능은 종전의 기술과는 달리 새로운 일자리를 양산할 가능성이 적습니다. 전에 나온 증기기관, 재봉틀, 인터넷 같은 기술은 사람의 생각을 담는 도구 또는 매체의 역할을 하였습니다. 예컨대 고가의 재봉틀이라도 디자이너가 구상한 옷을 재봉사 손이 시키는 대로 만드는 도구이고 인터넷도 사람이 만든 정보를 전달하는 매체입니다. 한 물건이 인간 없이 어떤 작업을 전반적으로 하기는 어려웠습니다. 그래서 고도의 기계를 가지고 운영하는 공장이라도 조작자는 여럿을 고용해야 했습니다. 즉 일자리 양산이 가능했다는 것입니다. 그런데 인공지능은 근본적으로 인간의 신경망을 본따 만든 것이기에 인간처럼 정보 검색, 정리와 실제 작업을 할 수 있습니다. 공장 전체를 관리할 능력도 있습니다. 작업 전반을 수행할 수 있는 것입니다. 그 때문에 아이폰 생산 기업 폭스콘은 완전히 자동화된 공장을 두 개나 설립했고, 우리나라 LS산전도 한 공장에서 모든 작업을 로봇이 하도록 하였습니다. 건설 회사도 차츰 작업을 자동화할 계획을 세우고 있다고 합니다. 그런 스마트공장에 대한 자본가들의 만족도도 높아, 앞으로 더 많이 도입될 것이라고 합니다. 그 과정에서 여러 보통 노동자의 자리는 없어지고 약간의 개발자와 관리자만이 쓰일 것입니다. 공장이나 건설 등 생산 활동이 고용 효과를 내던 과거와 달리 인공지능 기술이 도입되면 고용 효과가 거의 전무할 수 있다는 것입니다. 효과적인 규제가 없는 상태에서 인간과 비슷한 일을 할 줄 아는 한편 인건비를 주고 권익을 보장할 필요가 없는 인공지능이 더 많이 선택받고, 결국 인간의 자리를 차지하는 것은 당연합니다. 인공지능의 기술 자체도 다른 기술보다 고용 효과가 크지는 않습니다. 그러므로 저는 인공지능은 인간의 일자리를 빼앗는다고 생각합니다.