[도서 증정]《미래는 생성되지 않는다》 저자, 편집자와 함께 읽어요!

영상 정말 감사합니다. 영상의 댓글 중에 Korean: The world's hardest language with the world's easiest writing system 라는 댓글에 격하게 공감합니다.

(@장맥주 님께 드리는 대답이었는데 새 글로 쓰는 바람에 지우고 아래에 다시 썼습니다)

AI가 욕설 사용시에 대한 기술적 보완및 제도가 필요하다고 봄니다 욕설을 하게 되면 사람들의 기분이 나빠질수도 있기 때문이죠

저는 가짜 뉴스나 무분멸한 신원 공개릉 통한 마녀사냥을 가장 걱정하고 있습니다 가짜 뉴스가 퍼지는 속도가 너무도 빨라서 어떤 검증도 사실 확인도 소용이 없더라구요 가끔은 새로 올린 게시물은 최초 30분 동안은 읽기만 되고 릴레이나 퍼가기 기능이 안 되면 어떨까 싶기도 한데 그럼 또 사전 검열 논란이 생기겠죠

최근에 미래 언어가 온다라는 책을 읽었습니다. 책의 절반쯤은 인공 지능의 언어가 인간의 언어를 앞서버린 이후의 세계를 다루고 있는데 페이크 커맨드 fake command의 문제에 대한 언급이 있더군요. 페이크 커맨드란 인공지능이 생성하여 실제와 구분하기 어려운 가짜 명령어나 가짜 데이터를 말하는 것인데 쉽게 접근하면 보이스 복제를 활용해 피싱에 활용할 수도 있을 거 같고요. 개인적으로 이용하는 일레븐랩스를 보면 타인의 보이스를 마음대로 복제할 수 없도록 안전 장치들이 마련되어 있긴 합니다만 앱 개발자와 사용자의 불순한 의도에 따라 얼마든지 다양하게 변용되어 사용될 수 있을 거란 생각도 들었습니다. 책의 저자는 정교한 페이크 커맨드를 극복하기 위해 오탈자나 말 더듬기 같은 인간 언어 고유의 불완전성에 집중해야할 거란 이야기를 합니다.

제도적/기술적 관점에서의 보완 이전에 저는 용어 자체를 좀 더 꼼꼼히 볼 필요가 있다고 생각합니다. 예를 들어 ‘가짜 뉴스’란 용어가 광범위하게 쓰이고 있는데요, 그 용법에 대한 규정이 느슨한 것 같습니다. 같은 사실이라도 입장에 따라서 다르게 보이고 해석될 수 있기 때문에 (진실의 편이라고 스스로 생각하는) 내가 알고 있는 것과 다른 것을 가짜뉴스라고 할 수는 없을 것 같습니다. 그보다는 근거나 설명이 없는 주장들을 가짜뉴스라고 해야할까요? ‘악화가 양화를 구축한다’는 그래샴의 법칙이 생각납니다. 굳이 더 가치있다고 생각되는 말들을 숨겨둘 이유는 없지만, 더 재밌고 말초적이고 즉각적이고 파편적인 말들이 더 많은 관심을 끌고 더 많이 퍼지고 있는 것은 사실입니다. 그런데 무엇이 가치있고 무엇 진짜인지는 누가 어떻게 결정하는건가요? 그리고 무엇이 문제인지는 누가 결정하는 것인가요? 어떤 제도와 기술을 논하게되면 머리가 복잡해지는 게 그것은 결국 누구를 위해 누가 결정하는가 하는 생각까지 이르기 때문이죠. 요즘은 사실관계에 확인만으로도 판별할 수 있는 것들마저 교묘히 비틀어 판단하기 점점 더 어려워지네요. 어떻게 해야 하나요?

일리가 있는 말씀입니다. "뉴스는 진실되어야 하기 때문에 가짜 뉴스는 쫓아내야 한다"는 것은 너무나 지당한 말임에도 불구하고, 모두가 100% 동의하는 가짜 뉴스의 정의를 도출하는 게 쉽지 않기 때문에 의견의 충돌이 있을 수 밖에 없습니다. 그것을 문제라고 볼 수는 없지만그 틈새를 비집고 들어가 좋지 않은 목적을 지니고 반목과 갈등을 유도하는 현상은 참 우려스럽습니다. 아무 말이나 내뱉어도 세계로 뻗어나갈 수 있는 지금에서는 더욱 더 그렇죠. 그런데 또 사회악(이것도 사회악이라고 할 수 있다면)에 대한 그 원칙적인 해결책은 아주 옛날에 이미 나온 경우가 많아 보입니다. 가짜를 쫓아내는 데 필요한 것은 (1) 진실을 말하려는 의지 (틀리지 않기 위해서) (2) 잘못을 인정하는 자세(그래도 틀렸을 수 있으니까) (3) 남의 말을 경청하는 태도(왜 틀렸는지 혼자서는 모를 수 있으니까) 등이 있을 텐데 텐데 이것은 인터넷의 시대에도 불변의 진리이겠죠.

가짜뉴스는 기자들이 특종을 먼저 잡겠다는 생각 때문에 혹은 인플루언서들이 조회수를 올리기 위한 목적으로 인해 생기는 것 같은데, 아직까지는 기술이나 제도적으로 보완할 수 있는 방법은 없는 것 같습니다. 지금은 예방조차 어려운 것이 현실이지만, 처벌이 확실하게 자리잡으면 제도적 보완도 자연스레 부상하지 않을까 생각합니다.

“정보의 본질이 물음에 대한 답이다. ” 이란 문장에서 답을 찾고 싶습니다. 정보의 본질을 인지하는 것이 무엇보다 중요함에도 정보가 넘쳐나는 세상에서 사람들은 정보의 본질 대신 그 정보로 자신의 의견을 공고히 하려는 주객이 전도된 태도를 보이곤 합니다. 객관적정보를 멋대로 재단하고 조작하고 짜깁기 하고서는 대단한 결과를 이끌어낸듯이 말하는 사람들과 그들에 열광하는 사람들을 보면.. 소름이 끼치는 걸 숨길 수 없습니다. 특히나 타인을 공격하거나 위기에 빠뜨리기 위한 목적으로 만든 가짜뉴스 유포의 경우 그 의도가 불순한 만큼 처벌의 강도는 지금보다 훨씬 높아야 한다고 생각합니다. 동시에 개인은 어떤 정보를 습득할 때 “일시판단 정지” 상태를 유지해야 하는 습관을 길러야 합니다.어릴 때부터 공공기관을 통한 리터러시 교육이 동반된다면 적어도 “말의 교란”에 즉각적으로 넘가는 위험에는 빠지지 않을 수 있지 않을까요?

아주 일리가 있는 중요한 말씀을 해주셨습니다. 특히 악의를 품은 거짓된 정보에 넘어가지 않는 최고의 방법은 "숙의의 자세"라고 생각합니다. 그 중에서도 제일 기본이 되는 것은 "자신과의 숙의" 즉 섣부른 판단을 하려드는 자신을 이겨내는 것인데 (저도 여기에서 완벽하게 벗어나진 못하지만) 이것은 역시 본능을 다스리는 일이기 때문에 교육과 연마를 통해서 만들어지는 것이라고 봅니다.

기술적 차원에서 AI가 보편적인 도덕규범과 다양한 문화적 환경하에서 지켜야 할 도덕규범 및 언어 표현을 학습하도록 하는데 더 많은 시간과 노력을 투자해야 한다고 생각합니다. 기존의 법, 규범, 도덕적 판단 사례와 인권침해, 폭력성, 욕설 등의 언어 표현 및 문화적 차이에 따른 주의 표현 등도 데이터화를 통한 주입식 학습이 가능한 부분이라고 생각합니다. 충분한 기본 학습데이터를 제공한 후 추가적인 기계학습을 통하여 언어 표현의 자가 순화가 좀 더 가능할 수 있다고 봅니다. 또한 사용자가 악의적인 표현으로 AI를 사용할 경우 원천적으로 플랫폼 사용에 제약을 가하는 제도적 시스템이 갖추어진다면 AI가 추가적으로 불온한 표현들을 학습하는 것도 어느 정도 차단할 수 있지 않을까 싶습니다. 언어 AI가 사고와 감정을 지니고 대화하는 것이 아닌 방대한 학습데이터 속에서 단어를 선택하는 대화이기 때문에 SNS에서의 과격한 표현 등을 해결하기 위해서 학습데이터를 통제하는 것은 필수불가결한 것 같습니다.

저도 GoHo님의 의견에 동의합니다! 결국 언어ai도 사람의 언어를 습득하여 표현하는 하나의 방식이라는 생각을 가지고 있는데요. 이야기할 때 문화마다 사용하는 사람에 따라 다른 의미를 지니고 있음을 간과해서는 안된다고 생각합니다. 단순히 인터넷에 올라와있는 글들의 수만 모아서 학습을 한다면, 그것이 의미하는 바에 대한 충분한 고민없이 장난이 밈화가 되어 누군가에겐 폭력적인 글이 되어버릴 수도 있기 때문입니다. 그리고 그런 부정적인 메세지라면 어떻게 처리를 할 것인지에 대한 논의도 충분히 이뤄져야 한다고 생각합니다. 특히나 지금처럼 온라인에서 타인의 의견을 그대로 복사하여 옮기는 경우가 많은 시점에서 더 신중하게 고려해봐야 할 것 같습니다.

저도 동의합니다. 또한 이 지점에 제일 구현하기 어려운 부분이기도 합니다. 텍스트라는 것은 결국 사람이 행하는 언어표현에 들어가는 수많은 변수들(개인의 경험, 문화적 배경, 상황판단 등)이 반영되어 만들어진 것은 역으로 텍스트로부터 그 모든 변수들을 알아낼 수는 없기 때문에 텍스트를 학습시켜 만든 지금의 패러다임은 불완전할 수 밖에 없을 것이거든요. 불완전할 뿐만 아니라 왜곡되어 사람에게 피해나 아픔을 줘버리기도 하구요. 그래서 사람의 본성에 대한 이해가 더 절실한 시점인데 그에 대한 당위성이 첨단 연구의 경쟁적인 분위기에서 종종 잊혀지는 것 같습니다.

저는 회사에서 영어로 이메일을 쓸 때 챗GPT의 예문을 참고한 적이 있는데요. AI는 경직된 언어를 쓸 거라는 예상과 달리 오히려 지나치게 정중하고 장식적인(물론 상투적인) 문장들을 써서 좀 더 비즈니스 메일스럽게 수정했었습니다. 영어 메일 작성이 업무에서 분명 은근한 스트레스로 작용하기 때문에, 언어 AI의 이메일이 좀만 건조해진다면(?) 템플릿처럼 사용할 수 있어 편리하겠다는 생각이 듭니다. 촘스키 선생은 이런 식의 활용도 부정적으로 볼지 궁금합니다ㅎㅎ

언어적으로는 거부하시겠지만 도구적으로는 수용하실 수도..ㅎ

그럴 수도 있어 보입니다. 그것에 대한 사람들의 하이프를 꼬집은 것이지, 기술 자체의 유용성을 일괄적으로 반박한 것으로 읽히진 않더라구요. 악의 일상성이라는 표현을 빌려온 것을 생각하면, 나치의 악행은 반성하고 버리되 “열차가 시간 맞춰 다니게 한” 업적은 이어가는 거라고 할까요 :)

최근 경외심이라는 책을 읽었습니다. 쉰들러의 리스트를 접하고 경외심을 느끼고 날짜까지 명확하게 기억하고 있는 피실험자의 사례를 피실험자의 사례가 등장하더군요. 모르긴 몰라도 이 분은 야쿠르트 스왈로즈 경기를 보다가 직업을 바꾼 하루키처럼 인생의 변곡점이 되었을 거 같다는 생각이 들었습니다. 그러면서 잠시나마 인생을 돌아보며 타인이나 책이나 어떤 미디어에 의해 인생이 뒤바뀐 경험이 있나 고민했습니다만 아무리 찾아봐도 없는 거 같아서 아쉬웠습니다. 그렇다고 감정을 못 느끼는 건 아닌 거 같은데 도무지 인생은 잘 안 뒤바뀌는 거 같네요. 어젠 KBO의 외국인 투수 케이시 켈리 마지막 경기를 보면서 눈물을 훔치기도 했는데 휴지로 코를 풀고 지금이 몇 시쯤인가 보고나니까 그다지 인생은 안 바뀐 거 같네요. https://youtu.be/Pe2QqFJ1BXQ?si=jDKpz-DntsawLvLl