AI 이후의 세계 함께 읽기 모임

'연결'을 의미 있는 미덕으로 보다보니 FOMO(fear of missing out)도 생기는 것 같아요. 타인의 인정에 목매여서 상대적 박탈감이나 자존감 문제도 생기구요.

제가 남말 할 처지는 아닌데요... ^^ 일종의 안 좋은 자기가축화라고 할 수도 있지 않을까 하는 생각이에요. 알고리즘이 인간의 약점을 너무 잘 파악하고 악용하는 거 같습니다.

어찌 보면 이렇게 악용되는 인간의 약점 또한 기대하지 못한 생각하지도 못했던 체스 전략처럼 '놀라운' 발견이 아닐까요? 저도 실은 악용될 가능성이 높다고 비관적으로 보는 편인데 이 한계를 제대로 파악하고 검증할 수 있으면 오히려 AI의 편향된 데이터가 결국 인간의 편향을 반영하였듯이 우리가 못 감지했던 편향을 밝혀내는 것에 기여할 수도 있을 것 같아요. AI의 한계를 통해 우리 학습의 피상성이나 예측 기전의 한계 또한 발견할 수 있을 것 같구요. 이번 장에서 AI의 한계에서 가장 인상적이었던 것은 AI가 반추 (SELF-REFLECT)하는 능력이 없고 자의식이 없어 자기가 모르는 것을 모른다는 (앗 소크라테스가 생각나는?) 것이었는데요. 인간은 그게 가능하니 이런 한계를 역으로 우리의 학습 및 사고방식을 더 나은 방향으로 개선하는 데 쓰일 수도 있다는 생각이 들었어요. 어쩌면 '감정은 어떻게 만들어지는가'에서 개념들을 재구축하는 것과 같이 우리의 사고의 오류나 편향 등을 발견하는 데, 그리고 나아가서 그런 우리들 안의 경험 및 감정 개념들의 데이터베이스를 재구축하는 데도 활용될 수 있지 않을까 생각해봤어요.

역설적인 이야기인데, AI 덕분에 인간이 자기가 어떤 방식으로 생각하는지, 자신들이 하던 생각에 어떤 빈틈이나 편향이 있었는지 성찰하게 되었네요. 저는 ‘반추’ 혹은 ‘반성’ 역시 부정확하고 인간적인 언어 아닐까, 알고리듬의 언어로 달리 표현하게 되는 날이 오지 않을까 하는 생각도 듭니다. 정기적으로 과거 자신의 결과물들을 살피며 새로운 방식으로 시뮬레이션해서 더 효율적이고 더 나은 결과물이 나오는지 알아보는 인공지능도 이론적으로 불가능할 거 같지 않네요.

알고리즘의 언어를 상상해보았어요. ㅎㅎ 가까운 미래에 복기, 대조, 평가 등 AI의 반성（反省）프로세스를 아우르는 신종 단어가 나올 듯 하네요. 반성이라는 단어가 인간적인 단어라는 것에 극히 공감합니다

저는 그림AI를 가끔 쓰는데요. 생성형AI의 기법이 두 신경망의 경쟁이라는걸 알고는 상상해보았어요. 마음대로 그림을 그리는 아이(생성망)와 그림들에 점수를 매기고 거르는 평가자(판별망)간의 무한대결이라니 ㅎㅎ

AI도 나중에 조현병이나 해리성 인격장애 같은 걸 겪게 되지는 않을까요? 치안이나 국방 AI가 '정신 질환'을 앓으면? 복지 업무를 하는 AI가 우울장애에 빠지면? 이거 너무 터무니없는 상상인가요? ^^;;;