AI 이후의 세계 함께 읽기 모임

D-29
계몽시대의 과학이 분명한 지식을 축적한 반면, 새로운 AI는 모호한 지식을 누적한다. 계몽시대의 과학은 미스터리를 해소하면서 점점 넓어지는 지식과 이해의 한계선을 명확히 그렸다. 지식과 이해가 나란히 움직였다. 가설을 통해 이해가 지식으로, 귀납을 통해 지식이 이해로 발전했다. 그러나 AI시대에는 우리가 알지 못하는 프로세스로 수수께끼가 해소된다. 이 혼란스럽고 모순적인 기제로 미스터리는, 더 이상 미스터리가 아니지만 설명할 수는 없는 현상이 된다. 따라서 복잡다단한 AI는 인간의 지식을 확장하지만 이해를 확장하진 않는다.
AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라 머리말, 헨리 A. 키신저 외 지음, 김고명 옮김
인간은 AI 시스템의 출력물에 당당히 이의를 제기하는 능력을 길러야 한다.
AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라 머릿말, 헨리 A. 키신저 외 지음, 김고명 옮김
@모시모시 거대한 AI 알고리즘 앞에서 개인의 판별능력이 그 어느 때보다 중요해진 시기가 된 것 같아요.
댓글들이 너무 수준이 높아 공부할게 많아서 너무 감사하네요. 역시 혼자 읽을때보다 나누는게 행복한 것 같습니다.
"알파제로의 승리로 적어도 게임에서는 AI가 기존에 확립된 '인간의 지식'에 구애받지 않는다는 사실을 알게 됐다."
AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라 헨리 A. 키신저 외 지음, 김고명 옮김
저는 이거보고 저희 시아버지가 애용하시는 고스톱앱이 생각났어요. 이놈의 승부수는 도통 모르겠다고 하시더라구요 ㅎ
저자는 체스 이야기를 하지만 사실 저희한테는 바둑 이야기가 더 익숙할 텐데요, 바둑에서도 인간 기보를 보고 배운 알파고 리(이세돌과 맞붙은 버전)와 알파고 마스터(커제와 맞붙은 버전)를 처음에 바둑 규칙만 입력하고 바둑을 알아서 익힌 알파고 제로가 압도적으로 이겼습니다. 알파고 리를 상대로는 100전 100승, 알파고 마스터를 상대로는 100전 89승이었습니다. 인간 기사들은 아직도 알파고 대 알파고 대국 기보를 이해하려고 연구 중입니다.
“기계가 여전히 주체가 아닌 객체로 남게 하여 우리의 인간성을 보전해야 한다. 특히 교육이 적응해야 한다.”
와. 요즘 학교 과제도 챗지피티로 작성해내서 교사들이 힘들다는 얘기를 들은 바 있어요. 교육계에도 새로운 고민꺼리를 안겨주겠네요
동료들이 많이 힘들어하긴 해요. 특히 에세이 숙제 많이 내주는 영어과목 가르치는 친구들이 고민하더라구요
앗 생각해보니... 저는 교사는 아니지만 학회에서 논문 심사를 종종 하는데.. 이것도 이제 챗GPT의 영향을 받겠군요..;; sci논문이어서 영어로 써야하는데..영어로 된 다른 논문 짜집기한건 딱 티가 나던데..;; 이건 어떨지..;;
챗지피티 한것도 티가 팍팍 날지 진짜 궁금하네요. 설령 티가 난다고 해도, 저자가 챗지피티 썼다고 입증할 방법도 없을 것 같아요.
작년에 챗gpt 실험삼아 해봤을 때 epigenetics 등의 의학 및 과학용어를 이상하게 한국말로 번역했던 게 있어서 '아, 아직 이렇게 전문적인 내용은 잘 못 다루는구나..'했는데 지금은 또 업데이트되면서 좀 나아졌겠죠?
하하. 무슨 포인트인지 알겠어요. 챗지피티야말로 빅데이터에 의존하다보니 영문자료에 비해 양이 많이 없는 한국어 자료는 많이 참고를 못했다는 인상을 받았어요. 구글번역에서 제일 잘 되는게 영-중 번역이라는 이야기를 어디서 들은적이 있어요. 그 이유는 중국인들이 많아서 자료도 많고 그래서 번역에 참고되는 문장도 많은 것이라고... 이런 사례로 볼때 인구수가 적은 한국어번역은 비교적 갈 길이 멀지 않을까 추측해보았어요.
모임 시작됐네요! 반갑습니다. ^^
@장맥주 새로운 AI는 모호한 지식을 누적한다. . 우리가 알지 못하는 프로세스... 지식을 확장하지만 이해를 확장하진 않는다. 와...AI가 경외로우면서도 무섭게 느껴집니다.
‘AI는 모호한 지식을 누적한다’는 이야기에 머리말에서부터 반해버렸습니다. 사실 AI 이야기에 웬 키신저? 이러면서 약간 미심쩍은 마음으로 책을 펼쳤더랬어요.
저도 키신저?에 의아했지만 아니나다를까 ’들어가며‘에서 처음엔 평소 관심없던 분야라고 키신저는 세션에서 빠지려고 했던 걸 슈밋이 종용한 거라고 하네요 ㅎㅎㅎ 저도 실은 키신저가 AI 담론에서 무슨 역할을 할지 호기심이 동했습니다
웬지 키신저가 당시 투덜대면서 슈밋을 따라 세션룸에 들어갔다가 나중에 토론하다보니 오오잉? 이렇게 중요한 사안이?하면서 토론에 뒤늦게 진지하게 임했을 것 같은 내용이 1장에서부터 대두되네요. 단순히 체스게임에서 관심받는 게 아니라 이게 나아가서 국가의 안보와 직결된 문제라면? 그 영향력도 연관된 사안들도 더 비중이 있어지죠. 안그래도 고전적인 deterrence theory (억제이론)들이 AI의 발전과 함께 어떻게 진화할 지 많은 정치사회 분야에서 주목받고 있고 존스홉킨스의 헨리키신저 센터에서도 이와 관련된 걸 작년 7월에 출판했답니다. https://mediahost.sais-jhu.edu/saismedia/media/web/files/kissinger/deterrence-through-ai-enabled-detection-attribution-v2.pdf 저도 아무래도 핵전쟁의 위협에 항상 고민하는 대한민국 국민으로서.. 이와 관련된 의문문들이 가장 와닿은 질문들이었어요. 여러가지 의문문 중 역시 아래 질문이 가장 걱정되더라구요. '혹시 AI가 내린 결정의 논리와 파급효과를 이해할 수 있다고 해도 라이벌 또한 AI에 의존한다면 어떻게 될까?' 실은 제가 AI가 발전하면 가장 빠르게 사라지지 않을까 하는 전문가 집단이어서 저희 과에서도 학회가 열릴 때마다 몇 세션들은 AI, 머신러닝과 관련된 세션들이 있고 저도 지인들도 AI를 이용한 검사방법을 응용하거나 연구에 deep learning neural network를 활용한 적이 많고 아직은 전문가의 confirm이 필요하지만 지금도 screening 단계에서 많이 적용되고 앞으로 더 늘어날 전망이지만 학회에서도 실제 연구에 적용할 때 가장 골치 아픈 문제점이 어떤 오류가 개입되거나 해서 생기는 AI의 '석연치 않은 선택'을 제때 탐지하거나 철회하기가 매우 힘들다는 점입니다. 그나마 영상의학과의 영상이나 병리과의 현미경 소견 등은 일일이 전문가의 역량에 따라 검토가 가능하고 아직은 AI 단일 판정으로만 의지하기에는 false positive가 좀 높은 편이라지만 만약 어마어마한 빅테이터를 토대로 계산된 결과라면 과연 그걸 제대로 걸러낼 수 있을 지 의문이 들거든요. 그래서 항상 전문가의 cross check 등이 필수적일 수 밖에 없는데.. 과연 우리의 국방 전문가들 (또는 적국의 국방 전문가들이) 얼마나 제대로 AI의 권고를 검토하고 확인할지.. 그리고 검토해도 결국 다른 쪽의 결론을 확신치 못해서 어떤 방향으로 결론이 틀어질지.. 진심으로 소름이 돋는 질문입니다.
억제이론과 군사적 의사결정에서의 AI 개입 문제 관련 내용이 흥미롭네요. 저는 오히려 키신저 '때문에' 책을 펼친 경우입니다. 국방이나 안보 분야에서의 AI 활용기술이 이미 많이 발달해있고, 제가 그 중 가장 우려하고 관심가지고 있는것이 '자율살상무기 Autonomous Weapons System(AWS) 또는 Lethal Autonomous Weapons(LAWS)' 의 규제 문제입니다. 우크라이나 전쟁을 포함 현재도 무인기 공격이 이루어지고 있는데, 목표를 탐지하고 조준하고 최종승인하는 데 있어 AI의 개입이 어느정도 허용되어야 하는가, 이러한 기술의 개발을 허용할 것인가부터 시작해서 국제법 분야에서 많이 이야기가 되고있으나 아직 구속력있는 협약은 없는 상태... 그리고 LAWS 같은 인공지능 무기(이런 정의는 없지만 이렇게 표현할 수 있다면)가 아무리 기술이 필요하다고 해도 핵탄두(!)나 핵잠수함(!!) 보다는 당연히 만들기 쉽고 저렴하며 감시도 쉽지 않기 때문에 테러단체나 소위 불량국가들이 손대기 쉽다는 문제도 있는것 같아요. 😞
작성
글타래
화제 모음
지정된 화제가 없습니다
[책나눔 이벤트] 지금 모집중!
[책나눔][박소해의 장르살롱] 20. <고딕X호러X제주>로 혼저 옵서예[버터북스/책증정] <오늘의 역사 역사의 오늘> 담당 편집자와 읽으며 2025년을 맞아요[책증정] 연소민 장편소설 <고양이를 산책시키던 날> 함께 읽기[📕수북탐독] 7. 이 별이 마음에 들⭐수림문학상 수상작 함께 읽어요[도서 증정] 저자이자 도슨트인 유승연과 함께 읽는 <내셔널 갤러리에서 보낸 500일>
💡독서모임에 관심있는 출판사들을 위한 안내
출판사 협업 문의 관련 안내
그믐 새내기를 위한 가이드
그믐에 처음 오셨나요?[그믐레터]로 그믐 소식 받으세요중간 참여할 수 있어요!
11월 29일(금) 이번 그믐밤엔 소리산책 떠나요~
[그믐밤] 29. 소리 산책 <나는 앞으로 몇 번의 보름달을 볼 수 있을까>
이번에는 극단 피악과 함께 합니다.
[그믐연뮤클럽] 4. 다시 찾아온 도박사의 세계 x 진실한 사랑과 구원의 "백치"[그믐연뮤클럽] 3. "리어왕" 읽고 "더 드레서" 같이 관람해요[그믐연뮤클럽] 2. 흡혈의 원조 x 고딕 호러의 고전 "카르밀라"
"동물"을 읽습니다 🐋🐕🦍
[현암사/책증정] <코끼리는 암에 걸리지 않는다>를 편집자, 마케터와 함께 읽어요![그믐북클럽] 14. <해파리의 시간은 거꾸로 간다> 읽고 실천해요[진공상태] 반려동물과 함께하는 이들 모여주세요![성북구 한 책 플랜 비-문학] ③ 『동물권력』 함께 읽기 [그믐북클럽Xsam]19. <아마존 분홍돌고래를 만나다> 읽고 답해요 [그믐북클럽] 4. <유인원과의 산책> 읽고 생각해요
🏆 한강 작가의 노벨상 수상을 축하하며 작품 함께 읽어요.
[라비북클럽](한강작가 노벨문학상 수상기념 1탄) 작별하지 않는다 같이 읽어요노벨문학상 수상 한강 작가 작품 읽기 [Re:Fresh] 3. 『채식주의자』 다시 읽어요.
국내외 불문, 그믐에서 재미있게 읽은 SF 를 소개합니다!
(책 나눔) [핏북] 조 메노스키 작가의 공상과학판타지 소설 <해태>! 함께 읽기.[SF 함께 읽기] 당신 인생의 이야기(테드 창) 읽고 이야기해요![책증정] SF미스터리 스릴러 대작! 『아카식』 해원 작가가 말아주는 SF의 꽃, 시간여행[박소해의 장르살롱] 5. 고통에 관하여
버지니아 울프의 세 가지 빛깔
[그믐밤] 28. 달밤에 낭독, <우리는 언제나 희망하고 있지 않나요>[서울외계인] 버지니아 울프, 《문학은 공유지입니다》 읽기<평론가의 인생책 > 전승민 평론가와 [댈러웨이 부인] 함께 읽기
'하루키'라는 장르
[이 계절의 소설] 두번째 계절 #2 : <도시와 그 불확실한 벽> & <마주>[그믐밤] 16. 하루키 읽는 밤 @수북강녕 에이츠발 독서모임 16회차: <기사단장 죽이기> / 무라카미 하루키 저
오늘의 문장 - 은화
오늘의 문장 - 2024년 11월 07일오늘의 문장 - 2024년 11월 01일오늘의 문장 - 2024년 11월 03일오늘의 문장 - 2024년 10월 31일
현대 한국 사회를 조명하는 작품을 작가, 평론가와 함께 읽습니다.
[📕수북탐독] 4. 콜센터⭐수림문학상 수상작 함께 읽어요[📕수북탐독] 3. 로메리고 주식회사⭐수림문학상 수상작 함께 읽어요[📕수북탐독] 2. 사라지는, 사라지지 않는⭐수림문학상 수상작 함께 읽어요[📕수북탐독] 1. 속도의 안내자⭐수림문학상 수상작 함께 읽어요
멀고도 가까운 나라, 중국.
[책걸상 '벽돌 책' 함께 읽기] #16. <마오주의>[책걸상 '벽돌 책' 함께 읽기] #15. <중국필패>[한길사 - 김명호 - 중국인 이야기 읽기] 제 1권[서울국제작가축제X푸른숲] 위화 작가님의 <인생> 함께읽기 챌린지
🎨 책으로 그림 읽기!
[책증정] 미술을 보는 다양한 방법, <그림을 삼킨 개>를 작가와 함께 읽어요.[책 증정] <자화상 내 마음을 그리다> 읽고 나누는 Beyond Bookclub 6기 [웅진지식북클럽] 1. <나는 메트로폴리탄 미술관의 경비원입니다> 함께 읽어요[책증정] 《저주받은 미술관》을 함께 읽으실 분들을 모집합니다🖤
🎁 여러분의 활발한 독서 생활을 응원하며 그믐이 선물을 드려요.
[인생책 5문 5답] , [싱글 챌린지] 완수자에게 선물을 드립니다
지금 읽기 좋은 뇌과학 책 by 신아
[뇌과학책 함께 읽어요] 3. 도둑맞은 뇌[뇌과학책 함께 읽어요] 2. 뇌 과학이 인생에 필요한 순간[뇌과학책 함께 읽어요] 1. 이토록 뜻밖의 뇌과학
모집중밤하늘
내 블로그
내 서재