핵 군비통제까지는 맞아맞아 그랬는데, 사이버 군비통제영역과 비교하니 이보다 거짓말하기 쉬운 영역이 없겠구나 생각이 들었어요. 핵과 다르게 위성으로도 추적이 안되는게 사이버영역일 테니까요
AI 이후의 세계 함께 읽기 모임
D-29
그러게요. 우라늄이나 플루토늄 추적하듯이 원료를 추적할 수도 없고 시설이 핵시설만큼 크지도 않을 테고요.
5장에서 "AI 시대에는 아마 억지가 더욱 어려운 문제가 될 것이다. AI 기반 공격이 다양한 경로로 전개되고 그에 대한 AI의 대응이 가공할 속도로 펼쳐지기 때문이다"라고 번역되었는데 원문에서는 "In this age, deterrence will likely arise from complexity - from the multiplicity of vectors through with an AI-enabled attack is able to travel and from the speed of potential AI responses"라고 써 있습니다. 이건 AI 시대에서는 억지가 어려운 문제가 된다는 의미보다 바로 그 여러 다양한 벡터를 통해 공격이 전달될 수 있고 가공할 속도로 AI 대응이 펼쳐지는 Complexity 그 자체에서 억지가 비롯될 것이라고 보는 게 더 정확할 것 같습니다. 너무 복잡하고 고정할 수 없고 추적 불가하기 때문에 바로 그 복잡성 자체가 함부로 무절제의 AI 기반 공격을 못하게 하는 억지력이 될 것이라고 예상하는 것 같은데요. 번역에서는 그저 억지(DETERRENCE)가 어려울 것이라고 번역되어 있네요.
즉, 핵무기 시대에 핵무기의 가공할 파괴력이 억지력이 된 것처럼 AI 시대에는 파괴력 뿐만 아니라 그 복잡함이 억지력이 될 것이라고 보는 것 같습니다.
그 복잡성 자체가 함부로 무절제의 AI 기반 공격을 못하게 하는 억지력이 될 것이라고 예상하는 것 같은데요-->>와우. 이 문장덕분에 책 내용을 이제야 이해했어요. 감사해요. 책 내용이 왜 이리도 어렵죠. 헥헥대며 읽고 있습니다 ㅎㅎ
“ 요컨대 AI와 관련된 무기 기술이 제기하는 딜레마는 이렇다. 국가가 생존하고 상업적 경쟁력늘 유지하려면 지속적 연구개발이 필수다. 하지만 AI 기술은 기본적으로 확산력이 강해서 현재로서는 각국이 개념적 차원에서조차 그것을 제한하는 합의에 이르기가 어려운 실정이다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 세계질서의 모순은 모든 국가가 당연하게도 국방력을 극대화하려고 노력한다는 점이다. 하지만 지속적 분쟁을 피하려면 각국이 평화를 유지할 책임을 받아들여야 하고, 그러자면 제한을 수용해야 한다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
결국 복잡한 AI여도 제한책이 필요하다는거네요. 최근 이스라엘 전쟁 관련 뉴스에 "이스라엘, 가자지구에 AI로 목표물 조준… “전쟁 AI 활용 시작에 불과하다”라는 타이틀의 기사가 났어요. AI무기시스템 제한책으로 충분한 검증과 공신력을 가진 드론만 전쟁에 투입되도록 하는 국제협약이 있게 될까 잠시 상상해보았어요
“ 현재 페이스북에서 삭제되는 허위 계정과 스팸 게시물은 분기당 10억 건 정도고, 누드·성행위·괴롭힘·착취·혐오발언·약물·폭력에 관련된 콘텐츠도 분기당 수천만 건이 삭제된다. 악성 계정과 콘텐츠를 정확히 식별하고 삭제하려면 보통은 인간 수준의 판단력이 요구된다. 그래서 페이스북은 주로 AI에 의존해서 이용자가 소비해도 되는 콘텐츠와 검토가 필요한 콘텐츠를 식별한다. 왜 자신의 게시물이 삭제되었냐고 항의가 종종 들어오는데 대부분 자동으로 삭제된 경우다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 4장 글로벌 네트워크 플랫폼, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
이 문장을 읽었을때 아직도 상존하는 수많은 스팸들이 떠올랐어요. AI가 걸러내지 못하는 교묘한 방법으로 올라오는 스팸들이 아직도 너무 많아요. 스팸, 폭력, 악플을 걸러내는 AI는 정말 쭉 발전했음 좋겠습니다. ㅎㅎ
플랫폼이 운영하는 필터링 AI를 뚫는 스팸 AI도 생겨서 붉은 여왕마냥 모든 것이 그냥 지금과 비슷한 상황 아닐까 하는 생각도 듭니다... 우울하네요.
“ 그러나 검색엔진은 대폭 발전했지만, 개발자들은 오히려 검색 결과가 왜 그런 식으로 나오는지 명확히 이해할 수 없게 됐다. 여전히 인간이 검색엔진을 지도하고 조정하지만, 검색 결과에서 특정한 웹페이지가 다른 웹페이지보다 먼저 나오는 이유를 항상 설명하진 못한다. 인간 개발자들은 그처럼 검색엔진의 편의성과 정확성을 향상하는 대신 그 원리를 직접 이해할 방법을 깨끗이 포기해야 했다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 4장 글로벌 네트워크 플랫폼, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 네트워크 플랫폼들은 대부분 그런 지리적 한계를 초월한다. 물리적 거리, 국적이나 언어의 차이는 확장의 장애물이 못 된다. 디지털 세상은 인터넷만 연결되면 어디서든 이용할 수 있고, 네트워크 플랫폼은 통상 여러 언어로 서비스를 제공하기 때문이다. 확장의 진짜 장애물은 정부가 만든 규제나 기술적 비호환성이다(종종 전자가 후자를 유발한다). 그러다 보니 SNS가 됐든 영상 스트리밍이 됐든 간에 각 분야의 글로벌 네트워크 플랫폼은 소수에 불과하고, 경우에 따라 미진한 부분을 지역 네트워크 플랫폼이 메운다. 글로벌 네트워크 플랫폼의 이용자들은 ‘비인간적 지능의 전 세계적 운용’이라는 새롭고도 아직 우리가 제대로 이해할 수 없는 현상으로 편익을 누리면서 그 현상의 확산에 일조하고 있다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 4장 글로벌 네트워크 플랫폼, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
지금처럼 복잡한 전략적·기술적 문제에 봉착했으나 그 문제의 본질에 대해서도, 심지어는 그 문제를 논하기 위해 필요한 어휘에 관해서도 이토록 합의가 결여된 시대는 없었다.
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 5장. 안보와 세계질서, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
위기가 발생한 후에 그런 사안을 논의하려면 늦는다. 군사 분쟁에 AI가 동원되면 그 속도를 고려했을 때 아마 외교로 해법을 찾기도 전에 결과가 나올 것이다.
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 5장. 안보와 세계질서, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
읽다보니 답답하고 무기력해지네요. AI의 군사적 이용이 가져올 무서운 영향, AI규제가 다른 무기체계와 달리 규제(또는 규제는 커녕 문제의 규정 자체가)가 어려운 이유가 잔뜩 나오는데 협력의 유인은 적은 것 같습니다. 개인 차원이 아니라 정부 대 정부로 해결해야 할 일이어서 더 무력감이 들기도 하구요.
지금 국제조약으로 규정하는 대량살상무기(화학무기, 생물무기, 핵무기) 모두 해당 무기가 만들어지고, 사용되고, 가공할 위력을 직접 겪고나서야 국제적인 구속력있는 합의가 도출되었음을 감안할 때, 인간은 또 AI 무기로 인한 대참사를 겪고나서야 행동에 나설까요? 이번에는 제발 현명한 선택을 하길...
인공지능을 논의하는 국제기구 창설 같은건 현실적으로 필요하고 가능할 것 같습니다. 분절적으로 이루어지는 AI 논의를 한군데 모아서 좀 더 가시적으로 만들면 좋을 것 같아요.
그쵸.. 이 챕터를 읽으면서 참 무섭고 오싹하고 답답해지더라구요..
이스라엘이나 미국 등 정부 및 군 지도자들이 어떻게 이루어지는지가 참 중요한 듯합니다. 그래서 어찌보면 그나마 독재보다 민주주의가 안전하구요. 무엇보다 개인들도 이런 논의의 필요성에 대해 교육받을 필요가 있을 것 같습니다. 그리고 이런 AI 개발 및 연구에 앞서는 기업 지도자들의 참여도 필수적일 것 같습니다.
의공계 종사자들은 아직은 개발 단계여서 저희 역할이 남아있지만 언젠가 실직할 수도 있는 가능성을 염두에 두고 AI의 발전을 지켜보고 있습니다. 노년에는 그나마 제일 마지막에 무너질(?) 돌봄 업종으로 전환할까봐요;;;
가장 걱정되는 것은 안보적인 문제지만 이는 이미 개인적 단계를 넘어선 것 같고..;; 개인적으로는 부모로서 지금 당장 와닿는 것은 아이들이 보는 콘텐츠가 지극히 자극적이고 단편적이라는 것.. 그리고 갈수록 아이들 뿐만 아니라 전반적으로 사람들의 사색의 깊이도 의사소통 능력도 축소되는 것 같아서 걱정입니다.
반면 AI가 효율적이고 과학적인 지식에서 인간을 초월하거나 대체해도 결국 이것을 도덕적/철학적/사회적으로 인간이 제대로 규정 짓고 인간 사회에 맞게 적용해야 할텐데 어쩌면 AI와 공존하는 미래는 지금 각광 받는 이공계보다 인문학, 특히 철학이 더 필요한 시대일 수도 있겠습니다.
아. 저도 양육자로써 "아이들이 보는 콘텐츠가 지극히 자극적이고 단편적이라는 것.."이 참 걱정되요. 그래서 학교가, 정규교육과정이 반드시 필요한 것 같아요. 개인화된 교육시간을 줄일 수 있으니까요
AI시대에는 인류가 무엇을 만들고 있으며 그것이 우리에게 어떤 의미인지 설명해줄 데카르트와 칸트의 후예가 필요하다.
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 7장. 미래, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 사실과 진실을 탐구하는 과정에서 사회 구성원들이 그 실체를 알 수도 검증할 수도 없는 필터로 여과된 삶을 경험하게 놔둬서는 안 된다. 모순되고 복잡한 현실을 그대로 경험하는 것은 설령 효율이 떨어지거나 과실이 발생하더라도 인간의 삶에서 중요한 요소다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 7장. 미래, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
글타래
화제 모음
지정된 화제가 없습니다