플랫폼이 운영하는 필터링 AI를 뚫는 스팸 AI도 생겨서 붉은 여왕마냥 모든 것이 그냥 지금과 비슷한 상황 아닐까 하는 생각도 듭니다... 우울하네요.
AI 이후의 세계 함께 읽기 모임
D-29
“ 그러나 검색엔진은 대폭 발전했지만, 개발자들은 오히려 검색 결과가 왜 그런 식으로 나오는지 명확히 이해할 수 없게 됐다. 여전히 인간이 검색엔진을 지도하고 조정하지만, 검색 결과에서 특정한 웹페이지가 다른 웹페 이지보다 먼저 나오는 이유를 항상 설명하진 못한다. 인간 개발자들은 그처럼 검색엔진의 편의성과 정확성을 향상하는 대신 그 원리를 직접 이해할 방법을 깨끗이 포기해야 했다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 4장 글로벌 네트워크 플랫폼, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 네트워크 플랫폼들은 대부분 그런 지리적 한계를 초월한다. 물리적 거리, 국적이나 언어의 차이는 확장의 장애물이 못 된다. 디지털 세상은 인터넷만 연결되면 어디서든 이용할 수 있고, 네트워크 플랫폼은 통상 여러 언어로 서비스를 제공하기 때문이다. 확장의 진짜 장애물은 정부가 만든 규제나 기술적 비호환성이다(종종 전자가 후자를 유발한다). 그러다 보니 SNS가 됐든 영상 스트리밍이 됐든 간에 각 분야의 글로벌 네트워크 플랫폼은 소수에 불과하고, 경우에 따라 미진한 부분을 지역 네트워크 플랫폼이 메운다. 글로벌 네트워크 플랫폼의 이용자들은 ‘비인간적 지능의 전 세계적 운용’이라는 새롭고도 아직 우리가 제대로 이해할 수 없는 현상으로 편익을 누리면서 그 현상의 확산에 일조하고 있다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 4장 글로벌 네트워크 플랫폼, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
지금처럼 복잡한 전략적·기술적 문제에 봉착했으나 그 문제의 본질에 대해서도, 심지어는 그 문제를 논하기 위해 필요한 어휘에 관해서도 이토록 합의가 결여된 시대는 없었다.
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 5장. 안보와 세계질서, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
위기가 발생한 후에 그런 사안을 논의하려면 늦는다. 군사 분쟁에 AI가 동원되면 그 속도를 고려했을 때 아마 외교로 해법을 찾기도 전에 결과가 나올 것이다.
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 5장. 안보와 세계질서, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
읽다보니 답답하고 무기력해지네요. AI의 군사적 이용이 가져올 무서운 영향, AI규제가 다른 무기체계와 달리 규제(또는 규제는 커녕 문제의 규정 자체가)가 어려운 이유가 잔뜩 나오는데 협력의 유인은 적은 것 같습니다. 개인 차원이 아니라 정부 대 정부로 해결해야 할 일이어서 더 무력감이 들기도 하구요.
지금 국제조약으로 규정하는 대량살상무기(화학무기, 생물무기, 핵무기) 모두 해당 무기가 만들어지고, 사용되고, 가공할 위력을 직접 겪고나서야 국제적인 구속력있는 합의가 도출되었음을 감안할 때, 인간은 또 AI 무기로 인한 대참사를 겪고나서야 행동에 나설까요? 이번에는 제발 현명한 선택을 하길...
인공지능을 논의하는 국제기구 창설 같은건 현실적으로 필요하고 가능할 것 같습니다. 분절적으로 이루어지는 AI 논의를 한군데 모아서 좀 더 가시적으로 만들면 좋을 것 같아요.
그쵸.. 이 챕터를 읽으면서 참 무섭고 오싹하고 답답해지더라구요..
이스라엘이나 미국 등 정부 및 군 지도자들이 어떻게 이루어지는지가 참 중요한 듯합니다. 그래서 어찌보면 그나마 독재보다 민주주의가 안전하구요. 무엇보다 개 인들도 이런 논의의 필요성에 대해 교육받을 필요가 있을 것 같습니다. 그리고 이런 AI 개발 및 연구에 앞서는 기업 지도자들의 참여도 필수적일 것 같습니다.
의공계 종사자들은 아직은 개발 단계여서 저희 역할이 남아있지만 언젠가 실직할 수도 있는 가능성을 염두에 두고 AI의 발전을 지켜보고 있습니다. 노년에는 그나마 제일 마지막에 무너질(?) 돌봄 업종으로 전환할까봐요;;;
가장 걱정되는 것은 안보적인 문제지만 이는 이미 개인적 단계를 넘어선 것 같고..;; 개인적으로는 부모로서 지금 당장 와닿는 것은 아이들이 보는 콘텐츠가 지극히 자극적이고 단편적이라는 것.. 그리고 갈수록 아이들 뿐만 아니라 전반적으로 사람들의 사색의 깊이도 의사소통 능력도 축소되는 것 같 아서 걱정입니다.
반면 AI가 효율적이고 과학적인 지식에서 인간을 초월하거나 대체해도 결국 이것을 도덕적/철학적/사회적으로 인간이 제대로 규정 짓고 인간 사회에 맞게 적용해야 할텐데 어쩌면 AI와 공존하는 미래는 지금 각광 받는 이공계보다 인문학, 특히 철학이 더 필요한 시대일 수도 있겠습니다.
아. 저도 양육자로써 "아이들이 보는 콘텐츠가 지극히 자극적이고 단편적이라는 것.."이 참 걱정되요. 그래서 학교가, 정규교육과정이 반드시 필요한 것 같아요. 개인화된 교육시간을 줄일 수 있으니까요
AI시대에는 인류가 무엇을 만들고 있으며 그것이 우리에게 어떤 의미인지 설명해줄 데카르트와 칸트의 후예가 필요하다.
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 7장. 미래, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 사실과 진실을 탐구하는 과정에서 사회 구성원들이 그 실체를 알 수도 검증할 수도 없는 필터로 여과된 삶을 경험하게 놔둬서는 안 된다. 모순되고 복잡한 현실을 그대로 경험하는 것은 설령 효율이 떨어지거나 과실이 발생하더라도 인간의 삶에서 중요한 요소다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 7장. 미래, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
이제 이 세상에서 우리의 위상을 파악하려면 이성을 중시하던 시각에서 벗어나 인간의 존엄성과 자율성을 중심에 둬야 할지도 모른다.
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 6장. 인간의 정체성, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 지금까지는 이성으로 여과되는 지각과 경험이 현실에 관한 우리의 이해를 규정했다. 우리가 이해하는 현실은 대부분 개인과 지역에 따라 달랐고, 몇몇 근본적인 질문이나 현상에 한해서 더 넓은 공감대가 형성됐을 뿐이다. 사실 종교라는 특수한 맥락을 제외하면 세계인이 동일하게 현실을 이해하는 보편성에 이르는 경우가 거의 없었다. 하지만 지금은 무수히 많은 이용자를 연결하는 네트워크 플랫폼상에서 일상의 현실이 전 세계적 규모로 펼쳐진다. 다만 이제는 개인의 정신이 현실의 유일한 항해사가 아니고, 어쩌면 일등 항해사조차 아닐 수 있다. 대륙이나 전 세계를 무대로 하는 AI 기반 네트워크 플랫폼이 동반자로서 인간의 정신을 거들고, 어떤 영역에서는 인간의 정신을 대체하는 방향으로 발전하고 있기 때문이다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 4장 글로벌 네트워크 플랫폼, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 냉전 이후 현재는 강대국을 포함해 많은 나라가 사이버 무기로 전력을 강화했다. 사이버 무기는 그 존재와 사용 여부를 은폐하고 부인할 수 있으며, 경우에 따라서는 허위정보 유포, 첩보, 파괴 공작, 전통적 분쟁 사이에 존재하는 모호한 경계선상에서 사용할 수 있다는 점이 강점이다. 즉, 독트린을 명시하지 않고 전략을 수립할 수 있다. 하지만 기술이 발전하면 허점도 생기기 마련이다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 5장 안보와 세계질서, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ AI의 시대에는 가뜩이나 복잡한 현대 전략의 셈법이 인간의 의도를 넘어서는 수준으로, 어쩌면 인간의 이해를 넘어서는 수준으로 복잡해질 수 있다. 설령 각국이 인간의 승인 없이 스스로 목표물을 정하고 타격하도록 훈련받고 권한을 부여받은 자동/반자동 AI 무기, 이른바 치명적자율무기LAWs의 확산을 금지한다고 해도, AI로 인해 재래식 무기, 핵무기, 사이버 무기가 강화되어 경쟁국 간에 안보 위기와 분쟁을 예측하고 방지하기가 더 어려워질 가능성이 상존한다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 5장 안보와 세계질서, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
“ 미국은 잠시 핵을 독점했던 시기(1945~1949)나 한동안 월등한 핵무기 발사 체계를 보유했던 시기에도, 제2차 세계대전 이후 실제 분쟁에서 핵무기 사용을 가능케 하는 전략적 독트린이나 도덕 원칙을 마련하지 못했다. 그 후로 핵 강대국들이 상호 동의하는 독트린의 제한선이 명확히 존재하지 않았기 때문에, 정책 결정자들은 핵무기의 ‘제한적’ 사용 이후 무슨 일이 일어날지, 제한적 사용이 전면적 사용으로 격화되진 않을지 확신할 수 없었다. 지금껏 그처럼 합의된 제한선을 확립하려는 시도 자체가 없었다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 5장 안보와 세계질서, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
화제로 지정된 대화
[넷째 주-읽기 미션 1/2]5월 5일까지 달성하기
이 책을 읽는 마지막 주가 되었네요!! [6장. 인간의 정체성]에서 흥미롭게 읽은 구절을 하나씩 적어보면서 가뿐하게 월요일을 시작해 보아요.
지금 '디지털 네이티브'와 이전 세대의 간극이 존재하듯이 'AI 네이티브'와 이전 세대의 간극이 벌어질 전망이다.
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
저도 여기 밑줄그었어요. 위기감이 느껴지는....
“ AI가 개개인의 오랜 신념을 확증하는 ‘뉴스’만 선별해서 보여주거나 오래전에 사망한 배우가 ‘출연’하는 영화를 만드는 등 정보와 오락 콘텐츠가 개인화되고 실감나게 합성된다면, 한 사회의 구성원들이 과연 그 사회의 역사와 현재를 공통되게 인식할 수 있을까? ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 6장, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
글타래
화제 모음
지정된 화제가 없습니다