“ AI가 개개인의 오랜 신념을 확증하는 ‘뉴스’만 선별해서 보여주거나 오래전에 사망한 배우가 ‘출연’하는 영화를 만드는 등 정보와 오락 콘텐츠가 개인화되고 실감나게 합성된다면, 한 사회의 구성원들이 과연 그 사회의 역사와 현재를 공통되게 인식할 수 있을까? ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 6장, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
AI 이후의 세계 함께 읽기 모임
D-29
“ 강력한 사이버 억지력을 확보하려면 구체적으로 어떤 행위를 억지할지 정하고 그 성공도를 측정할 수 있어야 한다. 지금까지 크게 성공한 사이버 공격은 대부분 종래의 무력 충돌보다 낮은 수위에서 발생했다(그리고 대부분 즉각 인지되지 않았고 공식적으로 공격을 인정하는 국가가 없었다). 정부 조직과 비정부 조직을 막론하고 사이버 영역의 강자들은 지금까지 자신들의 전력이나 행위를 완전히 공개한 적이 없다. 타자의 행동을 억지하려고 할 때도 기껏해야 부분적으로 정보를 공개할 뿐이다. 그래서 새로운 기술이 속속 등장하는 와중에 전략과 독트린은 음지에서 모호하게 발전 중이다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 5장 안보와 세계질서, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
여기서 말하는 독트린은 어떤 문장이 될까요? 인류에게 직접적 살상은 가하지 않지만, 그 외의 방법으로 적국에게 영향을 준다. 뭐 이런게 될까요? 제가 이해한 게 맞나요? 넘 어려워요...
https://www.techtarget.com/searchsecurity/tip/How-to-craft-a-generative-AI-security-policy-that-works
'음지'에서 발전 중이고 국가 보안 관련 자료는 직접 보기 힘들겠지만..
벌써 AGI의 문제가 대두되며 각종 AI관련 프레임워크 및 규정들이 세워지고 있는 상황입니다.
ISO/IEC 22989:2022 -- Information technology: Artificial intelligence: Artificial intelligence concepts and terminology.
ISO/IEC 23053:2022 -- Framework for Artificial Intelligence (AI) Systems Using Machine Learning (ML).
ISO/IEC 23984:2023 -- Information technology: Artificial intelligence: Guidance on risk management.
ISO/IEC 42001:2023 -- Information technology: Artificial intelligence: Management system.
NIST developed the Artificial Intelligence Risk Management Framework, an essential document for organizations developing and deploying secure, trustworthy AI.
이외에도 미국의 National AI Regulatory Commission 문서등
https://docs.google.com/document/d/1CkfB2V34k0dx0EHC63C-u0ig-64BHEKo1LgErwhd7LM/edit
책을 읽다보면 계속 "공론의 장을 마련해야된다.", "체계를 수립해야된다", "각계각층이 모두 참여해서 논의해야된다" 등등 숙제만 많이 나와서 답답해요.
borumis님이 찾아주신것처럼 국가 차원이나 국제기구 차원에서 노력하고 있는것도 있을텐데, 대부분 합의하고 있는 것은 무엇이고, 구체적으로 어떤점이 왜 쟁점이 되고있는지, 어떤 나라가 무슨 주장을 하면서 갈등하고 읺는지 등을 알 수 있도록 책에서 알려주었으면 더 좋았을것 같거든요.
사실 자율살상무기LAWS만해도 유엔에서 이야기하고 전문가그룹 만들고 한게 10년 전 부터인데, 뭐가 합의되었고 왜때문에(!) 진전이 없는건지... 좀 더 파고드는 내용이 있었다면 덜 추상적이고 더 재미있었을 것 같아요.
https://disarmament.unoda.org/timeline-of-laws-in-the-ccw/
그쵸 저도 너무 원론적인 얘기만 나와서 그게 많이 아쉬웠어요!!
5장을 다 읽고 나면 생각의 단초라도 떠오르지 않을까 싶었는데, 그렇지는 않았습니다. 책이 어려운 게 아니라 책이 던지는 질문들이 참 어렵네요. 사이버 무기에 대해서도, 외교 분야에도 문외한이라 더 그렇습니다. 지금 ‘음지에서 모호하게 발전하는 독트린’은 어떤 모양을 취하고 있을지도 궁금합니다. ‘인터넷에는 국경이 없으므로 여론 조작이 의심되고 우리 국가의 이익과 관련이 된다면 어디에든 적극 개입한다’ 같은 내용도 들어 있을까요? (저도 제가 이해하는 게 맞는지 모르겠습니다.)
“ 하지만 가장 어려운 문제는 철학적 문제일지 모른다. 전략의 여러 요소가 AI만 접근할 수 있는 개념과 분석의 영역에서 작용하면 인간은 그 원리를, 그 파급력을, 그 의미를 이해하지 못한다. 정책 결정자들이 적대국(역시 AI를 동원할 수 있는)의 전력과 의도를 파악해서 적시에 대응하고자 AI로 현실의 심오한 패턴을 규명해야만 한다고 판단한다면, 중대한 결정을 기계에 위임하는 행위가 당연시될 수 있다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 5장 안보와 세계질서, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
이런 전망 진짜 무섭습니다. 쉽게 부정하지도 못하겠고요.
중대한 결정을 기계에 위임하는 행위-->전쟁상황까지는 상상을 못하겠지만, 이미 AI를 믿고 의지하는 단계가 일상에서 시작된 것 같아요. 빠른노선찾기, 자율주행 자동차 등 인간보다 AI에 의사결정을 맡겨버리는 상황이 떠올랐어요.
동감입니다. 저는 책을 읽으면서 "AI에 이의를 제기할 수 있는 능력" 이 개인적인 화두로 떠오르고있어요.
많은 부분에서 AI에게 사고를 외주화 할수록 AI의 결과물을 필터링할 수 있는 능력(필터링이 가능하도록 하는 시스템이 있다는 전제하에;;)이 필요할 것 같은데 어떻게 그런 능력을 구비할 수 있을까... 많은 생각이 듭니다. AI시대에 전문 직업인으로서 살아남기 위해 실질적으로 필요한 요건이라 생각됩니다. AI가 할 수 있는 일을 하는것으로는 미래 직업시장에서 의미있게 살아남을 수 없을거 같아요...
“ 이제 세계는 또다시 원대한 실험에 돌입했다. 이전에 인간 교사가 맡았던 다양한 역할을 수행하는 기계, 하지만 인간의 감수성·통찰력·감정은 없는 기계가 아이들과 공존하는 시대로 나아가기 시작했다. ”
『AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라』 6장, 헨리 A. 키신저 외 지음, 김고명 옮김
문장모음 보기
AI 시대를 살아갈 어린 아이를 키우고 있어서 그런지 양육과 교육 관련 부문에 눈길이 가더라구요.
제 세대는 AI가 노동에 미치는 영향의 직격탄을 맞을 것 같고(아직 은퇴하려면 멀었는데 제발 천천히 바뀌어줘... 사실 벌써 적응하기 힘들어...), 제 자녀 세대는 AI 교육의 실험체가 되는건가... 하는 생각이..
전 실은 은퇴하고 제 직업을 관두면 어떤 일을 해볼까 생각했는데 그게 거의 다 AI로 대체될 가능성이 높더라구요. (특히 통번역가..ㅋㅋㅋ) 근데 그 중 그나마 제일 늦게 대체될 게 돌봄 직업이었습니다. 이런 고민을 하기 시작하는;;
화제로 지정된 대화
[넷째 주-읽기 미션 2/2]5월 5일까지 달성하기
마지막 미션이에요!!
이 책을 읽게 된 계기를 적어보고
책의 마지막 부분 [7장. 미래]까지 읽고 난 후 어떻게 생각이 달라졌는지 자유롭게 의견 나누어 보아요.♡
저는 주식투자를 조금 하고 있는데 AI와 관련된 주식종목을 좀 알아보려는 개인적인 목적에서 이 책을 읽게 되었어요.
그런데 제 이기적인 동기와 다르게, 이 책을 쓰신 저자는 인류애를 바탕으로 AI이후의 세계가 어떻게 달라질 것인가를 포괄적으로 걱정하는 분이었고... 그 분의 시선에 따라 국방, 교육, 의학, 세계정세를 상상해보니, 제 주식종목 고민보다 더 어마어마한 미래의 문제가 도래함을 느낄 수 있었어요. 분명한건 AI를 알고 활용할 줄 아는 사람이 미래를 잡는 힘을 가질 수 있다는 것이에요. 나를 지키기 위해, 가족과 국가를, 더 나아가서는 지구의 평화를 위해서... AI공부는 필수고, 이 책 이후 더 탐색할 책을 찾아봐야겠다는 생각을 해보았습니다.
여러 단점에도 불구하고 저는 AI가 너무 좋아요.
저처럼 그림에 실력없는 사람도 prompt만 잘 작성하면 제 뇌 속의 생각을 보여줄 수 있어서요. 하지만 개인적인 시각에 머무르지 말고 세계를 읽을 수 있는 능력도 생겼으면 좋겠네요.
그리고 솔직히 이 책.
저한테 너무너무 어려웠습니다.
여러분이 함께 해주시지 않았다면 중도에 책 닫았을 것 같아요.
독서모임이 너무 좋네요 ㅋㅋ
어려운 책을 읽는 고통을 나누어주셔서 감사합니다
저야말로 모임 열어주셔서 감사해요. 저도 중간에 접는 책이 되게 많거든요. 그런데 이 모임 덕분에 끝까지 읽어야겠다는 다짐을 합니다. 그렇게 재미가 없는 건 아닌데 왠지 손이 가지 않아서 5장에 머물러 있어요. 빨리 쫓아가겠습니다.
저만 중간에 덮는 책이 있는게 아니군요. ㅎㅎ다행이에요
AI 시대라고 하는 데 나만 뒤떨어지고 있는것 아닌가... 라는 FOMO의 마음으로 요즘 AI책을 읽어보려고 하고있는데 모임이 열려서 참여했습니다. (많이 못 읽었지만 AI 지도책이랑 로봇의 지배도 병렬독서중;;)
저는 그릇이 작아서 AI와 관련된 가장 관심있는 토픽은
1. 내 일자리는 어떻게 될 것인가?
2. AI 시대를 살아갈 우리 아이 교육은 어떻게 할 것인가?
였는데, 이 책을 포함한 상기 책들 을 읽으며 이게 뭔가 더 거대한 문제로구나! 하는 현타가... (AI지도책을 읽으면 지구의 환경까지 걱정하게 됩니다;;)
일례로 이 책 4장 글로벌 네트워크 플랫폼의 경우 지정학적 영향에 대해 상세히 다루고있는데, '나의 집중력 도둑', '자동 알고리즘 주의!' 등 개인적 차원에서만 문제를 이해하고 있던 저의 좁은 시야를 넓혀주었습니다.
앞에도 말했지만, 수서동주민 말씀처럼 책이 세계정세를 포함한 광대한 시각을 갖고있어서 뭔가 해결책도 거시적, 차원에 머무는것 같아서 그게 좀 아쉬웠습니다. 이왕 국제사회 차원으로 문제를 끌어올렸으면 국제사회의 대처가 구체적으로 어디까지 와있는지도 조금 더 자세하게 소개해줬으면 좋았을 것 같아요.
로봇의 지배 - 인공지능은 어떻게 모든 것을 바꿔 놓았나미래학자이자 베스트셀러 <로봇의 부상>의 저자 마틴 포드의 책으로, 인공지능 연구가 현재 어느 단계에 도달했는지 살펴보고, 앞으로 인공지능이 어떤 영향력을 미칠지 인공지능을 둘러싼 다면적인 영향을 기술 현실주의자의 눈으로 날카롭게 분석한다.
AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체미국 네바다의 리튬 광산에서부터 아마존 창고와 시카고의 도축장, 데이터 센터, 이미지 데이터베이스, 파푸아뉴기니의 산악 마을, 스노든 자료실, 텍사스 서부의 로켓 기지 등에서 AI가 실제로 어떻게 만들어지고 있는지를 탐구하는 여정이다.
책장 바로가기
아. 저도 AI시대에서의 직업에 엄청 관심이 있거든요. 생계와 진로, 아이들의 미래를 위해서라도 반드시 고민해야 하는 토픽같아요.
추천해주신 책 두 권이 이 책보다 훨씬 재밌을 것 같아요. 특히 지도책... 내용이 가늠이 안 되네요 ㅋㅋ 추천해주셔서 감사해요. 재밌게 냠냠 탐독해보려구요
글타래
화제 모음
지정된 화제가 없습니다