AI 이후의 세계 함께 읽기 모임

여기서 말하는 독트린은 어떤 문장이 될까요? 인류에게 직접적 살상은 가하지 않지만, 그 외의 방법으로 적국에게 영향을 준다. 뭐 이런게 될까요? 제가 이해한 게 맞나요? 넘 어려워요...

https://www.techtarget.com/searchsecurity/tip/How-to-craft-a-generative-AI-security-policy-that-works '음지'에서 발전 중이고 국가 보안 관련 자료는 직접 보기 힘들겠지만.. 벌써 AGI의 문제가 대두되며 각종 AI관련 프레임워크 및 규정들이 세워지고 있는 상황입니다. ISO/IEC 22989:2022 -- Information technology: Artificial intelligence: Artificial intelligence concepts and terminology. ISO/IEC 23053:2022 -- Framework for Artificial Intelligence (AI) Systems Using Machine Learning (ML). ISO/IEC 23984:2023 -- Information technology: Artificial intelligence: Guidance on risk management. ISO/IEC 42001:2023 -- Information technology: Artificial intelligence: Management system. NIST developed the Artificial Intelligence Risk Management Framework, an essential document for organizations developing and deploying secure, trustworthy AI. 이외에도 미국의 National AI Regulatory Commission 문서등 https://docs.google.com/document/d/1CkfB2V34k0dx0EHC63C-u0ig-64BHEKo1LgErwhd7LM/edit

책을 읽다보면 계속 "공론의 장을 마련해야된다.", "체계를 수립해야된다", "각계각층이 모두 참여해서 논의해야된다" 등등 숙제만 많이 나와서 답답해요. borumis님이 찾아주신것처럼 국가 차원이나 국제기구 차원에서 노력하고 있는것도 있을텐데, 대부분 합의하고 있는 것은 무엇이고, 구체적으로 어떤점이 왜 쟁점이 되고있는지, 어떤 나라가 무슨 주장을 하면서 갈등하고 읺는지 등을 알 수 있도록 책에서 알려주었으면 더 좋았을것 같거든요. 사실 자율살상무기LAWS만해도 유엔에서 이야기하고 전문가그룹 만들고 한게 10년 전 부터인데, 뭐가 합의되었고 왜때문에(!) 진전이 없는건지... 좀 더 파고드는 내용이 있었다면 덜 추상적이고 더 재미있었을 것 같아요. https://disarmament.unoda.org/timeline-of-laws-in-the-ccw/

그쵸 저도 너무 원론적인 얘기만 나와서 그게 많이 아쉬웠어요!!

5장을 다 읽고 나면 생각의 단초라도 떠오르지 않을까 싶었는데, 그렇지는 않았습니다. 책이 어려운 게 아니라 책이 던지는 질문들이 참 어렵네요. 사이버 무기에 대해서도, 외교 분야에도 문외한이라 더 그렇습니다. 지금 ‘음지에서 모호하게 발전하는 독트린’은 어떤 모양을 취하고 있을지도 궁금합니다. ‘인터넷에는 국경이 없으므로 여론 조작이 의심되고 우리 국가의 이익과 관련이 된다면 어디에든 적극 개입한다’ 같은 내용도 들어 있을까요? (저도 제가 이해하는 게 맞는지 모르겠습니다.)

이런 전망 진짜 무섭습니다. 쉽게 부정하지도 못하겠고요.

중대한 결정을 기계에 위임하는 행위-->전쟁상황까지는 상상을 못하겠지만, 이미 AI를 믿고 의지하는 단계가 일상에서 시작된 것 같아요. 빠른노선찾기, 자율주행자동차 등 인간보다 AI에 의사결정을 맡겨버리는 상황이 떠올랐어요.

동감입니다. 저는 책을 읽으면서 "AI에 이의를 제기할 수 있는 능력" 이 개인적인 화두로 떠오르고있어요. 많은 부분에서 AI에게 사고를 외주화 할수록 AI의 결과물을 필터링할 수 있는 능력(필터링이 가능하도록 하는 시스템이 있다는 전제하에;;)이 필요할 것 같은데 어떻게 그런 능력을 구비할 수 있을까... 많은 생각이 듭니다. AI시대에 전문 직업인으로서 살아남기 위해 실질적으로 필요한 요건이라 생각됩니다. AI가 할 수 있는 일을 하는것으로는 미래 직업시장에서 의미있게 살아남을 수 없을거 같아요...

AI 시대를 살아갈 어린 아이를 키우고 있어서 그런지 양육과 교육 관련 부문에 눈길이 가더라구요. 제 세대는 AI가 노동에 미치는 영향의 직격탄을 맞을 것 같고(아직 은퇴하려면 멀었는데 제발 천천히 바뀌어줘... 사실 벌써 적응하기 힘들어...), 제 자녀 세대는 AI 교육의 실험체가 되는건가... 하는 생각이..

전 실은 은퇴하고 제 직업을 관두면 어떤 일을 해볼까 생각했는데 그게 거의 다 AI로 대체될 가능성이 높더라구요. (특히 통번역가..ㅋㅋㅋ) 근데 그 중 그나마 제일 늦게 대체될 게 돌봄 직업이었습니다. 이런 고민을 하기 시작하는;;

저는 주식투자를 조금 하고 있는데 AI와 관련된 주식종목을 좀 알아보려는 개인적인 목적에서 이 책을 읽게 되었어요. 그런데 제 이기적인 동기와 다르게, 이 책을 쓰신 저자는 인류애를 바탕으로 AI이후의 세계가 어떻게 달라질 것인가를 포괄적으로 걱정하는 분이었고... 그 분의 시선에 따라 국방, 교육, 의학, 세계정세를 상상해보니, 제 주식종목 고민보다 더 어마어마한 미래의 문제가 도래함을 느낄 수 있었어요. 분명한건 AI를 알고 활용할 줄 아는 사람이 미래를 잡는 힘을 가질 수 있다는 것이에요. 나를 지키기 위해, 가족과 국가를, 더 나아가서는 지구의 평화를 위해서... AI공부는 필수고, 이 책 이후 더 탐색할 책을 찾아봐야겠다는 생각을 해보았습니다. 여러 단점에도 불구하고 저는 AI가 너무 좋아요. 저처럼 그림에 실력없는 사람도 prompt만 잘 작성하면 제 뇌 속의 생각을 보여줄 수 있어서요. 하지만 개인적인 시각에 머무르지 말고 세계를 읽을 수 있는 능력도 생겼으면 좋겠네요. 그리고 솔직히 이 책. 저한테 너무너무 어려웠습니다. 여러분이 함께 해주시지 않았다면 중도에 책 닫았을 것 같아요. 독서모임이 너무 좋네요 ㅋㅋ 어려운 책을 읽는 고통을 나누어주셔서 감사합니다

저야말로 모임 열어주셔서 감사해요. 저도 중간에 접는 책이 되게 많거든요. 그런데 이 모임 덕분에 끝까지 읽어야겠다는 다짐을 합니다. 그렇게 재미가 없는 건 아닌데 왠지 손이 가지 않아서 5장에 머물러 있어요. 빨리 쫓아가겠습니다.

저만 중간에 덮는 책이 있는게 아니군요. ㅎㅎ다행이에요

AI 시대라고 하는 데 나만 뒤떨어지고 있는것 아닌가... 라는 FOMO의 마음으로 요즘 AI책을 읽어보려고 하고있는데 모임이 열려서 참여했습니다. (많이 못 읽었지만 AI 지도책이랑 로봇의 지배도 병렬독서중;;) 저는 그릇이 작아서 AI와 관련된 가장 관심있는 토픽은 1. 내 일자리는 어떻게 될 것인가? 2. AI 시대를 살아갈 우리 아이 교육은 어떻게 할 것인가? 였는데, 이 책을 포함한 상기 책들을 읽으며 이게 뭔가 더 거대한 문제로구나! 하는 현타가... (AI지도책을 읽으면 지구의 환경까지 걱정하게 됩니다;;) 일례로 이 책 4장 글로벌 네트워크 플랫폼의 경우 지정학적 영향에 대해 상세히 다루고있는데, '나의 집중력 도둑', '자동 알고리즘 주의!' 등 개인적 차원에서만 문제를 이해하고 있던 저의 좁은 시야를 넓혀주었습니다. 앞에도 말했지만, 수서동주민 말씀처럼 책이 세계정세를 포함한 광대한 시각을 갖고있어서 뭔가 해결책도 거시적, 차원에 머무는것 같아서 그게 좀 아쉬웠습니다. 이왕 국제사회 차원으로 문제를 끌어올렸으면 국제사회의 대처가 구체적으로 어디까지 와있는지도 조금 더 자세하게 소개해줬으면 좋았을 것 같아요.

아. 저도 AI시대에서의 직업에 엄청 관심이 있거든요. 생계와 진로, 아이들의 미래를 위해서라도 반드시 고민해야 하는 토픽같아요. 추천해주신 책 두 권이 이 책보다 훨씬 재밌을 것 같아요. 특히 지도책... 내용이 가늠이 안 되네요 ㅋㅋ 추천해주셔서 감사해요. 재밌게 냠냠 탐독해보려구요

저도 이제 ai가 없어질 일은 없다고 봐요.. 이미 너무 많은 분야에서 이용되고 있고 오히려 더 늘어나겠죠. 하지만 특히 안보 관련 적절한 규제와 문제점에 대한 논의는 진행되어야 할텐데.. 이게 지금 어떻게 진행되고 있는지 구체적 이야기가 아쉽네요. 저는 일단 AI 친구라기보다 AI가 언젠가 저와 책 토론이나 철학 토론을 할 수 있으면 좋겠다는 생각을 했어요. 제가 좀 책 취향이 방대해서 좀 특이한 책들을 보고 토론하고 싶을 때가 많은데 요즘은 안그래도 인문학이나 책을 보는 사람들이 적어서..(관심은 있고 강의 같은 건 많이 열리지만..다지만 실제로 고전 인문학 책을 읽으려는 사람은 별로 없더라구요;;) 어릴적부터 엄마가 '넌 별 쓸데없는 걸 다 궁금해한다'고 말할 정도로 궁금하고 알아보고 싶은 건 많았는데 딱히 궁금해하고 그걸 알아보고 싶은 사람들을 주변에서 많이 못 봐서 아쉬웠어요. 그래서 갈 수록 책 속에서 그런 친구들을 (스피노자든 데카르트든 칸트든) 찾아 다닌 것 같아요. 그런데 자의식이 없이 그냥 chat gpt같은 대답이 아니라 실제로 자기 자신이 질문을 하고 철학적 사고를 할 수 있을지..? 어쩌면 대답보다는 질문이 더 부족해지는 게 지금 우리들이 살고 있는 세상이 아닐까 싶어요.