생명공학 분야와 마찬가지로, 인공지능 분야에서도 연구의 윤리적 기준과 안전 규정을 마련하는 국제적 논의와 합의가 시급할 것 같습니다...! 제프리 힌턴을 비롯해 이 책에 등장하는 인물들이 그러한 움직임을 주도하고 계시니, 주목해보면 좋겠습니다.
[김영사/책증정] <AI 메이커스> 편집자와 함께 읽기 /제프리 힌턴 '노벨상' 수상 기념
D-29
최근에 읽은 유발 하라리의 <넥서스>에 마침 3부 엔딩의 마크 주커버그의 청문회를 촉발시킨 미얀마의 반-힝야족 인종청소를 유발시킨 페이스북의 알고리즘 이슈가 나오더군요. 어느덧 인공지능은 코드 너머의 개, 고양이 판별 실험이나 바둑판과 체스판 위의 이벤트가 아닌 인간의 일상에 구체적인 영향력을 행사하기 시작했습니다. 일론 머스크의 다소 호들갑스러운 인공 지능에 관한 경계를 그냥 지나칠 수 없는 부분이 된 거 같기도 하고요.
넥서스 - 석기시대부터 AI까지, 정보 네트워크로 보는 인류 역사《사피엔스》 《호모 데우스》에서 펼쳤던 그의 논지가 ‘정보’를 중심으로 통합되어 더 정교하게 실체를 드러내는 《넥서스》에서 우리는 하라리 교수의 도저한 ‘현실주의’적 해법을 만난다. 비인간 지능이 우리의 존재를 위협하는 현재, 우리는 실수할 여유가 없다.
책장 바로가기
오, 저는 아직 <넥서스>를 펼쳐보지 못했는데, @메롱이 님 말씀을 듣고 나니 어서 빨리 <넥서스>를 읽으면서 인공지능 지식을 업데이트하고 생각을 확장해보고 싶네요!
책을 다 읽었는데 댓글을 달지 않았네요 ㅠ_ㅠ 으악
우선 2부에서 ‘충격적’인 사실보다는 이미 접했던 사건들에 대한 IT 버전 심화 내용을 읽은 느낌이었어요. 기존의 앎이 촘촘해지는 듯한 느낌이요.
트럼프가 대선에 나왔던 그 시점부터 가짜뉴스, 대 안적 사실, 러시아 개입설 등을 접했으니까요. 그리고 디지털 디스토피아에 가까운 중국의 감시 정부 체제에 깊은 분석을 읽을 수 있었습니다.
“ 치 루가 주목한 중국의 또 다른 강점은 데이터였다. 그는 시대마다 주요 생산 수단이 달랐다는 말을 꺼내곤 했다. 농경시대에는 땅이 중요했다. "얼마나 많은 사람을 확보하는지는 중요치 않았죠. 똑똑하지 않아도 상관없었어요. 더 많은 땅을 확보하지 못하면 더 많은 생산도 불가능했죠." 산업 시대에는 노동력과 장비가 중요했다. 그리고 새로운 시대에는 데이터가 중요하다고 말했다.
(...)
그러면서 치 루는 더 많은 데이터를 확보할 수 있는 중국이 새로운 시대를 지배하게 될 것이라고 주장했다. 중국의 인구는 어마어마하기 때문에 더 많은 데이터를 얻을 수 있다. 게다가 개인 정보에 대한 입장도 다른 국가와 달라서 데이터를 취합하기도 쉽다. "중국인은 개인 정보에 덜 민감한 편이에요. 세계적으로 개인정보보호법이 엄격하게 적용되고 있는 데 반해 중국은 사정이 매우 다르죠. 정책이 다르거든요. ”
『AI 메이커스, 인공지능 전쟁의 최전선』 335~336쪽, 케이드 메츠 지음, 노보경 옮김
문장모음 보기
데이터가 미래의 '쌀'이나 '석유'가 될 것이라는 이야기를 요즘 자주 접하는데, 인구가 많지 않지만 인터넷 강국인 한국은 데이터 면에서 경쟁력이 어떤지 궁금하네요. 여기 계신 AI 고수분들의 생각은 어떠신지요~?!
책을 읽으면서 제대로 인공지능의 물결 안에 있다는 걸 새삼 느끼는 중입니다. 빅데이터가 중요하단 말만 들었지 사실 어떤 맥락인지 전혀 이해도 못했었고요.
중국의 감시시스템의 월등한 기술력에 가성비까지 장난아니다 보니 세계 곳곳에 패키지 형태로 팔린다더군요(하이크비젼, 다후아테크) 이것도 맥락상 엮이는 이야기겠지요??
자율무기도 무섭습니다. 넷플릭스 블랙미러 보면 그와 관 련 된 작품이 있는데, 로봇개에게 쫓기는 단편이요. 자꾸 생각나네요.
가짜뉴스들에.. 좀 무서워졌어요.
검색해보니 빅데이터가 처리기술까지 포함한 개념이더라구요. 딥러닝을 만나 더 중요해졌다 이해하면 될까요?
제가 이해하기로는, 빅데이터와 딥러닝은 윈-윈 관계인 것 같습니다. 학습할 데이터가 많을수록 인공지능은 더 똑똑해지고, 인공지능이 더 똑똑해질수록 더 많은 데이터를 더 빨리 처리할 수 있으니~
검색해보니 빅데이터의 역사와 인공지능의 역사가 시작된 시점이 1960년대로 겹치는군요.
@ssaanngg
저는 3부를 읽으면서, 미 국방부의 인공지능 무기화 프로젝트에 대한 사실을 처음 알게 되었는데요.
자칫 고삐를 놓치는 순간 인공지능 기술이 제3차 세계대전의 발단이 될 수 있겠다는 공포감이 듭니다...
특히 이번 러시아-우크라이나 전쟁에서 AI 무기가 본격 도입되었다는 뉴스를 보고 나니 더더욱...
https://www.khan.co.kr/world/europe-russia/article/202411161829001
“ 페이스북이 대회 개최를 발표하고 몇 주 뒤, 또다시 한 기자가 얀 르쾽에게 인공지능이 가짜 뉴스를 막을 수 있 다고 생각하는지 물었다. "뉴스의 진실성에 접근할 수 있는 기술을 인간이 개발할 수 있을지 잘 모르겠네요. 특히 정치 문제에서 진실성은 사람마다 전혀 다르죠"라고 대답한 르쾽은 누군가 가짜 뉴스 문제를 합리적으로 해결하는 기계를 개발한다 할지라도 다수의 사람들은 그 개발자가 편향적이라고 주장하거나 그 기계의 훈련에 사용된 데이터가 편향적이라고 불평하며 그 기계를 인정하지 않을 것이라고 덧붙였다. 그리고 그는 "설령 그 기술이 있어도 실생활에 적용하는 것은 좋은 생각이 아닐 수도 있어요"라는 의견을 밝혔다. ”
『AI 메이커스, 인공지능 전쟁의 최전선』 382쪽, 케이드 메츠 지음, 노보경 옮김
문장모음 보기
화제로 지정된 대화
2024.11.18.
여러분 안녕하세요~
저희 모임 기간이, 어느덧 일주일밖에 안 남았습니다.
이제 우리는 마지막 4부 '인공지능은 무엇이 되려 하는가'를 읽기 시작할 텐데요.
이 책은 제프리 힌턴, 얀 르쾽, 요슈아 벤지오가 2018년 튜링상을 수상하는 장면으로 끝납니다.
이후 세 AI 메이커스의 행보가 어땠는지, 여기 간략하게 소개해드릴게요.
제프리 힌턴(1947~)은 2023년 5월 구글에서 퇴사하고, 국제적 범위의 인공지능 규제의 필요성을 강조하는 데 앞장서고 있습니다. 그리고 컴퓨터 과학자 최초로 2024년 노벨물리학상의 주인공이 되셨지요.
얀 르쾽(1960~)은 여전히 메타(구 페이스북)에 몸담고 계십니다. 제프리 힌턴과는 달리, 인공지능 규제에 반대하는 입장이라고 하네요.
힌턴(구글), 르쾽(페이스북)과 달리 빅테크 기업에 들어가지 않았던 요슈아 벤지오(1964~)는 지금도 쭉 몬트리올대학교에서 연구를 하고 계십니다.
"인공지능은 무엇이 되려 하는가"라는 질문에 대해 힌턴과 벤지오는 비관적인 입장, 르쾽은 상대적으로 낙관적인 입장을 보이고 있는데요.
여러분의 전망은 어떠신가요?
4부를 읽으면서 떠오르는 생각들을 자유롭게 공유해주세요...!
제프리 힌턴의 노벨상 수상으로 그간의 노력이 보상받은 것 같고 명실상부하게 대세가 되었다고 봅니다. 다른 분야에도 민스키처럼 다른 사람의 노력을 방해하면서 대가 대접을 벋는 사람들이 없지 않은 것 같은데, 이런 사람들을 막는 것이 인류의 발전을 앞당기는 것이라고 생삭합니다.
마빈 민스키가 이 책에서는 "악마"로 그려지고 있지요. ㅎㅎㅎㅎ 찾아보니 민스키는 2016년 아흔을 앞두고 세상을 떠나셨네요. 민스키가 3~4년만 더 장수하셨다면, 그래서 인공지능 붐을 직접 목격하셨다면, 어떤 입장 변화를 보이셨을지 궁금합니다. 그랬다면 이 책에서도 좀 더 선하게(?) 묘사되셨으려나요~
2010년대 후반에서 마감되네요. 힌턴의 마지막 멘트가 인상적입니다. "전 데미스가 생각하는 것보다는 상황이 훨씬 나을 것으로 여겨요." 비관적이지만 절망적이진 않은 입장으로 저는 해석했는데 근래 힌턴의 인터뷰를 보면 이 부분이 절망으로 바뀐 건 아닌가 싶은 생각도 듭니다.
2024년 연말을 지나는 시점에 인공지능은 거의 매일 업데이트된다 싶을 정도로 새로운 이슈들이 터져나오고 있고 삶에서는 엔비디아와 테슬라의 주식에서 보여주듯 노골적으로 돈의 문제와 연결되어 있습니다. 인공지능이라는 문제가 개인적으로는 가끔 섬뜩할 때가 있는데 전쟁, 기아와 같은 인류사의 여러 문제들과는 다르게 이건 비가역성, 돌이킬 수 없는 지점이 있는 거 같단 생각이 들어서입니다.
4부를 포함해서 이 책 전반에서 받은 느낌은 인공지능은 이미 오래 전에 고삐 풀린 기술이라는 것이었어요. 평범한 저는 감히 상상조차 할 수 없는 비범한 IT 전문가들은 기술적 한계를 돌파하고 또 돌파합니다.
“인공지능은 무엇이 되려 하는가”라는 질문에 어줍짢은 답을 달려고 고민 또 고민했는데요..저는 이 질문이 “자본주의는 무엇이 되려 하는가”라는 질문과 비슷하게 느껴집니다.
결국은 ‘윤리’와 ‘규제’의 문제로 돌아가야 하지 않을까요.
어느 정도가 합당한 규제이며, 어느 정도가 공동체 전체의 이익에 이바지하는 것인지 답하기는 언제나 어려웠고 앞으로도 어려울 것이라 생각해요. IT를 포함한 대부분의 새로운 기술들은 출현시에는 열광과 공포를 동시에 불러일으켰고, 우리 삶의 질을 개선시키는 만큼 해악도 가져왔으니까요. 또 언제나 기술은 법적 정책적 규제를 앞서 갑니다. 문제가 무엇인지 사회적 합의를 힘들데 얻고 나서야 겨우 규제가 만들어 지니까요. 문제를 문제라고 말할 수 있는 ‘장’이 필요한데…다소 암울하긴 해요. 시간이 갈수록 이 장은 빅테크 회사에 넘어갔고 빅테크 회사의 고객은 우리가 아니라 ‘기업’이니까요..ㅠㅠ..
지구 전역이 데이터센터와 발전소로 뒤덮일 때까지 그렇게 오래 걸리지 않을 거예요.
『AI 메이커스, 인공지능 전쟁의 최전선 』 P438, 케이드 메츠 지음, 노보경 옮김
문장모음 보기
앞으론 스마트폰 폼팩터에서 스마트안경으로 변한다고 하더라구요. 개인화된 인공지능으로 학습을 하려면 1인칭 시점이 중요하니 그럴꺼라고요. 다들 안경 쓰고 다니게 될란가요?
그리고 주위에 로봇 들이 즐비할것 같아요. 간단한 지시를 맥락에 따라 묻고 이행하고 그것이 효율적이라면 수요가 있을 것이고 값싸지기 시작하면 대규모 공급이 이루어지고.. 누군가에겐 축복이고 누군가에겐 악몽일듯.
시간의 제약과 공간의 제약을 넘어 이제 생산의 제약을 넘 은 시대라는데.. 어떤 생산을 해낼지가 더 중요해지겠죠.. 아래 사진은 솔투룩스 대표가 정리해둔 직업과 인공지능과의 관계인데.. 잘 정리한 것 같아요.. 미래가 두렵기도 하지만 흥미롭기도 합니다.
흥미로운 관계표네요. 한편으로 2사분면에 위치한 학교 선생님, 의사, 간병인 등등의 인간 우위의 포지션은 공감력에 앞서 '책임'의 소지가 큰 분야인 거 같단 생각도 듭니다. 인공 지능이 할 수 없고 인간만이 할 수 있는 유일한 차별적인 요소가 어떤 일에 책임을 지는 일 같아요.
스마트안경... 디자인이 중요할 것 같군요! ㅎㅎㅎ
스마트폰이 생기고 난 이후, 스마트폰의 기능이 너무나 편리해 그것에 의존하면서 점점 제 본연의 기능이 줄어드는 것 같은 느낌도 듭니다. 인간 지능의 외주화가 되어가는 상황이 마냥 좋은 것만은 아니지 않나, 생각이 드는 요즘이네요.ㅠㅠ
글타래
화제 모음
지정된 화제가 없습니다