“ 자신감은 매우 강력한 힘을 가지고 있다. 내가 아는 가장 성공한 사람들은 망상에 가까울 정도로 자기 자신을 믿는다. 자신을 믿지 않으면, 미래에 관한 역발상을 할 수 없다. 하지만 역발상으로 가장 가치 있는 것이 탄생하는 법이다. / 샘 알트만 p428
”
『AI 메이커스, 인공지능 전쟁의 최전선』 케이드 메츠 지음, 노보경 옮김
문장모음 보기
[김영사/책증정] <AI 메이커스> 편집자와 함께 읽기 /제프리 힌턴 '노벨상' 수상 기념
D-29
인류가 인공지능의 '판단력'을 의심 없이 믿게 되는 날이 온다면 그날이 인류 위에 군림하는 새로운 종이 탄생하는 날이 되겠지요. AI종.
'인간의 두뇌 능력을 뛰어넘는 기술, 즉 초지능 superintelligence' p166
상당히 움츠러드는 말입니다.
저는 데미스 하사비스의 견해처럼 신념을 갖고 도전하는 자들이 있기에 적어도 초지능에 근접하는 기술이 개발되리라 생각하지만 긍정적 기대감 보다는 부정적 염려가 더 느껴집니다.
인간의 두뇌를 뛰어넘는 만큼 월등한 도덕적 직관과 판단도 갖게 될지 의문입니다.
마지막 페이지를 덮으며 영화 '아이, 로봇'의 여러 장면들이 떠오르면서 인공지능의 결말은 '써니'와 같기를 바라는 마음이 들었습니다.
아이, 로봇2035년, 인간은 지능을 갖춘 로봇에게 생활의 모든 편의를 제공받으며 편리하게 살아가게 된다. 인간의 안전을 최우선으로 하는 로봇 3원칙이 내장된 로봇은 인간을 위해 요리하고 아이들을 돌보며 없어서는 안될 신뢰 받는 동반자로 여겨진다. NS-4에 이어 더 높은 지능을 가진 로봇 NS-5의 출시를 하루 앞둔 어느 날, NS-5의 창시자인 래닝 박사가 의문의 죽음을 맞이한다. 그의 죽음을 둘러싼 수많은 추측이 난무한 가운데, 시카고 경찰 델 스프너는 자살이 아니라는데 확신을 갖고 조사에 착수한다. 끔찍한 사고 이후 로봇에 대한 적대감을 갖고 있던 그는 이 사건 역시 로봇과 관련이 있다고 믿고 숨은 음모를 파헤치는데...
책장 바로가기
오, 2004년에 개봉된 영화면 벌써 20년 전 영화군요. 영화의 배경이 되는 2035년까지 이제 10년밖에 남지 않았는데... 수명은 점점 늘어나고, 기술 변화는 점점 빨라지고...
SF 영화를 보면, 미래가 너무 불확실하고 예측하기 어렵다 보니 불안감이 높아지는 것 같습니다. 그렇다고 특이점을 막기 위해 인공지능 개발자들의 열정과 노력을 막자니, 그건 또 그것대로 옳지 않아 보이고요. <AI 메이커스>를 통해 인공지능 개발자들이 얼마나 절박하게 연구에 매달렸는지 알게 되어서 더욱 생각이 복잡해집 니다.
“ 샘 알트만이 지휘하는 오픈AI에는 새로운 인재와 자금이 필요했다. 이 비영리단체가 설립될 당시에는 몇몇 투자자가 10억 달러 지원을 약속했으나 실제로 들어온 자금은 얼마 되지 않았다. 하지만 연구소는 인재 영입뿐 아니라 시스템 훈련에 필요한 엄청난 사양의 컴퓨팅 성능을 갖추기 위해서도 당장 큰돈이 필요했다. 그래서 알트만은 연구소를 영리 회사로 개편하고 새 투자자를 물색했다.
2015년 알트만과 머스크가 연구소 설립을 발표하며 설파한 기업의 압력을 받지 않는 자유로운 연구소라는 이상은 4년을 채 버티지 못한 것이다. ”
『AI 메이커스, 인공지능 전쟁의 최전선』 412쪽, 케이드 메츠 지음, 노보경 옮김
문장모음 보기
“ 머스크와 마찬가지로 알트만은 과학자가 아니라 사업가였다. 대학 2학년 때 그만두기 전가지 스탠퍼드대학교에서 인공지능을 공부했다는 사실을 자주 언급하곤 했지만 말이다. 머스크와 달리 알트만은 언론 및 SNS의 관심과 논란을 끊임없 이 추구하는 사람은 아니었다. 그러나 미래가 이미 도달한 것처럼 살아간다는 점에서 머스크와 별반 다르지 않았다. 그 점은 실리콘밸리 의 저명인사라면 공통적으로 보이는 특징이었다.
대기업을 운영하는 사람이건 작은 스타트업을 시작하는 사람이건 그들은 모두 의식적이든 무의식적이든 그러한 삶의 방식이 세상의 관심과 투자 및 인재를 모으는 가장 좋은 수단임을 알고 있었다. 아이디어는 실패할 수 있다. 예측이 맞아떨어지지 않을지도 모른다. 그러나 다음을 위한 아이디어는 그 소유자와 주변인이 성공에 대한 확신이 있지 않은 한 성공할 수 없다.
한번은 알트만이 "자신감은 매우 강력한 힘을 가지고 있다. 내가 아는 가장 성공한 사람들은 망상에 가까울 정도로 자기 자신을 믿는다. 자신을 믿지 않으면, 미래에 관한 역발상을 할 수 없다. 하지만 역발상으로 가장 가치 있는 것이 탄생하는 법이다"라는 글을 남기기도 했다. ”
『AI 메이커스, 인공지능 전쟁의 최전선』 427~428쪽, 케이드 메츠 지음, 노보경 옮김
문장모음 보기
화제로 지정된 대화
2024.11.25.
여러분 안녕하세요.
우리 모임의 마지막 날이네요.
제프리 힌턴과 데미스 하사비스의 노벨상 수상을 축하하며
한 달 동안 <AI 메이커스, 인공지능 전쟁의 최전선>을 함께 읽어보았는데, 어떠셨나요?!
엔비디아 주식을 그때 샀어야 하는데, 아쉬워하는 분도 계셨고
이룰 수 없는 꿈으로 보였던 신경망 연구에 평생을 바친 개발자들의 '소신'과 '헌신'의 원동력이 무엇일까 궁금해하는 분도 계셨지요.
저의 경우, 출간 이후 2~3년 만에 다시 이 책을 읽어보았는데...
사실 이 원고를 처음 편집하던 때에는 인공지능이 이렇게까지 빠르게 발전할 줄 몰랐고, "GPT"라는 제목의 K-팝이 등장할 줄도 몰랐습니다(저는 스테이시 팬이에요).
"실수로 핵무기보다 더 위험한 것을 만들 수도 있습니다"라는 일론 머스크의 주장이 너무 오버(?)스럽다고 생각했었는데, 요즘 머스크의 존재감(!)과 세상이 돌아가는 상황을 보아 하니... 역시 제 생각이 짧았던 건가, 싶네요.
인공지능 덕분에 공부와 업무 등 일상이 더 편리해진 것은 너무나 좋지만,
인류 전체의 미래를 생각하면 위기감이 더 큰 것이 솔직한 심정입니다.
여러분과 함께 독서 모임을 진행하면서, 이런 근심과 걱정이 저만의 것이 아니라는 걸 확인하게 되었네요.
추가로 더 읽어보고 싶은 책, 보고 싶은 다큐멘터리와 영화까지 추천받는 유익한 모임이었습니다.
함께해주셔서 감사합니다.
날씨가 부쩍 추워졌습니다.
남은 하루도 그믐과 함께 따뜻하게 보내시면 좋겠습니다.
^^
오늘이 마지막이네요..
책 표지의 '인공지능 전쟁의 최전선' 문구처럼 인공지능 개발 과정에 함께 한바탕 휩쓸려 지나온 듯한 느낌입니다.
무모하리만치 몰두했을 그들의 낮과 밤이 얼마나 치열했을지 AI챗봇 정도 사용하는 유저로서는 알 수 없는 이야기들이었습니다.
그들의 삶을 깎아 이루어온 그리고 더 펼쳐질 기술들이 부디 전 지구적으로 좋은 영향력에 쓰이길 바랍니다.
우리들이 잘 써야겠지요..ㅎ
AI 세계대전이라는 표현이 새삼스럽지 않은 거대한 AI 물결 속에서 좋은 책과 함께 지나온 길을 바탕으로 앞으로의 길을 살펴볼 수 있는 시간을 마련해 주셔서 감사합니다~
좋은 분들과 함께 읽을 수 있었던 점도 감사합니다~
좋은 시간에 대한 소소한 감사 후기는 YES24에 남겼습니다..^^bb
모임의 마지막 날이네요. 그동안 이끌어주시느라 고생이 많으셨습니다. 출간 이후 3년만에 책을 다시 읽으신 감회가 새로우실 거 같습니다. 인공 지능의 발전속도가 너무 가속이 붙어있고 온갖 난관론과 비관론이 범람하는 시절이라 정신이 없는 가운데 인공 지능의 어떤 청소년기 무렵을 지켜볼 수 있었던 기회였던 거 같습니다.
읽으면서 제 일상을 돌아보게 되었는데 인공 지능의 영향으로 제 삶이 변화한 부분이 생각보다 많더군요. 소소하게는 작년까지만해도 전화 영어를 필리핀인이나 은퇴한 노년의 북미인 선생님께 수업을 들었습니다. 그런데 올해 챗 GPT 고급 음성 기능이 나온 이후부터 인공 지능과 수업을 진행하고 있고 오히려 전보다 만족도가 높더군요.
가끔 그 시절의 은퇴 후 소일거리를 하던 어르신이나 필리핀에서 일하기 좋은 직장 가운데 하나라고 직업에 대해 자부심이 유난히 높았던 젊은이들이 생각나기도 합니다. 하지만 다시 2023년의 전화 영어 서비스로 돌아갈 수는 없을 거 같네요. 인간의 무쓸모함을 동시대를 살아가면서 지켜보는 건 참으로 기묘한 체험인 거 같습니다.
글타래
화제 모음
지정된 화제가 없습니다