우리는 미래를 예측하지 않습니다 다만 만들어갈 뿐입니다

얼마 전 머니레터에서 소개한 카렌 하오 작가의 신작 《AI 제국: 권력, 자본, 노동》 기억하시나요? 소개가 나간 뒤 독자분들의 반응이 무척 뜨거웠는데요.


AI는 이제 특정 업계의 이슈를 넘어, 커리어와 투자와 일상의 선택까지 조금씩 바꿔 놓는 현실이 됐습니다. 앞으로도 꽤 오랫동안 우리 삶의 중요한 변수로 작용할 가능성이 크죠. 그래서 이번 인터뷰를 준비했습니다. 지금 이 ‘AI의 시대’에 우리가 무엇을 더 물어야 하고, 어떤 관점으로 세상을 바라봐야 할까요? 카렌 하오 작가와의 대화에서 그 힌트를 함께 찾아보아요.


기계공학을 전공하셨고 엔지니어로도 일하셨습니다. ‘기술을 만드는 사람’에서 ‘기술을 취재하는 사람’으로 역할이 바뀌게 된 결정적 계기가 있었나요?

MIT에서 기계공학 학위를 받은 뒤, 저는 사명감을 내세운 한 기술 스타트업에서 일하기 위해 샌프란시스코로 갔습니다. 그런데 몇 달 지나지 않아, 그 회사의 CEO가 수익성이 충분하지 않다는 이유로 이사회에 의해 해임됐습니다. 그 일을 겪으며 실리콘밸리가 어떻게 작동하는지 알게 됐어요.

실리콘밸리는 기술이 사회에 긍정적인 영향을 미치든, 부정적인 영향을 미치든 크게 개의치 않았습니다. 중요한 것은 수익을 낼 수 있는 기술을 만드는 일이었죠. 제가 관심을 가졌던 기후변화 완화 같은 문제는 수익성과 거리가 멀었습니다. 그때 깨달았습니다. 내가 나와 막지 않는 곳에 와 있구나, 하고요.

그렇다고 당장 무엇을 해야 할지는 알 수 없었습니다. 하지만 저는 늘 글쓰기를 사랑해왔습니다. 기술을 사회 변화를 위한 도구로 사용할 수 없다면, 그 도구를 글쓰기로 바꿔볼 수 있지 않을까 생각했죠. 그렇게 저는 저널리즘으로 과감히 방향을 틀었습니다. 그리고 그것은 제 인생에서 가장 잘한 결정이었습니다.


원제(Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI)에서 알 수 있듯이, 책은 오픈AI와 그 수장인 샘 올트먼을 ‘꿈(같은 일)’과 ‘악몽(이 될 가능성)’의 양면에서 조명합니다. 지금 시점에서 작가님은 해당 기업과 인물을 어떻게 정의하시는지요?

이 책의 제목에서 말하는 ‘제국’은 오픈AI를 가리킵니다. 오픈AI는 ‘문명화의 사명’이라는 외피를 두르고 막대한 자본과 데이터, 토지, 에너지, 물, 그리고 기타 자원을 집중시켜 세계에 대한 막강한 영향력과 통제력을 확보하려는 기업입니다. 그리고 CEO인 샘 올트먼은 오픈AI의 제국적 야망을 형성하고 지속시키는 데 가장 핵심적인 역할을 하는 인물입니다.

따라서 여기서 말하는 ‘꿈’이란 오픈AI가 내세우는 문명화의 사명이자, 샘 올트먼이 마케팅 수사를 통해 우리 앞에 제시하는 미래입니다.

반면 ‘악몽’이란 우리 주변 곳곳에서 벌어지고 있는 착취와 수탈의 현실을 뜻합니다. 그러나 이 현실은 특권과 부가 집중된 안락한 공간에 머물며 이 제국으로부터 가장 많은 이익을 얻는 사람들의 시야에서는 쉽게 가려집니다.

책에서 샘 올트먼, 일리야 수츠케버, 미라 무라티 등 오픈AI와 관련된 주요 인물의 다양하고 중요한 선택의 순간을 다루셨습니다. 한 기업과 그로 대표되는 산업을 분석하는 과정에서 개별 인물의 성향과 구체적인 이야기에 집중하신 이유가 있을까요?


이 책을 쓰며 제가 이루고 싶었던 목표 중 하나는, 기술이 결국 인간이 만들어낸 산물이라는 점을 보여주는 것이었습니다. 기술은 하늘에서 떨어지는 것도 아니고, 거스를 수 없는 필연의 연속 속에서 저절로 형성되는 것도 아닙니다. 오히려 그 반대입니다.

어떤 것도 필연적이지 않으며, 하나의 기술을 형성해가는 과정에 들어가는 결정들은 한 개인의 기질이나 호기심, 혹은 사소한 경쟁심에 의해 좌우되기도 합니다. 그 점을 분명히 보여주기 위해서는, 이 기술의 물결 한가운데 서 있는 사람들을 집중할 필요가 있었습니다.

이번 책은 방대한 인터뷰와 자료를 엮어 AI 산업의 내부를 재구성해 보여주고 있습니다. 취재 과정에서 사실 확인이 가장 어려웠던 대목은 무엇이었고, 그 문제를 어떻게 해결하셨는지 궁금합니다.


과거의 장면을 발굴해내야 하는 저널리즘 작업에서 가장 어려운 점은 언제나 사람들의 부정확한 기억입니다. 그래서 저는 언제나 사람들의 기억을 여러 방식으로 교차 검증하려고 했습니다. 다른 취재원들의 증언, 사진, 메모, 회사 내부 문서, 슬랙 메시지, 그리고 그 밖의 데이터 흔적들을 통해서 말입니다.

운이 좋았던 점은 제가 인터뷰한 오픈AI 전현직 직원들 가운데 많은 이들이 자신이 속하거나 속했던 회사가 중요한 사건의 한복판이라는 점을 자각하고 있었다는 점입니다. 그래서 그들 중 많은 사람이 방대한 메모와 사진, 다른 여러 형태의 기록물을 남겨두었고 그것들을 제게 공유해주었습니다.

책에서 스케일링(모델의 성능이 훈련 데이터, 모델 크기 확장에 따라 개선되는 규칙) 경쟁은 데이터, 연산, 자본을 끝없이 끌어모으는 방식으로 전개되고 있습니다. 작가님은 앞으로 산업의 확장이 계속 같은 방식으로 이어질 거라 보시나요, 아니면 다른 국면으로 전환될 거라고 보시나요?


저는 미래를 예측하는 일에는 관여하지 않습니다. 우리는 미래를 예측하는 존재가 아니라, 미래를 만들어가는 존재이기 때문입니다. 저는 이 산업이 지금과 같은 방식으로 계속 팽창해서는 안 된다고 생각합니다. 그렇게 된다면 노동권과 인권, 환경, 민주주의를 파괴하는 결과를 낳을 것입니다. 따라서 우리는 이 산업이 같은 방식으로 더 확장되지 않도록 할 수 있는 모든 일을 해야 합니다.

실제로 우리는 이미 그에 맞선 놀라운 형태의 항의와 저항을 목격하고 있습니다. 예술가와 작가들은 지식재산권 침해를 이유로 기업들을 상대로 소송을 제기하고 있습니다. 부모들 역시 인간처럼 보이는 챗봇이 아이들에게 끼치는 심리적 해악을 이유로 기업들을 고소하고 있습니다. 또 세계 곳곳의 수많은 지역사회가 환경과 공중보건을 해치고 공공요금을 끌어올리는 수탈적 데이터센터 프로젝트를 막아서고 있습니다. 각국 정부 역시 시민을 대표해 산업의 해악을 억제할 건전한 AI 정책을 시행하고 있습니다. 저는 이 모든 움직임이, 우리가 산업에 집단으로 압력을 가하고 다른 방향으로 통치해갈 수 있는 메커니즘이라고 봅니다.

그렇다면 더 나은 접근은 무엇일까요? 저는 소규모의 과업 특화형 AI 모델을 구축하는 것이라고 생각합니다. 다시 말해, 동의를 얻어 수집한 데이터로 학습시키고, 적은 계산 자원만 사용하며, 그것을 실제로 사용할 공동체가 폭넓게 참여하는 방식의 모델입니다. 


저는 에필로그에서 바로 그런 사례를 하나 소개했습니다. 뉴질랜드의 원주민 비영리 라디오 방송국인 테 히쿠 미디어(Te Hiku Media)는 마오리어의 재활성화를 돕기 위해 AI 음성인식 도구를 직접 만들어냈습니다. 우리가 만들어야 하고, 또 공동체와 경제 전반에 확산시켜야 할 AI는 바로 이런 종류의 AI라고 생각합니다. 우리가 그 지점에 도달할 수 있으리라고 믿습니다.


머니레터 독자분들 중에는 AI를 사용자로서 접하는 분도 많고, 투자자로서 산업을 바라보는 분도 많습니다. 작가님은 독자분들이 AI 관련 뉴스나 기업의 메시지를 접할 때 특히 경계해야 할 신호가 있다면 무엇이라고 보시나요?


실리콘밸리의 가장 큰 신화는 AI 기술이 오직 하나뿐이며, 그 하나가 바로 자신들이 만들고 있는 기술이라는 믿음입니다. 그다음으로 큰 신화는, 그들이 개발 중인 이 AI가 머지않아 인간의 지능에 필적하거나 이를 능가하는 AGI로 발전해 우리의 모든 문제를 해결하고, 동시에 투자자들에게는 엄청난 수익을 안겨줄 것이라는 기대입니다.

하지만 현실은 다릅니다. AI는 단일한 기술이 아니라, 매우 폭넓고 다양한 기술들의 집합입니다. 사용자라면 다른 유형의 AI 기술, 특히 오픈소스 모델로 눈을 돌려볼 필요가 있습니다. 비즈니스에 AI를 어떻게 적용할지 고민하고 계신다면 더욱 그렇습니다. 오늘날의 챗GPT류 서비스에서 벗어나는 일은 비용적으로 효율적일 뿐 아니라, 목적에 맞는 정교한 활용을 가능하게 하고, AI 모델의 개발과 배포 방식에 대해서도 더 큰 통제권을 갖도록 합니다. 투자자라면 대안적 AI 기술을 구축하는 쪽에 관심을 두는 것도 고려해볼 만합니다.


한국어판 서문에서 말씀하신 ‘민주화된 AI’와 관련하여 지금 한국 사회가 먼저 점검해야 할 과제는 무엇이라고 보시나요?


제가 서문에서 썼듯, “한국은 더 나은 미래를 상상할 수 있는 모든 요소를 갖추고 있습니다. 인재도 있고, 기술 생태계도 있으며, 반도체 산업도 있고, 미국 플랫폼에 맞서 자국의 플랫폼을 키워온 역사도 있습니다.” 


저는 첫 번째 단계는 우리 앞에 맞서야 할 AI 제국들이 존재한다는 사실을 인식하는 것이라고 생각합니다. 그리고 두 번째 단계는, 그와는 다른 무언가를 과감하게 상상하고 실제로 만들어내는 일입니다.

경제 공부, 선택 아닌 필수

막막한 경제 공부, 머니레터로 시작하세요

개인정보 수집 및 이용

뉴스레터 발송을 위한 최소한의 개인정보를 수집하고 이용합니다. 수집된 정보는 발송 외 다른 목적으로 이용되지 않으며, 서비스가 종료되거나 구독을 해지할 경우 즉시 파기됩니다.

광고성 정보 수신

제휴 콘텐츠, 프로모션, 이벤트 정보 등의 광고성 정보를 수신합니다.

잘 살기 위한 잘 쓰는 법

매주 수,금 잘쓸레터에서 만나요

개인정보 수집 및 이용

뉴스레터 발송을 위한 최소한의 개인정보를 수집하고 이용합니다. 수집된 정보는 발송 외 다른 목적으로 이용되지 않으며, 서비스가 종료되거나 구독을 해지할 경우 즉시 파기됩니다.

광고성 정보 수신

제휴 콘텐츠, 프로모션, 이벤트 정보 등의 광고성 정보를 수신합니다.