오늘은 우리가 잘 아는 세 명에 대한 이야기로 시작해 볼게요.

미래를 여는 사상가

스티브 잡스, 얼론 머스크, 젠슨 황 일러스트 

챗GPT 그림 

One more thing

스티브 잡스는 IT 세상을 새롭게 열었어요. 최고, 혹은 최신의 기술보다 중요한 건 ‘가장 쓰기 좋은 기술’이라고 알려줬죠. 그의 등장으로 최적화, 사용자 경험이 중심인 모바일 세상이 탄생했어요. 완전히 새로운 카테고리에서 성능보다는 사용자 경험을 향상시켜 이전의 IT 세상 전체를 합친 것보다 더 큰 부가가치를 창출했어요. 늘 ‘하나 더 있어요(One more thing)’라며 생각지 못한 제품을 내놓은 그를 우리 시대의 사상가라고 칭할 수 있는 이유죠.

‘화성 갈끄니까’

일론 머스크도 그런 사상가 대열에 드는 혁신가라고 할 수 있어요. 인류가 화성에 가야 한다는 명제를 먼저 제시하고, 그 비전을 현실화시키기 위한 기술을 탐구했어요. 언제가 될지는 몰라도, 먼 미래에 인류가 정말 화성에 살게 된다면, 머스크는 그 시대를 연 사상가로 추앙받을 거예요.

O.I.A.L.O

2013년, 실리콘밸리 한 기업의 CEO는 자신의 소명을 직감하고, 사무실 보드 위에 다섯 개의 알파벳을 썼어요. 그의 이름은 젠슨 황. 당시 창업 20년 차 그래픽카드 회사를 경영하고 있었죠.

젠슨 황은 카탄잘로라는 직원으로부터 한 가지 보고를 받습니다. 

엔비디아의 GPU가 인간의 뇌와 같은 ‘신경망’ 시스템 구동에 획기적인 하드웨어라는 내용이었죠. 기존에는 고가의 CPU 2000개가 필요했는데, GPU 단 12개로 같은 성과를 냈다면서요. 보고를 받은 젠슨은 주말 동안 고민한 뒤 “엔비디아에서 가장 중요한 프로젝트”라고 선언하며 화이트보드에 다음과 같이 썼어요.

O.I.A.L.O.

Once In A Lifetime Opportunity. 일생일대의 기회라는 뜻이죠.

하늘은 스스로 돕는 자를 돕는다

엔비디아는 원래 본업인 그래픽카드 분야에서 뛰어난 기업이었어요. 영세 업체 수십 개가 경쟁한 이 시장에서 마지막까지 살아남았으니까요. 경쟁자라면 라데온을 만든 ATI 정도인데, 이 회사는 결국 AMD와 합쳐지죠.

엔비디아의 그래픽카드는 ‘애드온(Add-on) 카드’의 일종이에요. 애드온 카드란 PC 메인보드에 추가로 장착해 사용하는 부품을 말해요. 그래픽카드 외에도, 사운드카드, 네트워킹카드, 프린터카드 같은 것이 있죠. 이런 애드온 카드 기업은 대부분 망합니다. 수요의 한계 때문이에요. 

애드온 카드 중 유일한 생존자는 그래픽카드예요. 최근에 출간된 젠슨 황의 공식 전기 ⟪생각하는 기계⟫(2025)에서 젠슨 황은 3D 그래픽카드를 가리켜 ‘파괴된 생태계(애드온 카드)의 고립된 생존자’라고 표현했어요.

그래픽카드가 살아남을 수 있었던 이유는 오디오와 달리 3D 그래픽은 수요의 한계가 없기 때문이었어요. 책 속의 표현에 의하면, ‘인간이 영화 <매트릭스> 안에 살게 되는 순간까지 수요가 끝나지 않기 때문’이죠. ‘세계’ 연재 시리즈의 세계관으로 비춰보면 만족이 없는 ‘욕망이라는 이름의 전차’였던 겁니다.

출처: 엔비디아 공식 블로그 

운이 좋았던 걸까요? 그랬을 수 있어요. 하지만 운은 거들 뿐입니다. 젠슨의 비범함은 그 뒤에 펼쳐집니다. 첫 성공 이후에 말이에요.

젠슨은 두려웠을 겁니다. 다른 애드온 카드 회사는 다 망했으니까요. 지금 사업이 쇠퇴하면 뭘 할 수 있을지 고민했을 겁니다. 경영학 서적을 닥치는 대로 읽었어요. 엄청난 독서광이었거든요.

그러던 젠슨은 이내 깨닫습니다. 칩의 세계에선 소비자의 욕망을 채워야만 살아남는데, 그 욕망은 끊임없이 변한다. 따라서 성공한 기업이 몰락의 길을 가지 않으려면 끝없이 ‘그다음 세상을 준비’해야 한다. 내가 안 하면 다른 누군가가 하고, 그러면 엔비디아의 미래는 없다… 그리고 다음의 사실을 발견합니다.

그래픽 출력은 무의미한 삼각형들의 나열에 불과했지만, 이미지를 렌더링하는 과정에서 GPU는 우연히 중요한 과학적 계산을 빠르게 실행했다. 학계에서는 지포스 카드를 대량 구매하여, 이를 서로 연결해 금융 모델링, 날씨 시뮬레이션, 고에너지 물리학, 의료 영상 처리 등 다양한 분야의 응용프로그램을 개발했다. 게임용 카드였던 지포스는 즉석에서 조립하는 과학 도구로 변모했다. ⟪생각하는 기계⟫, 스티븐 위트, 2025, RHK, p.218

과학자들은 저렴한 그래픽 카드가 쓰기에 따라서는 슈퍼컴퓨터보다도 연구에 더 적합하다는 사실을 알게 됐어요. 게임용 그래픽 카드 칩을 사서 게임을 하는 대신, 뒷문을 열고 과학 도구로 개조했죠. 젠슨은 여기에 미래가 있단 걸 직감하게 됩니다. 그래서 과학자들에게 뒷문 대신 앞문을 달아주기로 했어요. 그게 바로 CUDA 예요.

이 CUDA를 통해 사람들은 천체물리학, 기후학, 의학, 물리학, 금융, 양자 컴퓨팅, 애니메이션 등 다양한 분야에서 더 효율적으로 GPU를 활용할 수 있게 되었어요.

젠슨은 이걸 제로빌리언 달러 시장 개척 (Pioneering Zero-Billion-Dollar Markets)라고 불러요. 존재하지 않거나 시장 규모가 0달러인 새로운 시장을 발굴하는 엔비디아의 핵심 전략이에요. 당장은 돈이 안 돼도 가능성을 보고 새로운 시장을 만드는 것이죠.

누가 봐도 크리스텐슨의 ‘파괴적 혁신’ 이론을 곱씹고 또 곱씹은 결과입니다. 인터뷰에서도 젠슨은 ‘큰 기업의 몰락’을 경고하는 크리스텐슨의 책을 수없이 반복해 읽었고, 또 생각했다고 말하죠. 생각은 쉽지만, 실천은 어려워요. 엔비디아는 그걸 해내서 AI 시장으로 들어가는 유일한 칼을 손에 쥐었어요.

젠슨은 운이 좋았지만, 운만 좋았던 것은 아니었던 것이죠. 하늘은 스스로 돕는 자를 돕습니다. 그렇게, GPU는 게임 도구가 아닌 미래를 여는 도구가 되었어요. GPGPU의 시대, 일생일대의 기회(O.I.A.L.O.)라는 젠슨의 직감이 현실이 되었죠.

엔비디아와 삼성은 얼마나 다른가

엔비디아 주가는 2023년 실적을 발표한 2024년 초부터 급등하기 시작했어요. 2023년 영업이익은 전년 대비 약 680%가 증가해 300억 달러를 넘을 정도였죠. 이건 엔비디아가 창업 후 30년간 거둔 영업이익을 다 합친 것보다 많았어요!

그러나 삼성과 비교하면 소소합니다. 삼성은 이미 2013년에 350억 달러에 육박하는 영업이익을 거뒀어요. 그런데 왜 삼성의 주가는 그대로일까요? 사람들이 진가를 몰라주는 걸까요? 그건 주식 시장의 특징에 있어요. 단순한 실적보다 ‘미래’를 평가하게 마련이고, 삼성전자는 바로 이 평가에서 늘 뒤처졌기 때문이죠.

우선, 삼성에는 비전가가 없어요. 최적화의 ‘스티브 잡스’이건, 목표 제시형의 ‘일론 머스크’이건, 현실 속에서 미래의 씨앗을 발견하는 ‘젠슨 황’이건, 혁신에는 비전이 필요한데 삼성에는 그런 비전이 없었죠. 그러니 당장에 ‘돈이 안 될’ 투자는 할 수 없는 회사가 됐어요.

회사가 커 갈수록 조직은 비대해지고, 관료화돼요. 그런데 엔비디아는 지금도 COO나 CTO, CMO 같은 직책이 없어요. 명확한 이인자도, 비서실장도 없어요. 대신 30명 이상이 젠슨에게 직접 보고하고, 대부분 유동적인 역할을 맡아요. 젠슨은 전 직원으로부터 메일을 받고, 무작위로 몇 건을 읽고 업무를 처리하고 있어요. (이번 글은 ‘생각하는 기계’에 많이 빚지고 있네요. 일독을 권합니다.)

과감한 M&A도 필요해요. 엔비디아는 끝없이 실리콘밸리 스타트업을 인수하고 있어요. 기업 안에서 싹트기 어려운 혁신 역량은 외부에서 비싼 대가를 치러서라도 확보해야 해요. 삼성이 하지 않는 일이죠. 

또한, 생태계 속에서 꿈꿔야 해요. 얼마 전 타이완에서 열렸던 <컴퓨텍스 2025> 기조연설을 보셨나요? 젠슨 황이 그리는 미래를 엿보려면 꼭 보시는 것을 추천해 드려요. 

젠슨은 ‘타이완과 함께 AI 세상의 미래를 열겠다’고 선언했어요. 타이완에 거대한 엔비디아 지사를 짓겠다고도 말했죠. 자신이 타이완 출신이어서도, 타이완에 TSMC가 있기 때문도 아니에요. 타이완에 AI 컴퓨팅 세계를 혁신할 수많은 기업과 생태계가 있어서예요.

이 생태계는 TSMC로 인해 태어났지만, 각자의 영역에서 존재감을 보여주고 있죠. 폭스콘은 단순히 애플의 하청기업이 아니에요. 로봇과 디지털 트윈의 힘을 바탕으로 정밀 AI 제조 공장으로 나아갔죠. 세계 최대의 패키징 기업 ASE도 있고, 퀄컴보다 모바일AP 점유율이 높은 미디어텍도 대만에 있어요. 셀 수 없이 많은 기업이 각자의 힘으로 우뚝 서 있죠. 

젠슨은 이날 삼성전자는 물론 SK하이닉스조차 언급하지 않았어요. 만약 젠슨이 그리는 미래에 한국 기업이 없어도 되는 거라면… 생각만 해도 선뜩합니다.

출처: 엔비디아 공식 블로그 

코끼리를 냉장고에 넣는 법

무어의 법칙이 끝났다는 사람들은 ‘물리적 한계’에 주목하고 있어요. 하지만 저는 한계 없는 ‘인간의 욕망’에 주목해야 한다고 말씀드렸죠. 그 때문에 무어의 법칙은 물리적 한계에도 불구하고 지속한다고요.

취재차 MIT를 방문했을 때, AI 소프트웨어 전문가인 송 한 Song Han 박사는 ‘코끼리를 냉장고에 집어넣는 법’에 비유해 설명하더군요.

“코끼리(AI)를 집어넣기 위해서는 냉장고(하드웨어)의 물리적 크기를 키워야 하죠. 더 빠르고 용량이 큰 하드웨어를 만들면 돼요. 하지만 그 방법만 있는 건 아니에요. 코끼리(AI)를 작게 만드는 방법도 있어요. AI의 크기와 파라미터 수를 줄이면서도 큰 모델과 비교해도 차이가 없는 시스템을 구축할 수 있어요. 소프트웨어의 힘으로요. 실제로 CPU든 GPU든 최신 프로세서의 성능 향상은 점점 물리적 스케일링(규모)보다 소프트웨어 개선에 의존하고 있어요.”

하드웨어 기업도 소프트웨어에 투자해야 하는 이유예요. 엔비디아처럼요. 엔비디아는 하드웨어 회사이지만 하드웨어만으로 지금과 같은 성공을 이루지 못했을 거예요. 하드웨어만 만드는 회사에는 미래가 없다는 것을 일찌감치 깨달았죠. 지금 엔비디아 경쟁력의 핵심인 CUDA를 키운 이유예요. 하드웨어보다는 소프트웨어의 힘이 더 크죠.

2012년부터 2022년까지 10년 동안 엔비디아는 단일 칩의 AI 추론 성능을 무려 1,000배나 향상시켰다. 무어의 법칙보다 훨씬 빠른 속도였다. 그런데 트랜지스터 증가로 인한 성능 향상은 겨우 2.5배에 불과했고, 나머지 400배는 전적으로 엔비디아의 수학적 기술 덕분이었다. 

⟪생각하는 기계⟫, 스티븐 위트, 2025, RHK, p.381

삼성은 스스로를 제조업체, 하드웨어 양산에 한계 짓고 있어요. 스마트폰에서도, 메모리에서도요. 소프트웨어적인 성능 향상에는 공을 들이지 않고, 새로운 시도 앞에서 주저했어요.

칩의 세계, 그리고 우리의 미래

제 ‘칩의 세계’는 여기까지입니다. 마냥 즐거운 이야기만은 아니었죠?

앞으로 중요한 것은 미래입니다. 칩 없는 한국의 미래는 ‘팥 없는 찐빵’이자 ‘출구 없는 암흑’과 같아요.

이미 제조업은 중국이 많이 잠식하고 있어요. 로봇청소기, 드론, 휴대용 영상 저장장치, 태양광 패널, 풍력 터빈… 심지어 한국이 최고라던 배터리 역시 공급망부터 최종 제품까지 중국이 밸류체인을 장악하고, 가성비 전략으로 휩쓸고 있어요.

오직 메모리 반도체에서만 격차를 유지하고 있어요. 워낙 빠른 속도로 추격 중이라 이마저도 미래는 불투명해요. 범용제품 격차는 불과 3년 안팎이라 이대로라면 10년 이내에 격차는 사라질지도 몰라요.

결국 혁신을 해야 합니다. 하던 대로 해선 미래가 없어요. HBM이 되었건, 양자컴퓨터가 되었던 우리가 그 미래에 주인공이어야 해요. ‘칩’을 지키는 건 우리나라의 미래를 사수하는 것과 다르지 않아요.

길지 않은 연재였지만, 머니레터 독자님들을 만날 수 있어서 즐거운 시간이었어요. 미래를 바라보는 시야를 넓히는 데 도움이 되는 이야기였기를 바랍니다.

💌 지금까지 ‘칩의 세계’와 함께해 주셔서 감사합니다. 지난 연재는 어피티 홈페이지에서 모아 보실 수 있습니다.

📌 필진 소개: KBS에서 금융, 재정, 국제경제 기사를 주로 써요. 그러니까 전공은 ‘대한민국 경제’예요. 기삿거리를 찾던 어느날, 국가대표 삼성전자에서 ‘근본적 위기 신호’를 감지했어요. 이후 ‘칩’을 파고들었어요. 삼성전자를 주제로 크리스 밀러, 짐 켈러 같은 세계적 칩 명사를 등장시킨 다큐멘터리를 제작해 큰 반향을 일으켰고, 여세를 몰아 《삼성전자 시그널(2025)》을 썼어요. 시대의 흐름을 읽어드립니다. ‘빠져들게 만드는 스토리텔링’을 추구합니다. 읽는 재미와 깊은 인사이트, 둘 다 담아서 여러분을 찾아갈게요.