칩의 세계는 관식이 마음이랑 달라요 – 2탄

글, 서영민


칩의 세계는 숨가쁘게 변해요. 지난 시간 이야기에서 AI시대 초입에 일어난 변화까지 다루었어요. GPU가 CPU보다 중요해졌다고 했죠? 그러자 기존의 메모리가 천덕꾸러기 신세가 되었어요. CPU 시대의 메모리는 ‘데이터를 가져오는 길이 너무 좁아서’ GPU를 답답하게 했거든요. 이제 변해버린 ‘두뇌’는 ‘손발’도 변하라고 요구합니다.


“길이 좁아서 문제라면, 넓히면 되지 않겠어?” 엔비디아 같은 GPU 회사들은 이 단순한 발상에서 문제 해결의 실마리를 찾기 시작했어요. 그리고 SK하이닉스 같은 메모리 회사들에 제안합니다. 


“메모리를 위로 쌓아보면 어때?”


같은 자리에 메모리를 수직으로 여러 개 쌓으면, 원래는 메모리 한 개만 위치할 수 있던 공간에 여러 개의 메모리를 놓을 수 있죠. 1개 밖에 없던 ‘손발(메모리)’이 여러 개가 되면 ‘두뇌(GPU)’를 더 재빠르게 도와줄 수 있겠죠. 구현이 되기만 한다면 데이터가 다니는 길이 1차선에서 2, 4, 8차선으로 늘어나는 셈이니까요.

출처: KBS


물론 기술적 난제가 많았어요. 아래쪽 회로기판과 직접 닿지 않은 메모리에서 CPU로 길을 연결하려면 구멍을 뚫고 도로를 내야 했죠. 이걸 TSV(Through Silicon Via)라고 해요. 또 발열 관리도 더 잘해야 해요. 계산을 반복하면 칩은 뜨거워지게 마련인데, 여러 칩을 수직으로 쌓으면 각각의 칩에서 열이 빠져나갈 구멍이 없어서 발열로 인한 문제가 생길 가능성이 더 커지거든요.


HBM에 의해 뒤바뀐 기업들의 운명

이런 기술적 문제를 극복하고 만들어낸 메모리가 바로 HBM(High Bandwidth Memory). ‘고대역폭’이라는 이름처럼 데이터가 지나가는 ‘길이 넓어진’ 특수한 메모리예요. 이 HBM이 삼성전자와 SK하이닉스의 운명을 갈랐습니다. 하이닉스는 빠르게 HBM 개발에 성공했고, 삼성은 한발 늦었어요. 그 차이가 2024년과 2025년에 극명하게 드러납니다.


하이닉스는 엔비디아의 최신 GPU인 블랙웰(B200)에 들어가는 HBM3E 8단 제품을 2024년 3월부터 공급했고, 메모리 용량이 50% 늘어난 12단 제품은 9월부터 납품했어요.


삼성은 아직이에요. 이제 겨우 8단 제품이 품질 테스트를 곧 통과한다는 말이 나오죠. 통과한다 해도 양산까지 걸리는 시간을 감안하면, 하이닉스보다는 대략 1년 반 정도 늦는 겁니다. 그리고 2025년 하반기 출시될 블랙웰 울트라(B300)에는 12단 제품이 들어간다고 알려져 있어요. 삼성은 아직 8단이니, 납품을 시작한다 해도 당장 최신 제품에 들어가는 건 아닐 가능성이 높아요.


원래 아무나 못만드는 제품은 부르는 게 값이죠. HBM이 그래요. 가격이 엄청나다는군요. 업계에선 이 HBM 값이 GPU 원가의 절반 가까이를 차지할 것으로 봐요. 실제로 납품을 시작한 이후 하이닉스는 영업이익이 급등했죠.


그 결과, 지난해 하반기부터는 하이닉스의 영업이익이 삼성전자 DS(반도체)부문보다 커졌어요. 매출은 삼성이 여전히 두 배지만, 이익은 하이닉스가 앞서는 상황이 되었죠. 


그리고 마침내 올해 1분기에는 매출마저 하이닉스가 앞섰어요. 카운터포인트리서치 집계 기준으로 1위는 36%인 SK하이닉스, 삼성은 34%였어요. 이대로라면 삼성은 1993년 이후 30년 넘게 지켜온 자리를 2025년에 반납하게 됩니다.


엔비디아와 SK하이닉스의 전성시대

이게 2025년 IT 세상의 풍경이에요. 이 순간, GPU와 HBM은 너무나 중요해요. 그래서 2025년 CES에서 삼성전자보다 SK하이닉스가 주목받은 거에요. 한때 게임 그래픽칩이나 만드는 구멍가게 취급을 받던 엔비디아의 CEO 젠슨 황이 가죽잠바 입은 모습이 그렇게 스포트라이트를 받는 것이고요.

CES 2025의 젠슨황, 출처: 엔비디아 블로그


하이닉스만 놓고보면 정말 상전벽해의 변화예요. IMF 외환위기 이후 쓰러져가던 LG반도체와 현대반도체가 합쳐져 하이닉스가 탄생했고, 2001년엔 부도 위기까지 겪었어요. 한때 오갈 데 없던 회사가 SK그룹 인수 10여 년 만에 ‘업계 대장’ 삼성전자를 누르는 대이변의 주인공이 됐어요.


칩 세상은 정말 관식이 마음과 달라요. 언젠가는 변하고, 결국엔 변해요. 

영원한 전성시대는 없다

자, 다시 처음 이야기로 돌아가볼까요? 양자 컴퓨터 이야기요. 기억하시죠? 양자 컴퓨터가 오면 메모리가 필요 없어질지도 모른다고요. 양자 컴퓨터는 우리가 아는 컴퓨터의 근간을 이루는 폰 노이만 구조가 아니거든요.


우선 정보 처리 단위부터 완전히 달라져요. 기존 컴퓨터는 모든 정보를 0과 1, 즉 비트(bit)로 표현하죠. 그런데 양자 컴퓨터 세계엔 비트가 없어요. 그 대신 큐비트(qubit)가 있어요. 동시에 0이기도 하고 1이기도 한 상태(중첩), 여러 큐비트가 서로 영향을 주는 상태(얽힘)로 작동해요. 완전히 다른 원리죠.


그리고 무엇보다, 지난 80년간 지속되어 온 폰노이만 아키텍처, 즉 ‘머리’와 ‘손발’의 구분이 아예 없습니다. 큐비트가 머리인 동시에 손발이에요. 데이터를 저장도 하고 처리도 합니다. 워낙 빠르기 때문에 GPU처럼 도와주는 장치도 필요 없는 것 같구요, HBM은 전혀 필요없습니다.


세상은 또 한번 뒤집힐까?

양자 컴퓨터가 현실이 되면 기존 컴퓨터에 쓰이던 CPU, GPU, 메모리 모두 자리를 잃을 수 있어요. 엔비디아도, 하이닉스도 안심할 수 없죠.


대신 양자 컴퓨터의 세상에서는 화학과 기계공학이 더 중요해질 겁니다. 양자 컴퓨터는 온도가 중요해서 극저온 상태에서만 작동해요. 섭씨 영하 273도 가까운 온도를 유지하는 냉각 기술, 그 환경에서도 잘 버티는 소재, 정밀한 장비까지 완전히 새로운 생태계예요. 메모리에 특화된 한국 반도체 산업엔 낯선 세계죠. 두렵기만합니다. 


(우리나라에서 양자컴퓨터 분야에서 가장 주목받는 신진 연구자 가운데 한 분인 채은미 고려대 교수님께 이 걱정에 대해서 어떻게 생각하시는지 물어봤어요. 만약 미래에 양자 컴퓨터만 존재한다면 그럴 수는 있다고 하시네요. 다만, 그 미래는 그렇게 가깝지는 않다, 또 양자 컴퓨터는 모두가 한 대씩 갖는 컴퓨터가 아닐 것이다, 양자 컴퓨터는 서버의 형태로 클라우드 어디엔가 모셔두고 일반인들은 지금과 유사한 일반 컴퓨터를 사용할 것이다, 미래는 모르는 것이지만 양자 컴퓨터만 존재하는 세상은 현실적인 가정은 아니다, 라고 하셨어요.) 


대한민국 반도체 칩 산업은 본질적으로 ‘메모리 비즈니스’라고 할 수 있어요. 선두가 삼성이건 하이닉스건 대한민국은 메모리라는 특정 칩을 만드는 데 탁월합니다. 그렇게 지금껏 잘해왔고 쌓아놓은 게 많다고 생각하니까, 지금과는 다른 미래의 가능성이 두려운 것이겠죠. 


정말 세상은 또 한 번 뒤집힐까요? 이 질문에 답해가며, 칩 이야기를 조금 더 깊이 있게 나누려면 이번에는 반대로 관식이처럼 ‘변하지 않는 법칙’ 하나를 이해해야 합니다. 어떤 사람들은 이 법칙이 이미 소멸해서 역사의 뒤안길로 사라졌다고 주장하지만, 저는 지속하고 있다고 생각하는 편이에요. 


이 법칙을 이해하는 과정에서 변화하는 반도체 세계의 본질과 그 속에서 경쟁하며 대한민국이 거둔 성취를 동시에 조망할 수 있습니다. 다음 연재에서 이어서 들려드릴게요.

📌 필진 소개: KBS에서 금융, 재정, 국제경제 기사를 주로 써요. 그러니까 전공은 ‘대한민국 경제’예요. 기삿거리를 찾던 어느날, 국가대표 삼성전자에서 ‘근본적 위기 신호’를 감지했어요. 이후 ‘칩’을 파고들었어요. 삼성전자를 주제로 크리스 밀러, 짐 켈러 같은 세계적 칩 명사를 등장시킨 다큐멘터리를 제작해 큰 반향을 일으켰고, 여세를 몰아 《삼성전자 시그널(2025)》을 썼어요. 시대의 흐름을 읽어드립니다. ‘빠져들게 만드는 스토리텔링’을 추구합니다. 읽는 재미와 깊은 인사이트, 둘 다 담아서 여러분을 찾아갈게요.  

경제 공부, 선택 아닌 필수

막막한 경제 공부, 머니레터로 시작하세요

개인정보 수집 및 이용

뉴스레터 발송을 위한 최소한의 개인정보를 수집하고 이용합니다. 수집된 정보는 발송 외 다른 목적으로 이용되지 않으며, 서비스가 종료되거나 구독을 해지할 경우 즉시 파기됩니다.

광고성 정보 수신

제휴 콘텐츠, 프로모션, 이벤트 정보 등의 광고성 정보를 수신합니다.

잘 살기 위한 잘 쓰는 법

매주 수,금 잘쓸레터에서 만나요

개인정보 수집 및 이용

뉴스레터 발송을 위한 최소한의 개인정보를 수집하고 이용합니다. 수집된 정보는 발송 외 다른 목적으로 이용되지 않으며, 서비스가 종료되거나 구독을 해지할 경우 즉시 파기됩니다.

광고성 정보 수신

제휴 콘텐츠, 프로모션, 이벤트 정보 등의 광고성 정보를 수신합니다.