글, 서영민

애순이를 향한 관식이 마음이 변하는 걸 상상할 수 있나요? “너는 요이땅만 해. 그럼 내가 개가 될게.” <폭싹 속았수다>의 명대사가 괜히 나온 게 아니죠. 관식이의 세계에서 한 번 정한 ‘노선’은 바뀌지 않아요.

하지만 반도체 칩(chip)의 세계는 관식이와 달라요. 변화가 너무 잦고, 그 속도도 상상을 초월하죠. 당장 삼성전자만 봐도 그래요. ‘세상 쓸데없는 걱정이 삼성전자 걱정’이라는 말, 옛말이 됐어요. 작년 2024년 10월엔 반도체 부문 수장이 직접 나와서 “기술의 본원적 경쟁력을 잃었다”고 인정했을 정도예요. 칩의 세계에서 노선은 변하기 마련이고, 또 변해야만 해요.

그래도 위안은 있어요. 삼성이 주춤하는 사이, SK하이닉스가 HBM으로 존재감을 드러냈으니까요. 최신 AI칩에 꼭 필요한 고대역폭 메모리 시장을 하이닉스가 꽉 잡고 있거든요. 우리 기업이 여전히 주도권을 쥐고 있다는 게, 얼마나 다행인지 몰라요.

멀었다던 양자컴퓨터 세상

하지만 요즘, 그 위안조차 흔들리는 뉴스가 들려와요. 바로 ‘양자컴퓨터’ 이야기예요.

처음엔 먼 미래 얘기 같았죠. 그런데 이젠 분위기가 심상치 않아요. 올해 초까지만 해도 엔비디아의 젠슨 황 CEO는 ‘양자컴퓨터 시대는 15년, 길면 30년은 걸릴 것’이라며 회의적이었어요.

그랬던 그가, 얼마 전 입장이 바뀐 듯한 모습을 보였어요. 지구촌 최대의 개발자 행사가 된 엔비디아의 연례 개발자 컨퍼런스(GTC 2025)에서 ‘엔비디아 가속 양자 연구센터(NVZQC)’를 세우고 ‘대규모 가속 양자컴퓨터를 만들기 위해서 MIT와도 협력하겠다’고 말했어요. 당장 양자 시대에 대비해야 한다는 입장으로 선회했다고 볼 수 있는 시그널이었죠. 

구글은 이미 작년에 ‘윌로우’라는 양자칩을 내놓으며 기존 슈퍼 컴퓨터로는 10의 24승(10을 24번 곱한 숫자)년 걸릴 일을 5분 만에 할 수 있다고 밝혔어요. 마이크로소프트도 ‘마요라나1’이라는 칩을 발표했는데, 빌 게이츠는 5년 안에 양자컴퓨터가 상용화될 수 있다고 말했죠.

출처: KBS, 《삼성전자 시그널(2025)

그 뒤, 기능 추가를 위해서 이런저런 칩이 더해지기 시작했어요. 네트워크 기능이 필요하니까 통신칩, 게임과 영상 시대가 오니 그래픽 칩도 붙었죠. (예전엔 용산 전자 상가에서 컴퓨터를 조립할 때 “게임 안 하면 그래픽카드 굳이 필요 없어”라며 빼던 시절도 있었답니다.) 그래픽 칩은 LCD 화면에 더 빠르고 생생한 이미지를 띄워주는, CPU의 든든한 조력자 역할을 해왔어요.

그러다 시대 자체가 변하는 날이 와요. 한 천재가 나타나 손바닥 안에 들어오는 작은 크기의 컴퓨터를 내놓았거든요. 그 사람이 바로 스티브 잡스였고, 결과물이 바로 아이폰이었죠. 그날부터 ‘스마트폰 시대’가 열렸어요.

이제 크기가 중요해졌어요. CPU, 메모리, 그래픽 칩을 따로 만드는 건 너무 비효율적이었죠. 그래서 이걸 하나의 칩 안에 다 넣어보자는 SoC(System on Chip) 시대가 도래했어요. 계산도, 통신도, 그래픽도 하나의 칩 안에서 해결하는 거예요. 이제 이 칩을 AP(Application Processor)라고 부르게 되죠.

그래도 큰 틀은 같아요. 계산은 CPU, 저장은 메모리. 여전히 폰 노이만 구조예요. 여기에 카메라 기능까지 붙으면서 CMOS 센서도 중요한 칩으로 합류하죠.

그러던 2016년, 알파고가 이세돌을 꺾고 세상이 한 번 뒤집힙니다. AI 시대의 서막이었죠. 그리고 2022년, 챗GPT가 세상에 나오며 본격적인 AI 대중화가 시작됩니다.

그런데 AI는 계산 방식부터 달라요. 특출난 소수보다, 똑똑한 다수가 필요하거든요. 왜냐고요? 인간처럼 원리를 이해시키는 연역법 방식은 실패했거든요. 그래서 AI는 귀납법을 선택했어요. 엄청난 양의 데이터를 넣고, 패턴을 익히게 하는 거죠. 이론보다 경험! AI는 데이터를 ‘많이’ 먹어야 잘 자라요.

CPU와 GPU의 뒤바뀐 운명
여기서 CPU와 그래픽 칩의 운명이 뒤바뀌게 돼요. CPU는 정교한 계산은 잘하지만, 한 번에 하나밖에 못해요. 그래서 코어 수를 늘려봤지만, 병렬 연산에는 한계가 있었죠. 그때 등장한 해결책이 바로 그래픽 칩이에요. 화면의 수많은 픽셀을 동시에 계산해주는 GPU(Graphics Processing Unit)는, 수백만 개의 간단한 계산을 병렬로 처리하는 데 특화되어 있죠.

출처: KBS, 《삼성전자 시그널(2025)

AI에게 GPU는 딱 맞는 친구였어요. AI 학습은 복잡한 수학보다는, 단순한 연산을 많이 반복하는 일이니까요. 그래서 GPU는 게임용 보조 칩에서, AI 시대의 핵심 전력으로 떠오르게 돼요. 과거 이름 그대로 ‘그래픽 칩’이라 부르긴 어딘가 아쉬울 정도로요. 그래서 CPU처럼 보이도록 GPU라는 이름도 붙인 거죠.

비유하자면, CPU는 수학과 교수 몇 명이고, GPU는 수학 잘하는 고등학생 수백 명이에요. 똑똑한 소수보다 많은 ‘머릿수’가 이기는 세상이 온 거예요.

하지만 GPU엔 문제가 하나 있었어요. 계산은 잘하는데, 필요한 데이터를 빠르게 가져올 메모리가 부족한 거예요. 기존 메모리는 CPU 시대 기준이라, 한 번에 하나만 배달하면 되거든요. 그런데 갑자기 GPU가 나타나서 말하는 거죠. “나 지금 한 번에 스무 개는 받아야 해!”

결국 병목이 생깁니다. 계산을 할 능력은 넘치는데, 계산거리가 안 와요. 이제 사람들은 말해요. “컴퓨터 혁신의 최대 걸림돌은 메모리 속도다.” 그리고 여기서 새로운 돌파구가 필요해지죠. 

“더 빠른 메모리 없어? 한번에 더 많은 데이터를 배달하는 대역폭 넓은(High Bandwidth) 메모리 정말 없어?”하는 아우성이 AMD나 엔비디아로부터 나옵니다. 그리고 메모리기업들과 함께 머리를 싸맸습니다. 그리고 아이디어를 냈죠. 과연 어떤 아이디어였을까요?

대역폭을 확 넓힌, HBM(High Bandwidth Memory)의 시대가 열린 배경, 다음 연재에서 이어서 설명해 드릴게요.