출처: 엔비디아 블로그
에너지(전력)
전력망(Grid)
전력망은 발전소에서 생산한 전기를 송전선·변전소·배전망을 거쳐 데이터센터와 가정, 공장까지 보내는 전기 공급망이에요. 발전소뿐 아니라 필요한 장소까지 안정적으로 운반하는 시설과 운영체계를 모두 포함해요.
전력구매계약(PPA)
발전사업자와 기업이 일정 기간, 정해진 조건으로 전기를 사고팔기로 약속하는 계약이에요. 데이터센터를 운영하는 빅테크는 PPA를 통해 장기간 사용할 전력을 적극적으로 확보하고 있어요.
용어가 등장하는 어피티 심층뉴스 읽기 👉 재생에너지에서도 ‘Made in Korea’ 가능할까
온사이트 발전(On-site power)
데이터센터 부지 안이나 가까운 곳에 발전설비를 설치해 전기를 공급하는 방식이에요. 가스발전기·연료전지·태양광·배터리 등을 결합한 형태로 구축돼요. 전력망 연결까지는 시간이 많이 소요되는데요. 낭비되는 시간을 줄이고 정전 위험에 대비할 수 있어 주목받고 있어요.
용어가 등장하는 어피티 심층뉴스 읽기 👉 AI 데이터 센터에 선박 엔진이 필요하다고요?
ESS(Energy Storage System)
ESS는 전기를 저장했다가 필요한 시간에 꺼내 쓰는 에너지저장장치예요. BESS(Battery Energy Storage System)는 그 중에서도 배터리를 사용하는 ESS예요. 탄소 중립을 위한 신재생에너지 수요와 AI 데이터센터 건설이 늘면서 ESS 시장도 커지고 있어요.
신재생에너지는 날씨에 따라 발전량이 들쭉날쭉해서, 많이 생산될 때 저장해뒀다가 AI 데이터센터처럼 전력 수요가 몰릴 때 공급해야 해요. 이때 필요한 게 바로 ESS예요.
용어가 등장하는 어피티 심층뉴스 읽기 👉 ‘아픈 손가락’ 덕분에 살아난 배터리 업계 근황
반도체
HBF(High Bandwidth Flash)
HBF는 반도체 공정에서 낸드플래시를 수직으로 쌓고 데이터 통로를 넓혀 빠르게 대량의 데이터를 공급하려는 차세대 메모리예요. 메모리 기업들은 HBF의 표준화를 위해 개발이 한창이에요.
GPU의 짝꿍인 ‘HBM’은 D램을 기반으로 해 속도가 매우 빠르지만 가격이 높고 용량을 크게 늘리기 어려워요. HBF는 낸드를 기반으로 하기 때문에 HBM보다 느리지만, 더 큰 용량을 상대적으로 낮은 비용으로 제공할 수 있어요. AI가 추론과 AI 에이전트 영역으로 발전하면서 HBM만 쓰기에는 한계가 생겼고, 이에 대한 해결책으로 등장한 것이 HBF예요.
ASIC(Application-Specific Integrated Circuit)
ASIC은 특정 목적에 맞춰 설계한 주문형 반도체예요. 불필요한 기능을 줄이고, 전력 효율과 처리 비용을 개선하는 데 초점을 둬요. GPU는 다양한 AI 모델과 작업에 사용할 수 있어 범용성이 높아요. 하지만 ASIC은 특정 용도에서는 효율이 좋지만, 전체적인 기능에서는 떨어지고 사용처가 좁죠.
구글, 아마존, 마이크로소프트 등 빅테크들은 GPU에 대한 의존도를 줄이기 위해 ASIC을 개발하고 있어요. 대표적으로는 구글의 TPU가 있어요.
용어가 등장하는 어피티 심층뉴스 읽기 👉 엔비디아 주가 상승분 가져간 구글, AI 기업 판도 빠르게 바뀌어요
CPO(Co-Packaged Optics)
CPO는 GPU와 같은 AI 반도체나 네트워크 스위치 가까이에 광 송수신 장치를 함께 배치해, 데이터가 이동하는 긴 구간을 전기 대신 빛으로 연결하는 기술을 말해요.
AI 칩의 계산 속도가 빨라져도 데이터가 제때 이동하지 못하면 무용지물이에요. 그래서 전기 신호가 이동하는 거리를 줄여 대역폭을 높이고 전력 효율을 개선하는 CPO 기술이 주목받고 있어요.
용어가 등장하는 어피티 심층뉴스 읽기 👉 사람들이 ‘광통신 ETF’ 출시 기다리는 이유 살펴봤어요
MLCC(Multilayer Ceramic Capacitors)
MLCC는 전기를 잠시 저장했다가 필요한 순간 공급하고, 전자회로에 전류가 일정하게 흐르도록 제어하는 핵심 부품이에요. 삼성전기는 MLCC를 전기를 충전하고 방전하는 작은 ‘댐’에 비유해요.
MLCC는 한 개당 크기와 가격은 작아요. 하지만 서버와 네트워크 장비에 대량으로 들어가기 때문에, AI 데이터센터 투자가 늘면 전체 수요가 커질 수 있어요. 우리나라에서는 삼성전기가 대표 기업이고, 전 세계 1위는 일본의 무라타예요.
인프라
AI 팩토리(AI Factory)
‘AI 데이터센터’를 공장에 비유한 표현이에요. 엔비디아의 젠슨 황 CEO가 사용하며 알려졌어요.
GPU 서버·네트워크·저장장치·전력·냉각설비를 결합한 시설로, 원료인 ‘데이터’를 AI 모델에 넣어 가치 있는 지능(토큰)을 생산하는 공장을 의미해요. AI를 설비 투자가 필요한 제조업과 비슷한 산업으로 보는 관점이 담겨 있어요.
용어가 등장하는 어피티 심층뉴스 읽기 👉 대하락장 속에서 네이버만 웃은 이유
네오클라우드(Neocloud)
GPU 임대와 AI 모델의 학습·추론에 사업 역량을 집중한 클라우드 사업자예요. 대규모 GPU를 확보해 기업에 필요한 만큼 빌려주고, 네트워크와 소프트웨어도 함께 제공해요. AWS·마이크로소프트·구글 같은 하이퍼스케일러보다 서비스 범위는 좁지만, 최신 GPU 공급과 AI 연산 환경을 빠르게 제공하는 데 집중해요.
GPU를 먼저 대량 구매해야 하므로 네오클라우드 기업은 설비 투자와 차입 부담이 커요. 그래서, 엔비디아가 네오클라우드 기업에 투자하기 위해 나섰어요. AI 생태계를 확장하기 위한 전략이기도 해요.
랙 스케일(Rack Scale)
‘랙’은 수십 개의 고성능 GPU와 CPU, 케이블, 냉각 시스템을 하나의 거대한 슈퍼컴퓨팅 유닛으로 통합한 데이터센터 인프라의 기본 단위를 말해요. ‘랙 스케일’은 랙 전체를 하나의 AI 시스템으로 설계하는 방식이에요.
엔비디아의 ‘베라 루빈’은 베라 CPU, 루빈 GPU 등이 결합된 차세대 랙 스케일 플랫폼이에요. AMD의 랙 스케일 AI 플랫폼은 ‘헬리오스’가 있어요.
용어가 등장하는 어피티 심층뉴스 읽기 👉 엔비디아의 ‘5단 케이크’는 이렇게 완성됩니다
AI 모델
토큰(Token)
토큰은 AI가 텍스트를 읽고 처리하는 데이터의 기본 단위예요. AI 서비스는 입력한 토큰과 모델이 생성한 출력 토큰을 기준으로 사용량과 요금을 계산하는 경우가 많아요. 같은 업무를 더 적은 토큰으로 처리할수록 추론 비용과 응답 시간을 줄일 수 있어요.
오픈웨이트 AI 모델(Open-Weight AI model)
AI 모델의 핵심 숫자인 ‘가중치 파일’을 내려받아 직접 실행하거나 수정할 수 있게 공개한 모델이에요. 오픈웨이트 모델은 폐쇄형 모델을 사용할 때보다 사용료가 저렴한 편이에요. 중국 문샷AI의 키미와 지푸AI의 GLM 등은 저렴한 토큰당 가격과 뛰어난 성능을 앞세워 주목받았어요.
중국 오픈웨이트 모델이 빠르게 미국 프론티어 모델과의 성능 격차를 좁히면서, 오픈웨이트는 기술 공개 방식을 넘어 미중 AI 패권 경쟁의 쟁점이 됐어요.
미국 내에서는 오픈웨이트 규제가 오히려 미국의 혁신과 경쟁력을 약화할 수 있다는 우려와 중국 모델이 확산되면 중국 기업이 세계 시장을 선점할 수 있다는 의견이 동시에 나오고 있어요.
용어가 등장하는 어피티 심층뉴스 읽기 👉 AI, 이제는 가성비 싸움이다
추론 모델
추론 모델은 답을 바로 내놓기보다 알아서 생각하고, 여러 단계로 문제를 풀며 검산하도록 훈련된 모델이에요. 추론은 모델을 더 많이 학습시키지 않고도 복잡한 업무의 성능을 높일 수 있어요. 대신 질문 하나에 사용하는 토큰이 늘어 응답시간과 서비스 원가가 높아질 수 있어요.
목표를 받으면 해야 할 일을 나누고, 검색·파일 작성·코드 실행·업무 시스템 입력 같은 도구를 사용해 여러 단계를 수행하는 ‘AI 에이전트’는 추론을 기반으로 움직여요.
대규모 연산이 필요한 ‘학습’ 중심 시대에서는 GPU가 중요했지만, ‘추론’이 중심이 되는 시대에서는 일을 나누고 조율하는 CPU의 역할도 중요해지고 있어요. CPU가 더 많은 작업을 처리할 수 있도록 돕는 D램과 같은 반도체도 더 필요해요.
용어가 등장하는 어피티 심층뉴스 읽기 👉 엔비디아와 AMD가 주목한 다음 먹거리는 바로…
지식 증류
성능이 높은 대형 교사 모델이 만든 답변과 판단 패턴을 학습 데이터로 사용해 더 작은 학생 모델을 만드는 기술이에요.
경쟁사의 모델에서 대량의 답변을 수집해 모델을 훈련했는지를 두고 지식재산권과 이용약관 논쟁이 생길 수 있어요. 중국 AI 모델들이 미국 AI 모델을 증류했다는 의혹을 받고 있는 것이 그 예에요.
애플리케이션
피지컬 AI(Physical AI)
피지컬 AI는 디지털 세계 안에서만 작동하는 AI가 아니라 로봇, 자동차, 공장, 물류처럼 현실 세계에서 움직이는 AI를 말해요. 카메라와 센서로 현실을 인식해 물리적인 작업을 수행해요.
엔비디아 젠슨 황 CEO는 AI의 다음 단계로 피지컬 AI를 지목하며, 세계 최대 산업 중 하나가 될 거라고 밝혔어요.
피지컬 AI를 구축하려면 실제 데이터와 함께 테스트가 필요하다 보니 비용과 시간이 많이 걸려요. 엔비디아가 제조업 강국인 우리나라 기업들과 손을 잡은 것도 그 이유예요. 엔비디아는 제조 역량이 뛰어난 우리나라를 피지컬 AI 상용화 테스트베드로 주목하고 있어요.
용어가 등장하는 어피티 심층뉴스 읽기 👉 LG전자가 왜 이래?
월드 모델(World Model)
월드 모델은 특정 행동을 했을 때 주변 환경이 다음 순간 어떻게 변할지를 학습하고 예측하는 AI 모델이에요. 로봇과 자율주행차 등 피지컬 AI는 월드 모델을 이용해 실제로 움직이기 전에 여러 행동의 결과를 가상으로 시험할 수 있어요.
월드 모델 분야에서는 게임사도 주목받고 있어요. 게임은 캐릭터와 이용자가 정해진 규칙 안에서 끊임없이 상호작용하는 가상 세계여서 월드 모델을 학습하고 시험하기에 유리해요. 국내 게임 회사들은 월드 모델을 전담할 조직을 신설해 연구에 뛰어들고 있어요.
온디바이스 AI(On-device AI)
AI 모델을 외부 클라우드 서버가 아니라 스마트폰 등 기기에서 구동하는 방식이에요. 기기에서 데이터를 처리하므로 인터넷 연결이 불안정해도 사용할 수 있고, 개인정보를 외부 서버로 보내는 일을 줄일 수 있어 보안에 유리해요.
용어가 등장하는 어피티 심층뉴스 읽기 👉 HBM 호황 그 이후, 한국 반도체의 다음 승부처는 어디일까요?
