팻 겔싱어 인텔 최고경영자(CEO)가 4일 대만 컴퓨텍스 2024에서 기조연설을 하고 있다. [EPA]

인공지능(AI) 반도체 시장을 둘러싸고 글로벌 주요 기업들의 경쟁이 격화하면서 AI 반도체에 탑재되는 고대역폭 메모리(HBM)의 인기도 좀처럼 꺾이지 않고 있다.

HBM을 만드는 삼성전자와 SK하이닉스, 마이크론 등 3사가 경쟁적으로 생산을 늘리면서 일각에선 공급과잉 우려도 제기된다. 그러나 엔비디아를 따라잡으려는 경쟁사들이 최근 AI 반도체 사업에 적극적으로 나서면서 HBM 부족 현상은 당분간 지속될 것이란 전망이 나온다.

HBM은 여러 개의 D램을 수직으로 쌓아 올린 제품이다. 데이터 처리 속도가 빨라 대량의 데이터를 처리해야 하는 AI 시대 각광받고 있다. 그래픽처리장치(GPU)가 수행하는 연산의 양이 기하급수적으로 늘고 있는 만큼 GPU 옆에 붙어 연산을 보조하는 HBM 인기도 높아진 것이다.

7일 신영증권에 따르면 올해 HBM 수요는 공급량을 15% 초과할 것으로 예상된다. 내년에도 수요가 공급보다 11% 더 많을 것으로 전망된다.

현재 엔비디아의 AI 반도체에는 SK하이닉스가 만든 HBM이 탑재돼 성능을 더욱 극대화하는 역할을 하고 있다. SK하이닉스는 5세대 HBM인 HBM3E 8단 제품을 엔비디아에 유일하게 공급하고 있다. 곽노정 SK하이닉스 사장은 지난달 기자간담회에서 “HBM은 올해 이미 솔드아웃(완판)이고, 내년 역시 대부분 솔드아웃됐다”고 밝힌 바 있다.

여기에 인텔과 AMD가 AI 반도체 사업에 의욕을 보이면서 HBM 수요에 대한 기대감도 높아지고 있다. 이들은 지난 3일 대만에서 열린 IT 행사 ‘컴퓨텍스 2024’에서도 경쟁적으로 AI 반도체 로드맵을 공개하며 ‘엔비디아 타도’에 목소리를 높였다.

팻 겔싱어 인텔 최고경영자(CEO)는 자사 AI 반도체 ‘가우디 3’에 대해 “동급 규모의 엔비디아 H100에 비해 학습 시간이 최대 40% 빠르며 거대언어모델(LLM)을 실행할 때 H100 대비 평균 최대 2배 빠른 추론을 제공할 것”이라며 엔비디아가 주도하는 AI 반도체 시장에서 본격적인 경쟁을 예고했다

앞서 5일 한국에서 열린 ‘인텔 AI 서밋 서울 2024’에서 저스틴 호타드 인텔 수석 부사장은 가우디 3에 3세대 HBM인 HBM2E가 들어간다고 설명했다. 다만 공급사명은 밝히지 않았다.

AMD 역시 차세대 AI 반도체 ‘인스팅트 MI325X’ 개발 계획을 발표했다. 여기에는 5세대 HBM인 HBM3E가 탑재된다. 내년에는 MI350 시리즈, 2026년 MI400 시리즈를 출시해 경쟁사 엔비디아를 추격하겠다는 의지를 공개적으로 드러냈다.

엔비디아의 차세대 GPU 블랙웰과 AMD의 MI350 시리즈, 인텔의 가우디 3 등이 시장에 한꺼번에 쏟아지는 올해 하반기와 내년은 HBM 부족현상이 더욱 심해질 것으로 예상된다. 갈수록 버전이 업그레이드되면서 대당 HBM 탑재량도 늘어나고 있다.

블랙웰 GPU의 업그레이드 버전인 블랙웰 울트라 GPU에는 12단 HBM3E 제품이 8개 탑재될 예정이다. 블랙웰에 이은 차차세대 GPU 루빈에는 6세대 HBM인 HBM4 8개가 들어간다. 성능이 더 향상된 루빈 울트라에는 HBM4 12개를 부착할 전망이다.

이처럼 엔비디아가 촉발한 AI 반도체 시장의 빅뱅으로 HBM 수요는 급증하고 있지만 공급은 이를 따라가지 못하는 상황이다.

마이크론의 경우 현재 HBM 생산능력이 SK하이닉스의 6분의 1 수준으로 알려졌다. 삼성전자는 AMD에 HBM3E를 공급하고 있지만 최대 수요처인 엔비디아에는 납품 테스트를 진행 중이다.

신영증권은 2025년 HBM 수요가 전년 대비 97% 증가한 22억3000만GB에 달할 것으로 추정했다. 이는 SK하이닉스와 마이크론의 2025년 HBM 출하량 12억5000만GB를 크게 초과하는 수준이다.

견고한 HBM 수요에 대응해 생산시설 확장도 진행 중이다. 삼성전자는 올해 HBM 설비투자 규모를 지난해보다 2.5배 이상 늘린다는 계획이다. SK하이닉스는 충북 청주 M15X를 신규 생산기지로 결정하고 2025년 11월 준공 후 양산을 시작할 예정이다.

마이크론도 지난해 6월 대만 타이중에 HBM3E 신규 공장 가동을 시작했다. 미국 아이다호 보이시와 뉴욕 클레이주, 일본 히로시마에도 HBM 공장을 건설할 계획이다. 공장 준공 후 양산이 시작되는 2026~2027년까지는 HBM 공급부족이 당분간 지속될 것이란 전망이 나온다. 

김현일 기자