HBM은 무엇이고, 삼성전자는 왜 HBM 경쟁력이 부족한가?
1. 문제인식
- 최근 삼성전자의 위기론이 거세지고 있다. 10만 전자를 바라보던 삼성전자가 오늘 기준으로 5만 전자가 되었다.
- 심지어는 고압적 자세를 유지하던 삼성전자가 홈페이지를 통해 고객/투자자/임직원에게 공개 사과글을 올리기까지 했다.
- 이러한 위기의 근원에는 HBM 역량 부족이라는 분석이 지배적인데, 이에 대해 깊이 알아보고자 한다.
2. HBM
A. HBM은 무엇인가?
- HBM(High Bandwidth Memory)은 여러 개의 DRAM 칩을 수직으로 쌓아 고속으로 대용량 데이터를 처리할 수 있는 고성능 메모리 기술.
B. HBM은 어디에 사용되는 물건인가?
- 주로 고성능 GPU, 데이터센터 서버, 슈퍼컴퓨터 등에 주로 사용됨.
- 특히 엔비디아의 H100 및 H200과 같은 GPU 제품군은 HBM을 활용해 AI 모델의 연산 성능을 극대화하고, 대형 언어 모델 및 컴퓨팅 집약적 연산을 원활히 처리함.
C. 요즘 세상에 HBM이 필요한 이유는?
- AI, 머신러닝, 고성능 컴퓨팅에서 복잡한 연산을 동시에 처리하기 위해서는 높은 속도의 데이터 전송과 대용량 메모리가 필수적.
- HBM은 기존 DRAM보다 속도와 효율성이 훨씬 높아 대규모 데이터 처리 성능을 필요로 하는 AI 부품과 데이터센터에서 핵심적인 역할을 함.
D. HBM은 단순히 DRAM을 쌓는 기술인데, 이 기술이 어려운 기술인가?
- 단순히 DRAM을 쌓아올린 것 이상의 기술적 난이도를 가지고 있는데, 이는 여러 가지 기술적 도전과 제조상의 어려움이 수반되기 때문임
- 우선 다수의 DRAM을 쌓아올리면 열이 축적되기 쉬움. 이러한 열 문제는 메모리의 성능과 안정성에 영향을 미칠 수 있어, 효과적인 열 관리가 필수적임.
- 또한, HBM의 제조 과정은 일반 DRAM보다 훨씬 복잡하며, 첨단 패키징 기술(TSV: Through-Silicon Via)이 필요함. 이러한 공정은 비용이 많이 들고, 높은 수준의 정밀도를 요구하여 생산 수율에도 영향을 미칠 수 있음.
- 이외에도, 쌓는 DRAM의 층수가 많아질수록 결함 발생 확률이 증가할 수 있어 결함과 제품 신뢰성을 관리하는 것도 큰 도전 과제임.
E. HBM 기술 난이도가 높다는 것을 단층 집과 고층 건물에 비유하여 설명한다면?
- DRAM은 단층 집: DRAM은 마치 단층 집처럼 모든 방이 한 층에 펼쳐져 있는 구조임. 각 방(메모리 셀) 사이를 이동하려면 복도를 따라 가야 하며, 복도는 좁아서 한 번에 많은 사람이 지나갈 수 없는데, 이는 데이터가 이동하는 길이 좁고, 많은 양의 데이터를 빠르게 전송하기 어렵다는 것을 의미함.
- HBM은 고층 건물: 반면, HBM은 고층 건물과 같음. 여러 층에 방이 쌓여 있고, 각 층은 엘리베이터(TSV 기술)로 연결되어 있음. 엘리베이터를 통해 사람(데이터)이 빠르게 여러 층을 오갈 수 있어, 많은 양의 데이터를 동시에 빠르게 전송할 수 있음.
- 또한, 고층 건물은 단층 집보다 열이 많이 발생할 수 있음. 따라서 적절한 냉방 시스템을 설치해야 하는 것처럼, HBM도 여러 층의 칩에서 발생하는 열을 효과적으로 관리해야 함.
3. 삼성전자
A. 위기론을 촉발시킨 핵심 사건은 무엇인가?
- 삼성전자는 엔비디아의 HBM 관련 품질 테스트에서 지연이 발생하며 위기 상황에 놓임. 엔비디아는 AI와 고성능 컴퓨팅 성능을 끌어올리기 위해 최신 HBM3E(HBM 3버전 Enhanced 모델) 사양의 고성능과 안정성을 요구하고 있는데, 삼성전자는 이 과정에서 발열 관리 및 전력 효율 등의 기준을 만족시키지 못해 일정이 지연된 것으로 확인함. 이로 인해 삼성전자의 HBM3E 양산과 엔비디아 공급이 늦춰지면서 실적에 부정적 영향이 있었음
B. 엔비디아는 삼성전자 외에 어떤 경쟁 기업으로부터 HBM을 공급받는가?
- 현재 엔비디아는 SK하이닉스를 주요 HBM 공급업체로 선택해 GPU에 탑재하고 있으며, 삼성전자와 마이크론도 공급 가능성을 두고 엔비디아의 품질 테스트를 진행 중임.
- 삼성전자는 엔비디아가 요구하는 사양을 맞추기 위해 HBM3E 12단 제품 개발과 테스트에 매진하고 있으며, 앞으로 양산을 통해 SK하이닉스에 이어 엔비디아와의 파트너십을 확대하려 하고 있음.
C. HBM 영역에서 삼성전자와 SK하이니스의 경쟁력은 어떻게 차이가 나나?
- 과거, SK하이닉스는 2013년에 세계 최초로 HBM을 개발함.
- 현재, SK하이닉스는 HBM 시장에서 53%의 점유율을 차지하며, 특히 엔비디아와의 협력을 통해 높은 수율과 기술적 우위를 확보하고 있음. SK하이닉스는 HBM3E 제품을 가장 먼저 양산하여 공급하고 있으며, 이는 엔비디아의 주요 AI 칩에 사용되고 있음.
- 삼성전자는 35%의 시장 점유율을 기록하고 있으며, 12단 HBM3E 제품을 개발하여 경쟁력을 강화하고 있음. 그러나, 후발주자로서 주요 고객사 확보에서 어려움을 겪고 있음.
D. SK하이닉스는 언제부터 경쟁력을 키워온 것인가?
- SK하이닉스는 HBM을 차세대 메모리로 인식하고, AI와 고성능 컴퓨팅 수요가 늘어날 것이라는 비전을 가지고 초기에 집중적인 투자를 단행함.
- 2009년에 TSV 기반의 적층 기술을 개발하기 위해 전문 팀을 구성하고, HBM 연구개발을 지속적으로 이어왔으며, 2013년 HBM을 세계 최초로 개발함.
- 이후 2021년 HBM3, 2023년 HBM3E 12단을 업계 최초로 양산해 AI와 데이터센터 주요 고객을 확보하는 데 성공함.
- 이러한 비전에는 SK하이닉스의 최고 경영진의 확고한 지원이 뒷받침되었음. SK하이닉스는 초기 수익성이나 수요가 불확실한 상황에서도 최태원 회장의 리더십 하에 장기적인 관점에서 HBM 개발을 강화했으며, 이를 통해 AI와 고성능 컴퓨팅에 필수적인 메모리로 자리 잡도록 했음.
E. 그렇다면 삼성전자는 HBM 개발에 왜 뒤쳐졌는가?
- 삼성전자는 초기 HBM 기술 개발에 있어 SK하이닉스와 달리 주력하지 않았음. 고성능 DRAM 메모리에 집중해 주류 그래픽 메모리 시장을 공략하는 전략을 취했음.
- 또한, HBM의 높은 생산 비용과 복잡한 기술적 요건이 당시의 수익성에 부정적 영향을 미칠 것이라는 판단하에 HBM 개발을 주요 전략으로 설정하지 않았음
- 특히, 삼성전자는 2019년 HBM 연구개발팀을 일시적으로 해체하는 결정을 내리며 HBM 개발의 우선순위를 낮추었음.
- 이러한 조직 축소와 DRAM 같은 범용 메모리에 집중하려는 전략적 선택은 이후 AI와 데이터센터의 폭발적인 성장에 따라 수요가 급증하면서 삼성의 HBM 경쟁력 약화로 이어짐.
F. 그렇다면 삼성전자는 HBM 경쟁력 회복과 위기상황 극복을 위해 무엇을 하고 있나?
- HBM 사업을 중심으로 메모리 부문에 대규모 인력을 배치하고, 조직 개편을 통해 메모리 사업 강화에 나섰음. 특히, 기존 파운드리 인력을 HBM과 DRAM 개발 부서로 재배치해 HBM 생산과 기술 개발을 가속화하고 있으며, 이를통해 HBM 생산 능력을 전년 대비 2배 이상 확대해 주요 고객사 수요에 대응할 계획임.
- 차세대 제품인 HBM4는 기존보다 더 높은 대역폭과 용량을 요구하기 때문에 고객사 요구에 맞춘 맞춤형 제품 개발이 필수적임. 이를 위해 삼성전자는 경쟁사인 TSMC와 협력을 검토 중이며, 기술 난도가 높은 패키징 공정을 TSMC와 분담하는 방식을 통해 성능을 극대화하고 비용 절감을 도모하고 있음.
- 엔비디아의 품질 인증을 조속히 완료하기 위해 HBM3E 12단 제품 양산을 목표로 기술 검증과 품질 개선에 집중하고 있음.