인공지능(AI) 기술이 급격하게 발전하면서 전 세계 반도체 시장의 패러다임이 완전히 뒤바뀌었습니다. 과거에는 CPU 중심의 직렬 연산이 주를 이루었다면, 거대언어모델(LLM)을 비롯한 AI 학습과 추론에는 대규모 데이터를 동시에 처리할 수 있는 고성능 GPU와 대용량 초고속 메모리의 결합이 필수적입니다. 이 거대한 기술적 요구를 충족하며 AI 반도체 시장의 핵심 게임 체인저로 떠오른 것이 바로 고대역폭 메모리, 즉 HBM(High Bandwidth Memory)입니다.
HBM은 여러 개의 DRAM을 수직으로 쌓아 올려 데이터 전송 통로(대역폭)를 획기적으로 넓힌 고성능 메모리입니다. 기존 GDDR 메모리가 평면(2D) 구조에서 데이터 전송 속도를 높이는 데 집중했다면, HBM은 3차원(3D) 적층 구조를 통해 물리적 한계를 극복했습니다. 도로로 비유하자면, 기존 메모리가 4차선 도로에서 차들의 속도를 시속 200km로 올리려 애썼던 것과 달리, HBM은 아예 1,024차선 수준의 거대한 초고속 고가도로를 건설한 것과 같습니다. 이 혁신적인 메모리가 어떻게 만들어지고, 어떤 기업들이 이 거대한 생태계를 지탱하고 있는지 구체적으로 살펴보겠습니다.
HBM 핵심 제조 공정: 적층과 패키징의 미학
HBM의 성능을 결정짓는 가장 핵심적인 요소는 결국 ‘얼마나 얇고 균일하게 DRAM을 쌓고, 이들을 어떻게 미세하게 연결하느냐’에 달려 있습니다. 이를 구현하기 위해 일반 DRAM 제조와는 완전히 차별화된 고도의 패키징 공정이 요구됩니다.
TSV (통해 전극, Through Silicon Via) 공정
HBM 제조의 출발점이자 가장 난이도가 높은 기술은 바로 TSV입니다. 기존 DRAM은 와이어(선)를 이용해 칩 외부로 신호를 전달했지만, HBM은 칩 두께를 마이크로미터(㎛) 단위로 얇게 간 뒤 머리카락 10분의 1 크기보다 미세한 수천 개의 미세한 구멍을 뚫습니다. 그리고 이 구멍 내부를 전도성이 높은 구리(Cu) 등의 금속물질로 채워 넣어 상하 칩 간의 데이터 통로를 직접 만듭니다. 이 공정을 통해 신호 전달 경로가 극적으로 단축되어 소비 전력은 낮아지고 데이터 전송 속도는 압도적으로 빨라집니다.
MR-MUF vs TC-NCF: 본딩 기술의 주도권 경쟁
칩을 쌓아 올린 후 이들을 단단하게 물리적, 전기적으로 결합하는 ‘본딩(Bonding)’ 기술은 HBM 제조의 수율을 결정짓는 핵심 분수령입니다. 현재 글로벌 반도체 거인들은 서로 다른 방식을 채택하여 치열하게 경쟁하고 있습니다.
- MR-MUF (Mass Reflow Molded Underfill): 반도체 칩을 쌓아 올린 후 액체 형태의 보호재를 흘려 넣어 칩 사이의 빈 공간을 한 번에 채우고 굳히는 방식입니다. 열 방출 특성이 매우 뛰어나고 공정 속도가 빨라 생산성이 극대화된다는 장점이 있습니다. SK하이닉스가 이 방식을 선제적으로 도입하여 초기 HBM3 및 HBM3E 시장의 주도권을 쥐는 데 결정적인 역할을 했습니다.
- TC-NCF (Thermal Compression Non-Conductive Film): 칩과 칩 사이에 필름 형태의 비전도성 접착제를 필름 형태로 끼워 넣은 뒤, 열과 압력을 가해 고정하는 방식입니다. 칩의 휨 현상(Warpage)을 제어하는 데 유리하며, 적층 수가 12단, 16단 이상으로 높아질 때 두께 한계를 극복하기 위해 지속적으로 개량되고 있습니다. 삼성전자가 전통적으로 강세를 보여온 방식입니다.
현업에서 제가 직접 대형 팹(Fab)의 수율 개선 프로젝트에 참여했을 당시, 본딩 공정에서의 미세한 온도 편차나 압력 불균형이 전체 수율을 한 자릿수대로 떨어뜨리는 악몽 같은 순간들을 자주 목격하곤 했습니다. 미세한 두께의 칩들이 아주 미세한 열팽창 계수 차이로 인해 휘어지거나 단자가 어긋나는 현상을 극복하는 것이야말로 HBM 제조의 진정한 진입장벽이자 제조사들의 핵심 영업비밀입니다.
글로벌 HBM 밸류체인 분석
HBM은 단순히 메모리 제조사 혼자서 만들 수 있는 제품이 아닙니다. 장비, 소재, 후공정(OSAT)에 이르기까지 고도로 정밀하게 얽혀 있는 에코시스템이 존재합니다. 이 밸류체인의 핵심 플레이어들을 분석해 보겠습니다.
1. 글로벌 메모리 3사 (IDM)
최종 HBM 제품을 설계하고 생산하여 엔비디아(Nvidia)나 AMD 같은 AI GPU 설계 기업에 납품하는 최상위 포식자들입니다.
- SK하이닉스: 뛰어난 MR-MUF 기술력을 바탕으로 시장에 가장 먼저 안정적인 고성능 HBM 공급체계를 안착시켰으며, 엔비디아의 핵심 파트너로 입지를 굳혔습니다.
- 삼성전자: 막강한 자금력과 세계 최고 수준의 메모리 미세공정 역량을 보유하고 있으며, 12단 및 16단 초고적층 HBM 시장을 겨냥해 차세대 패키징 라인을 대거 확충하고 있습니다.
- 마이크론: 후발주자로 출발했으나 10나노급 5세대(1b) DRAM 기술력을 바탕으로 고효율 HBM3E 공급망에 전격 진입하며 업계를 빠르게 추격하고 있습니다.
2. 핵심 전공정 및 후공정 장비 기업
HBM의 독특한 구조 덕분에 기존 메모리 공정에서는 주목받지 못했던 장비 기업들이 밸류체인의 핵심 주역으로 우뚝 섰습니다.
- 한미반도체: HBM 칩 적층의 핵심 장비인 ‘듀얼 TC 본더’ 분야에서 독점적인 기술력을 자랑합니다. 개별 칩을 정밀하게 정렬하고 열압착하는 속도와 정확도 면에서 글로벌 표준으로 자리 잡았습니다.
- 디스코 (Disco): 수직으로 높게 쌓기 위해 DRAM 웨이퍼를 극도로 얇게 깎아내는 ‘그라인딩(Grinding)’ 분야에서 독보적인 글로벌 점유율을 차지하고 있습니다.
- ASML 및 글로벌 노광기 제조사: TSV 전극 패턴을 미세하게 형성하기 위해 최첨단 노광 장비의 중요성 역시 날이 갈수록 커지고 있습니다.
3. 첨단 패키징 소재 기업
HBM의 신뢰성과 열 방출 효율을 결정짓는 첨단 소재 부문 역시 밸류체인의 핵심 축입니다.
- 이엔에프테크놀로지, 동진쎄미켐 등: TSV 공정 전후에 실리콘 잔여물과 이물질을 정밀하게 씻어내는 초고순도 세정액 및 식각액을 공급합니다.
- 레조낙 (Resonac, 구 쇼와덴코): 패키징에 필요한 비전도성 필름(NCF) 등 고기능성 화학 소재 분야에서 강력한 원천 기술을 확보하고 있어 전 세계 주요 IDM 사들과 긴밀히 협력 중입니다.
차세대 HBM4와 커스텀 반도체의 미래
HBM의 진화 속도는 상상을 초월합니다. 현재 주력인 5세대 HBM3E를 넘어, 앞으로 다가올 6세대 HBM4부터는 완전히 새로운 패러다임이 시작될 예정입니다. 가장 큰 변화는 HBM의 가장 밑단에서 시스템 반도체(GPU 등)와 데이터를 중개하는 ‘베이스 다이(Base Die/수동 다이)’의 공정 변화입니다.
기존에는 베이스 다이 역시 메모리 공정으로 제조되었으나, HBM4부터는 전력 효율 극대화와 신호 속도 개선을 위해 TSMC나 삼성전자의 첨단 파운드리 초미세 공정(4나노 또는 5나노)을 활용해 제작됩니다. 이는 HBM이 단순한 범용 메모리가 아니라 고객사의 GPU 설계 설계 단계부터 긴밀히 협업하여 맞춤형으로 제작되는 ‘커스텀(Custom) 반도체’ 영역으로 완전히 진입함을 의미합니다.
결과적으로 향후 AI 반도체 시장의 승자는 단순히 메모리를 잘 만드는 기업이 아니라, 글로벌 파운드리 1위인 TSMC를 비롯한 전 세계 디자인하우스, 첨단 패키징 생태계와 얼마나 강력한 유기적 연합전선을 구축하느냐에 따라 갈릴 것입니다. AI 반도체 투자와 비즈니스 분석에 관심이 있다면 이러한 생태계 전반의 유기적인 변화 흐름을 끊임없이 관찰해야 합니다.