SK, 현존 최대 용량 36GB HBM3E 12단 제품 세계 최초 양산
‘최초 개발’ 삼성보다 먼저 SK가 생산…연내 엔비디아에 납품
TSMC와의 밀월도 깊어져…차세대 ‘HBM4’도 공동 개발 나서
SK·엔비디아·TSMC 간 ‘AI 반도체 연합’에 삼성 입지 ‘위태’

SK하이닉스 36GB HBM3E 12단 제품. <사진=SK하이닉스>

‘HBM(고대역폭메모리) 1등’ SK하이닉스가 5세대 HBM인 ‘HBM3E’ 12단 제품을 세계 최초로 양산하기 시작했다는 소식에 글로벌 반도체 시장이 요동치고 있다. 앞서 지난 4월 삼성전자는 반도체 업계 최초로 HBM3E 12단 제품을 구현하는 데 성공했다고 밝힌 바 있다. 그러나 실제론 SK하이닉스가 삼성보다 먼저 HBM3E 12단 제품 생산에 돌입한 것이다.

HBM 경쟁 우위를 선점하게 된 SK는 연내 AI(인공지능) 반도체 공룡 엔비디아에 HBM3E 12단 제품을 납품하며 AI 칩 밀월 관계를 공고히 다질 전망이다. 여기에 전 세계 파운드리(반도체 위탁 생산) 시장 1위인 대만 TSMC와의 협력도 강화해 이른바 ‘AI 반도체 삼각 동맹’ 완성단계에 근접했다.

당장 AI 메모리 선두 자리를 내 준 삼성전자는 발등에 불이 떨어진 형국에 처했다. HBM 기술 경쟁에서 SK하이닉스에 뒤처지기 시작한 데 이어 SK·엔비디아·TSMC 간 연합전선 구축으로 상대적으로 불리한 상황에 놓이게 됐다.  당장, 시장에서는 삼성전자와 SK하이닉스 간 격차가 더 벌어지는 것 아니냐는 우려마저 제기되고 있다.

SK하이닉스는 현존 HBM 최대 용량인 36GB를 구현한 HBM3E 12단 제품 양산에 본격 돌입했다. 올 3월 세계 최초로 HBM3E 8단 제품을 엔비디아에 납품하며 핵심 파트너로 자리매김한 지 6개월여 만에 더욱 고도화된 HBM3E 12단 제품을 생산하게 된 것이다.

SK하이닉스 관계자는 “SK하이닉스는 2013년 세계 최초로 HBM 1세대를 출시한 데 이어 5세대까지 전 세대 라인업을 개발해 시장에 공급해 온 유일한 기업이다”며 “높아지고 있는 AI 기업들의 눈높이에 맞춘 12단 신제품도 가장 먼저 양산에 성공해 AI 메모리 시장에서 독보적인 지위를 이어가고 있다”고 강조했다.

이번 HBM3E 12단 제품은 AI 메모리에 필수적인 속도, 용량, 안정성 등 모든 부문에서 세계 최고 수준을 충족시킨 것으로 평가된다.

신제품의 동작 속도는 현존 메모리 최고 속도인 9.6Gbps로 높아졌다. 이는 이번 제품 4개를 탑재한 단일 GPU(그래픽처리장치)로 메타의 오픈 소스 LLM(거대언어모델)인 ‘라마3 70B’를 구동할 경우, 700억개의 전체 파라미터를 초당 35번 읽어낼 수 있는 수준이다.

또 신제품은 기존 8단 제품과 동일한 두께로 3GB D램 칩 12개를 적층해 용량을 50% 늘렸다. 이를 위해 D램 단품 칩을 기존보다 40% 얇게 만들고, TSV(실리콘관통전극) 기술을 활용해 수직으로 쌓았다.

얇아진 칩을 더 높이 쌓을 때 생기는 구조적 문제도 해결했다. SK는 자사 핵심 기술인 어드밴스드 MR-MUF(매스리플로우-몰디드언더필) 공정을 적용해 전 세대보다 방열 성능을 10% 높였다. 휨 현상 제어를 강화해 제품의 안정성과 신뢰성도 확보했다.

SK하이닉스는 연내 엔비디아에 HBM3E 12단 제품을 공급한다는 방침이다. 시기적으로 볼 때 SK의 HBM 신제품은 엔비디아의 차세대 AI 반도체 ‘블랙웰’에 탑재될 것으로 보인다.

지난달 28일 젠슨 황 엔비디아 CEO(최고경영자)는 “올 3월 공개한 차세대 AI 칩 블랙웰을 2025 회계연도 4분기(올 11월~내년 1월)부터 양산에 돌입한다”고 말한 바 있다.

앞서 올 3월 엔비디아는 미국 캘리포니아주 새너제이 SAP 센터에서 개발자 콘퍼런스 ‘GTC 2024’를 열고, 차세대 AI 반도체 ‘B100’과 ‘B200’을 선보였다. B100, B200은 엔비디아 호퍼 아키텍처 기반의 ‘H100’의 성능을 뛰어 넘는 차세대 AI 반도체다. 호퍼 아키텍처가 아닌 새로운 플랫폼 블랙웰을 기반으로 제조돼 H100 대비 최대 30배 뛰어난 성능을 자랑한다. 반면 에너지 소비는 25분의 1 수준에 불과하다.

주목할 점은 블랙웰에 장착될 HBM이 HBM3E 12단 제품이라는 것이다. 시장조사업체 트렌드포스에 따르면 엔비디아가 향후 선보일 블랙웰에는 8개의 HBM3E 12단 제품이 탑재될 것으로 파악됐다. 엔비디아의 차세대 AI 칩 양산 소식은 SK하이닉스에 엄청난 호재로 작용하고 있다

SK의 약진에 삼성은 쓴 웃음만 짓고 있다. SK하이닉스보다 HBM3E 12단 제품을 먼저 구현했는데도 불구하고 본격적인 양산에 돌입하지 못하고 있다.

삼성전자는 지난 4월 24Gb D램 칩을 TSV 기술로 12단까지 적층해 업계 최대 용량인 36GB HBM3E 12H를 최초 개발했다. TSV는 수천개의 미세 구멍을 뚫은 D램 칩을 수직으로 쌓아 적층된 칩 사이를 전극으로 연결하는 기술이다. 삼성은 이 기술을 기반으로 3GB 용량인 24Gb D램 12개를 수직으로 쌓아 현존 최대 용량을 구현하는 데 성공했다. 그러나 5개월가량이 지난 현재까지도 삼성전자는 HBM3E 12단 제품에 대한 엔비디아의 품질 테스트를 여전히 통과하지 못하고 있는 것으로 전해졌다.

삼성전자측은 “고객사 관련 사안은 확인해줄 수 없다”며 “주요 고객사와 테스트를 진행 중이다”고 유보적인 입장만 내놨다.

그간 HBM3E 12단 제품은 엔비디아에 공급된 사례가 없었다. 이에 삼성전자가 HBM3E 12단 제품을 조속히 양산해 엔비디아에 가장 먼저 납품할 경우, HBM 패권 다툼에서 경쟁 우위를 점할 수 있었다. 그러나 삼성은 아직까지 HBM3E 12H 품질 검증에 도달하지 못하면서, 또 한번 자존심을 구기게 됐다. 

최태원 SK그룹 회장(오른쪽)과 젠슨 황 엔비디아 CEO. <사진=최태원 SK그룹 회장 인스타그램 캡처>

SK하이닉스와 엔비디아, TSMC와의 공조가 날로 강화되고 있는 것도 삼성전자로서는 부담스런 대목이다.

SK하이닉스는 지난 25일(현지시간) 미국 캘리포니아주 산타클라라에서 개최된 ‘TSMC OIP(오픈 이노베이션 플랫폼) 에코 시스템 포럼’에 처음으로 참가해 SK의 HBM3E와 엔비디아의 H200 칩셋 보드를 함께 전시했다.

OIP는 TSMC가 반도체 생태계 기업과 기술을 개발하고 협업하기 위해 운영 중인 개방형 혁신 플랫폼이다. 반도체 설계, 생산 등 다양한 기업이 OIP에 참여하고 있다. OIP 포럼은 이들 기업이 신제품과 기술을 교류하는 자리로, TSMC는 매년 하반기 OIP 구성원과 주요 고객사를 초청해 세계 각국에서 행사를 개최한다.

이번 행사에서 SK하이닉스는 엔비디아, TSMC와의 삼각 동맹으로 성능이 검증된 첨단 제품을 소개해 방문객들의 큰 관심을 받았다. 특히 HBM3E 12단 제품과 H200을 공동으로 전시해 ‘고객사-파운드리-메모리’로 이어지는 3자 간 긴밀한 협력 관계를 뽐냈다.

또한 SK하이닉스는 TSMC와 손잡고 차세대 HBM 생산과 첨단 AVP(어드밴스드패키징) 기술 역량도 강화하고 있다. 올 4월 SK는 TSMC와 함께 기술 협력을 위한 양해각서(MOU)를 체결하고, 2026년 양산 예정인 6세대 HBM ‘HBM4’ 개발에 박차를 가하기로 했다.

이번 MOU를 계기로 양사는 HBM 패키지 내 최하단에 탑재되는 베이스 다이(base die) 성능 개선에 나선다. HBM은 베이스 다이 위에 D램 단품 칩인 코어 다이(core die)를 쌓아 올린 뒤, 이를 TSV 기술로 수직 연결해 제조한다. 베이스 다이는 GPU와 연결돼 HBM을 통제하는 역할을 수행한다.

SK하이닉스는 5세대 HBM인 HBM3E까지 자체 D램 공정으로 베이스 다이를 만들어 왔다. 그러나 HBM4부터는 TSMC가 보유한 로직 초미세 선단 공정을 활용한다는 방침이다. HBM 제조 과정에 초미세 공정을 적용하면 보다 다양한 기능을 추가할 수 있기 때문이다.

최태원 SK그룹 회장(왼쪽)과 TSMC 이사회 의장인 웨이저자 회장. <사진=SK>

SK는 성능과 전력 효율 등 고객사의 폭넓은 요구에 부합하는 맞춤형 HBM을 양산할 수 있을 것으로 기대하고 있다.

아울러 양사는 SK하이닉스의 HBM과 TSMC의 첨단 패키징 공정 ‘칩 온 웨이퍼 온 서브스트레이트(CoWoS)’ 기술 결합을 최적화하기 위해 협력한다. 또 HBM 관련 고객사 요청에 공동 대응하기로 했다.

김주선 SK하이닉스 AI인프라담당 사장은 “TSMC와의 협업을 통해 최고 성능의 HBM4를 개발하는 것은 물론 글로벌 고객들과의 개방형 협업에도 속도를 내겠다”며 “앞으로 고객 맞춤형 메모리 플랫폼 경쟁력을 높여 ‘토털 AI 메모리 프로바이더’로서 위상을 확고히 하겠다”고 말했다.

SK하이닉스·엔비디아·TSMC 간 ‘AI 반도체 삼각 동맹’이 날로 공고해지면서 향후 글로벌 AI 메모리 시장에서 삼성전자의 입지가 더 위축되는 것 아니냐는 우려가 커지고 있다. 트렌드포스에 따르면 지난해 전 세계 HBM 시장 점유율이 SK하이닉스 53%, 삼성전자 38%, 마이크론 9% 등으로 나타났다.

[CEO스코어데일리 / 오창영 기자 / dongl@ceoscore.co.kr]