트렌드포스는 올해 고대역폭 메모리(HBM)의 연간 비트 출하량이 105% 증가할 것으로 예상합니다. 이러한 증가는 AI 및 고성능 컴퓨팅 프로세서 개발자, 특히 Nvidia와 클라우드 서비스 제공업체(CSP)의 급증하는 수요에 대응하기 위한 것입니다. 수요를 충족하기 위해 마이크론, 삼성, SK하이닉스는 HBM 생산 능력을 늘리고 있지만, 새로운 생산 라인은 2022년 2분기에나 가동을 시작할 것으로 알려졌습니다.
더 많은 HBM이 필요합니다
메모리 제조업체들은 2022년에 DRAM 시장에서는 드물게 HBM의 수요와 공급을 어느 정도 맞출 수 있었습니다. 그러나 2023년 AI 서버에 대한 전례 없는 수요 급증으로 인해 적절한 프로세서 개발업체(특히 엔비디아)와 CSP는 HBM2E 및 HBM3 메모리를 추가로 주문해야 했습니다. 이로 인해 DRAM 제조업체는 가용 용량을 모두 사용하고 향후 HBM2E, HBM3 및 HBM3E 메모리 수요를 충족하기 위해 HBM 생산 라인을 확장하기 위한 추가 툴을 주문하기 시작했습니다.
그러나 이러한 HBM 수요를 충족하는 것은 간단한 일이 아닙니다. 트렌드포스에 따르면, DRAM 제조업체는 클린룸에서 더 많은 DRAM 장치를 만드는 것 외에도 이러한 메모리 장치를 복잡한 8-Hi 또는 12-Hi 스택으로 조립해야 하는데, 여기에는 TSV 생산 도구가 충분하지 않아 병목 현상이 발생하는 것으로 보입니다. 주요 DRAM 생산업체들은 충분한 양의 HBM2, HBM2E, HBM3 메모리를 생산하기 위해 새로운 장비를 조달해야 하는데, 이 장비를 제작하여 팹에 설치하는 데 9~12개월이 걸립니다. 따라서 2024년 2분기경에는 HBM 생산량이 크게 증가할 것으로 예상된다고 분석가들은 주장합니다.
트렌드포스 분석가들이 주목할 만한 트렌드로 꼽은 것은 HBM2e(AMD의 Instinct MI210/MI250/MI250X, 인텔의 사파이어 래피즈 HBM, 폰테 베키오(Ponte Vecchio), 및 엔비디아의 H100/H800 카드에 사용됨)에서 HBM3(엔비디아의 H100 SXM 및 GH200 슈퍼컴퓨터 플랫폼과 AMD의 향후 출시될 Instinct MI300 시리즈 APU 및 GPU에 통합됨)로 확장되었습니다. 트렌드포스는 2023년에 출하되는 모든 HBM 메모리의 50%를 HBM3가 차지하고, 39%는 HBM2E가 차지할 것으로 예상합니다. 2024년에는 HBM3가 전체 HBM 출하량의 60%를 차지할 것으로 예상됩니다. 이러한 수요 증가와 더 높은 가격대가 결합되면 가까운 미래에 HBM 수익이 증가할 것으로 예상됩니다.
바로 어제, 엔비디아는 HBM3 대신 HBM3E 메모리를 사용하는 AI 및 HPC용 GH200 그레이스 호퍼 플랫폼의 새로운 버전을 출시했습니다. 72코어 그레이스 CPU와 GH100 컴퓨팅 GPU로 구성된 새로운 플랫폼은 GPU의 메모리 대역폭이 더 높아졌으며, 기존 GH200의 경우 96GB의 HBM3에서 144GB의 HBM3E 메모리를 탑재하고 있습니다. 2024년 상반기에 HBM3E의 유일한 공급업체가 될 마이크론은 AI를 위한 엔비디아의 제품에 대한 엄청난 수요를 고려할 때, 새로 출시되는 HBM3E 기반 하드웨어로부터 상당한 혜택을 받을 가능성이 높습니다.
HBM은 점점 더 저렴해지고 있습니다.
트렌드포스는 또한 HBM 제품 ASP가 매년 지속적으로 하락하고 있다고 지적했습니다. 이 시장 추적업체에 따르면, 구형 HBM 모델에 대한 관심을 활성화하고 수요 감소를 상쇄하기 위해 2023년에 HBM2e와 HBM2의 가격이 인하될 예정입니다. 2024년 가격은 아직 미정이지만, HBM 생산량 증가와 제조업체의 성장 열망으로 인해 HBM2 및 HBM2e의 추가 인하가 예상됩니다.
반면, HBM3 가격은 현재 SK하이닉스에서 독점적으로 공급하고 있고 삼성이 이를 따라잡기까지 시간이 걸릴 것으로 예상되기 때문에 안정적으로 유지될 것으로 예상됩니다. 트렌드포스에 따르면 HBM2e 및 HBM2에 비해 높은 가격을 고려할 때, HBM3는 2024년까지 HBM 매출을 전년 대비 127% 증가한 89억 달러로 끌어올릴 수 있을 것으로 예상됩니다.
선두를 달리는 SK하이닉스
SK하이닉스는 2022년 HBM 메모리 시장의 50%를 점유했고, 삼성이 40%, 마이크론이 10%의 점유율로 그 뒤를 이었습니다. 2023년과 2024년 사이에는 삼성과 SK하이닉스가 약 95%에 달하는 거의 동일한 지분을 보유하면서 시장을 계속 장악할 것으로 트렌드포스는 예상했다. 반면 마이크론의 시장 점유율은 3%에서 6% 사이를 맴돌 것으로 예상됩니다.
한편, (현재로서는) SK하이닉스가 경쟁사보다 우위에 있는 것으로 보입니다. SK하이닉스는 HBM3의 주요 생산업체로, 엔비디아의 H100 및 GH200 제품에 메모리를 공급하는 유일한 회사입니다. 이에 비해 삼성은 다른 칩 제조업체와 CSP에 공급하는 HBM2E를 주로 생산하고 있으며, HBM3 생산을 준비하고 있습니다. 로드맵에 HBM3가 없는 마이크론은 HBM2E(인텔이 사파이어 래피즈 HBM CPU에 사용하는 것으로 알려짐)를 생산하고 있으며, 2024년 상반기에 HBM3E 생산량을 늘릴 준비를 하고 있어 2024년 하반기에야 HBM3E를 생산할 것으로 예상되는 경쟁사보다 상당한 경쟁 우위를 확보할 수 있을 것으로 보입니다.