SK하이닉스는 월요일 첫 번째 HBM3E 메모리 스택의 초기 개발을 완료하고 고객에 대한 메모리 샘플링을 시작했다고 발표했습니다. 이 고대역폭 메모리 기술의 업데이트(‘확장’) 버전은 내년 상반기부터 대량 출하될 예정이며, 엔비디아 등 하드웨어 업체들은 이미 이 메모리를 HPC급 컴퓨팅 제품에 탑재하기 위해 줄을 서고 있습니다.
SK하이닉스가 지난 5월 말 처음 공개한 HBM3E는 기존 HBM3보다 더 높은 클럭을 구현하도록 설계된 HBM3의 업데이트 버전으로, 구체적인 클럭 속도 목표는 제조사마다 차이가 있는 것으로 보입니다. SK하이닉스는 오늘 발표에서 HBM3E 메모리 모듈이 초당 9 GT에 달하는 데이터 전송 속도를 달성할 수 있으며, 이는 단일 메모리 스택의 최대 대역폭이 초당 1.15TB에 달한다는 의미라고 밝혔습니다.
흥미로운 점은 SK하이닉스가 차세대 메모리의 계획 용량에 대해 아직 아무것도 공개하지 않았다는 점입니다. 트렌드포스의 이전 연구에 따르면 SK하이닉스는 2024년 1분기에 24GB HBM3E 모듈을 양산하여(144GB HBM3E 메모리가 탑재된 엔비디아의 GH200과 같은 애플리케이션에 대응하기 위해) 현재의 16GB HBM3 스택보다 용량을 늘릴 것으로 예상했습니다. 이는 여전히 가능성이 있어 보이지만(특히 NV 발표와 함께), 현재로서는 아직 확정되지 않았습니다.
트렌드포스 HBM 시장 전망(출처: 트렌드포스)
한편, SK하이닉스는 HBM3E 스택에 자사의 첨단 대량 리플로우 몰드 언더필(MR-RUF) 기술을 적용하여 열 방출을 10%까지 줄일 수 있다고 밝혔습니다. 하지만 MR-RUF가 제공하는 이점은 열 감소만이 아닙니다. MR-RUF는 레이어 사이에 개선된 언더필을 사용하여 열을 개선하고 HBM 스택의 두께를 줄임으로써 8-Hi 모듈만큼만 높이의 12-Hi HBM 스택을 구성할 수 있음을 의미합니다. 물론 이것이 곧바로 12-Hi HBM3E 스택을 의미하지는 않습니다.
현재 SK하이닉스는 HBM3 메모리를 대량 생산하는 유일한 업체로, 특히 엔비디아의 H100 및 기타 제너레이티브 AI용 가속기에 대한 수요가 폭발적으로 증가함에 따라 매우 유리한 위치를 점하고 있습니다. HBM3E의 개발은 SK하이닉스가 이러한 선두를 유지하는 데 도움이 될 것이지만, 내년에 더 빠른 HBM을 제공하는 메모리 공급업체는 SK하이닉스뿐이 아닙니다. 마이크론도 지난달 이 경쟁에 뛰어들었고, 이 두 회사가 있는 상황에서 삼성도 결코 뒤처지지 않습니다. 사실, 세 회사 모두 새로운 메모리에 대한 최종 사양을 아직 발표하지 않았기 때문에 DRAM 기술 및 다양한 메모리 인터페이스 표준화를 담당하는 조직인 JEDEC을 앞지르고 있는 것으로 보입니다.