HBM…메모리를 옆으로 늘리지 않고 위로 쌓은 이유

반도체 뉴스의 빈도로 보면 올해의 단어는 단연 HBM이다. 수출 통계를 다룬 특집 기사들에서 반도체 수출액이 1년 만에 2.7배로 뛴 배경으로 반복해 지목된 것도 이 세 글자였다. 이 기사에서는 숫자를 잠시 내려놓고, HBM이 무엇이고 왜 필요한지를 바닥부터 쌓는다.

병목은 계산이 아니라 운반이다

AI 모델의 학습과 추론은 결국 거대한 행렬 곱셈의 반복이다. 이 계산을 맡는 GPU의 연산 능력은 빠르게 늘었지만, 문제는 계산할 데이터를 메모리에서 프로세서로 실어 나르는 속도가 그만큼 늘지 못했다는 데 있다. 아무리 빠른 주방장도 재료가 도착하지 않으면 놀게 된다. 이것이 AI 시대 반도체의 병목이다.

일반 D램은 메인보드 위에 평면으로 배치되어 비교적 좁은 통로로 프로세서와 데이터를 주고받는다. HBM(High Bandwidth Memory, 고대역폭 메모리)은 발상을 바꾼다. D램 칩 여러 장을 수직으로 쌓고, 쌓인 칩들을 관통하는 미세한 수직 배선(TSV, 실리콘 관통 전극)으로 연결한 뒤, 프로세서 바로 곁에 붙인다. 데이터가 오가는 통로의 폭(대역폭)이 넓어지고 이동 거리는 짧아진다.

쌓기의 대가, 왜 아무나 못 만드나

구조를 바꾼 대가는 공정 난도다. 얇게 간 칩에 수천 개의 미세 구멍을 뚫어 배선을 넣고, 여러 장을 어긋남 없이 쌓아 붙이는 일은 평면 D램에 없던 공정을 요구한다. 쌓는 단수가 늘수록 한 장의 불량이 전체를 불량으로 만들기 때문에 수율 관리가 기하급수적으로 어려워지고, 열을 빼내는 설계도 함께 풀어야 한다. 완성된 HBM을 GPU와 한 몸으로 묶는 고급 패키징 공정은 그 자체가 별도의 기술 경쟁이 됐다.

이 어려움이 곧 진입 장벽이다. HBM은 세계적으로 소수의 메모리 기업만 양산하며, 그 중심에 한국의 두 회사, SK하이닉스와 삼성전자가 있다. 반도체 수출 단가가 급등한 배경에 “같은 무게에 더 비싼 칩”이 실리기 시작했다는 사정이 있고, 그 비싼 칩의 대표가 HBM이다.

오늘의 결론

HBM은 “더 빠른 메모리”가 아니라 데이터가 오가는 길을 다시 설계한 메모리다. AI가 계산량을 폭발시키는 한 이 길에 대한 수요는 구조적이고, 그 길을 놓을 수 있는 회사가 소수라는 사실이 한국 반도체 수출의 현재를 만들고 있다. 내일 기사에서는 이 이야기가 통계에 남긴 지문, 수출 단가 곡선을 숫자로 확인한다.