HBM 베이스 다이와 코어 다이, 적층 속 역할 분담

오케스트라 공연에서 소리를 만드는 사람은 단원들이지만, 그 소리가 객석과 방송으로 나가려면 무대 앞 마이크와 음향 콘솔을 거쳐야 합니다. 악기가 아무리 훌륭해도 소리를 모아 내보내는 입구가 없으면 밖에서는 들을 수 없죠.

HBM을 열어 보면 비슷한 분업이 보입니다. 이 글의 주제인 HBM 베이스 다이는 맨 아래에서 외부와의 연결을 맡고, 그 위에 쌓인 코어 다이는 데이터를 실제로 저장하는 일을 맡습니다.

비유와 다른 점도 있습니다. 음향 콘솔은 소리를 섞고 다듬지만, 베이스 다이는 주로 신호를 정해진 채널로 주고받게 중계하는 쪽에 가깝습니다. 두 층이 어떻게 일을 나누는지 구조에서부터 보겠습니다.

HBM이 칩을 쌓는 구조의 출발점

일반적인 메모리는 보드 위에 칩을 늘어놓고 긴 배선으로 프로세서와 잇습니다. 이 방식으로 데이터 길을 넓히려면 배선과 핀이 너무 많이 필요해집니다.

HBM(High Bandwidth Memory)은 이 문제를 DRAM 칩을 수직으로 쌓고, 프로세서 바로 옆에 붙여 매우 넓은 폭의 병렬 인터페이스로 잇는 방식으로 풉니다. 쌓은 칩 묶음은 보통 스택이라고 부릅니다.

스택 안의 칩은 크게 두 종류입니다. 맨 아래의 하나가 베이스 다이이고, 그 위로 여러 장의 코어 다이가 얹힙니다. 적층 수와 세부 구성은 세대와 제품마다 다르므로 여기서는 역할 중심으로만 보겠습니다.

코어 다이, 셀을 저장하는 DRAM 층

코어 다이(Core Die)는 우리가 흔히 생각하는 DRAM 칩의 알맹이입니다. 커패시터와 트랜지스터로 이루어진 셀 어레이, 선택한 줄을 켜는 로우·컬럼 디코더, 미세한 전하 차이를 키워 읽는 센스 앰프가 이 층에 모여 있습니다.

DRAM 공정은 전하를 오래 붙잡는 셀을 만드는 데 맞춰져 있어서, 아주 빠르게 신호를 주고받는 회로를 만들기에는 최적이 아닙니다. 그래서 코어 다이는 저장이라는 본업에 집중하고, 바깥과 빠르게 통신하는 일은 다른 층에 맡기는 편이 합리적입니다.

쌓은 코어 다이들은 서로 같은 구조를 반복하는 경우가 많아서 층을 늘리기도 쉽습니다. 그만큼 기억 용량은 쌓는 장수에 따라 늘어납니다.

HBM 베이스 다이, 바깥 세계와 쌓은 층을 잇는 입구

베이스 다이(Base Die, 로직 다이라고도 부름)는 스택의 맨 아래에서 프로세서 쪽과 코어 다이 사이를 이어 주는 층입니다. 외부와 신호를 주고받는 PHY(Physical Layer, 물리 계층) 회로와 입출력 버퍼, 채널별 신호를 코어 다이로 보내는 배선 경로가 대표적인 기능입니다.

여기에 스택을 테스트하고 일부 결함을 복구하는 보조 회로가 들어가는 경우도 있습니다. 위쪽 다이는 직접 탐침을 대기 어렵기 때문에, 스택을 쌓은 뒤에는 베이스 다이를 통해 검사하는 방식이 쓰이는 것으로 알려져 있습니다.

빠른 신호를 주고받는 회로는 일반 로직 공정에서 만드는 편이 유리합니다. 세대가 올라가면서 베이스 다이가 맡는 기능이 늘어나는 경향이 있고, 일부 설계에서는 고객에 맞춘 기능을 베이스 다이에 넣는 방향도 논의됩니다.

TSV가 두 다이를 수직으로 잇는 방식

층 사이의 길은 TSV(Through-Silicon Via, 실리콘 관통 전극)가 맡습니다. 칩 두께를 수직으로 뚫고 금속을 채운 통로로, 칩마다 가장자리로 빙 둘러 갈 필요 없이 층을 곧바로 오르내릴 수 있습니다.

이 덕분에 신호가 가는 거리가 짧아지고, 많은 통로를 한꺼번에 둘 수 있습니다. 베이스 다이와 코어 다이는 TSV와 미세한 접합부로 포개져 하나의 스택처럼 행동합니다.

TSV는 칩 면적의 일부를 차지하고 공정도 까다롭기 때문에, 어느 층에 어떤 회로를 둘지는 면적과 신호 길이를 함께 따져 정하는 문제입니다. 코어 다이 모두에 외부 통신 회로를 넣는 대신 베이스 다이에 한 벌만 두는 구성이 이 계산에서 나옵니다.

역할을 나눠 만드는 이유와 흔한 오해

HBM 베이스 다이와 코어 다이로 역할을 나누면 코어 다이는 저장 밀도에, 베이스 다이는 속도와 기능에 각자 맞는 공정을 선택할 수 있습니다. 같은 모양의 코어 다이를 여러 장 쌓아도 외부 접속 규격은 베이스 다이 하나가 책임지므로 설계와 검증도 단순해집니다.

HBM은 DRAM 칩을 그냥 높이 쌓은 것이다라는 설명은 절반만 맞습니다. 쌓는 것만으로는 부족하고, 맨 아래에서 외부와 통신을 책임지는 베이스 다이와 층 사이를 잇는 TSV가 있어야 하나의 메모리로 동작합니다.

베이스 다이는 받침대에 불과하다는 생각도 오해입니다. 인터페이스와 배선 경로, 보조 회로를 품은 능동 소자 층이며, 열이 모이는 위치이기도 해서 방열 설계와도 맞물립니다.

베이스 다이와 코어 다이 비교 표

구분	베이스 다이	코어 다이
스택 안 위치	맨 아래	베이스 다이 위에 여러 장
주요 기능	외부 인터페이스(PHY), 채널 중계, 보조·테스트 회로	셀 어레이, 디코더, 센스 앰프로 데이터 저장
공정의 성격	빠른 신호 회로에 유리한 로직 쪽 공정	셀 저장에 맞춘 DRAM 공정
개수	스택당 하나	제품과 세대에 따라 달라짐
외부와의 관계	인터포저를 거쳐 프로세서와 직접 연결	베이스 다이와 TSV를 통해서만 연결
세대에 따른 경향	맡는 기능이 늘어나는 경향	저장 중심 구조를 유지
흔한 오해	받침대일 뿐이라거나 DRAM을 단순히 쌓은 것이라는 설명은 구조를 지나치게 줄여 말한 것입니다.

핵심 정리

HBM 베이스 다이는 스택의 맨 아래에서 프로세서와의 인터페이스와 채널 중계를 맡고, 코어 다이는 셀 어레이로 데이터를 저장합니다. 두 층은 TSV로 수직으로 이어져서, 외부에서 보기에는 하나의 넓은 메모리처럼 동작합니다.

음향 콘솔이 연주자의 소리를 밖으로 내보내듯 베이스 다이가 입구 역할을 해 주기 때문에, 코어 다이는 저장에 집중할 수 있습니다. 세대가 바뀌며 베이스 다이의 비중이 커지는 경향도 같은 맥락으로 이해하면 됩니다.

면접 대비 질문