AI 반도체 수요, 데이터센터와 온디바이스는 무엇이 다른가

여행 짐을 꾸리는 방식은 크게 두 가지입니다. 큰 허브 공항에 모여 환승하며 멀리 떠나는 여행이 있고, 가방 하나를 메고 동네 가까이를 가볍게 돌아다니는 여행이 있죠. 두 여행에 필요한 준비물은 서로 꽤 다릅니다.

AI 연산도 이와 비슷하게 큰 데이터센터에서 처리되는 것과 내 스마트폰이나 노트북 안에서 처리되는 것으로 나뉩니다. 그리고 이 두 방식이 만들어 내는 AI 반도체 수요는 어떤 칩이, 누구의 결정으로, 어떤 박자로 늘어나는지가 서로 다릅니다.

이 글은 수요의 구조를 이해하기 위한 설명이며, 특정 기업이나 종목의 매수·매도를 권하는 투자 조언이 아닙니다. 본문에 나오는 숫자 예시는 모두 가상의 값입니다.

AI 반도체 수요를 둘로 나눠 봐야 하는 이유

뉴스에서는 “AI 때문에 반도체 수요가 늘었다”는 문장이 하나로 쓰이지만, 그 안에는 연산이 일어나는 장소가 다른 두 흐름이 섞여 있습니다. 장소가 다르면 쓰이는 칩의 종류와 제약 조건, 수요를 결정하는 주체가 달라집니다.

AI 연산은 먼저 학습(Training)과 추론(Inference)으로 나뉩니다. 학습은 모델에 방대한 데이터를 반복해서 보여 주며 성능을 다듬는 과정이라 대규모 데이터센터에서 이루어지는 것이 일반적입니다. 추론은 이미 만든 모델로 답을 내는 과정이어서 데이터센터에서도, 기기 안에서도 일어납니다.

여기서 허브 공항 비유가 한 가지 놓치는 점이 있습니다. 실제로는 두 방식이 서로를 밀어내는 경쟁 관계가 아니라, 가벼운 요청은 기기가 처리하고 무거운 요청은 데이터센터로 넘기는 식으로 이어져 쓰이는 경우가 많다는 점입니다.

데이터센터 AI가 만드는 수요

연산 칩과 메모리가 한꺼번에 늘어난다

데이터센터에서 AI를 돌리려면 병렬 연산에 강한 GPU 같은 가속기가 가장 먼저 필요합니다. 그런데 가속기만으로는 성능이 나오지 않습니다. 연산 장치가 기다리지 않도록 데이터를 빠르게 공급해 주는 고대역폭 메모리(HBM)와 서버용 DRAM이 함께 필요하죠.

학습용 데이터와 모델을 저장하는 SSD, 서버끼리 데이터를 주고받는 고속 네트워크 칩, 이 모든 장비에 전기를 공급하는 전력 반도체까지 수요가 번집니다. 연산 칩 하나가 늘면 주변 부품이 줄줄이 따라 늘어나는 구조입니다.

수요를 정하는 것은 소수 대형 고객의 투자 계획이다

데이터센터를 짓고 서버를 채우는 주체는 클라우드 사업자와 대형 서비스 기업처럼 수가 많지 않은 큰 고객들입니다. 그래서 이 수요는 한 번에 덩어리로 들어오고, 고객의 투자 계획이 바뀌면 크게 움직입니다.

이런 수요는 소비자가 기기를 사는 속도보다 기업의 설비 투자 사이클을 따라가는 성격이 강합니다. 투자가 몰리는 시기에는 공급이 부족해지고, 투자가 숨을 고르는 시기에는 주문이 빠르게 식을 수 있다는 뜻이죠.

온디바이스 AI가 만드는 수요

기기 안의 NPU와 메모리 용량

온디바이스 AI는 스마트폰, 노트북, 자동차처럼 사용자 가까이에 있는 기기가 서버를 거치지 않고 AI 연산을 직접 처리하는 방식입니다. 응답이 빠르고, 개인 데이터를 기기 밖으로 보내지 않아도 되며, 네트워크가 불안정해도 동작한다는 장점이 있습니다.

이 연산을 맡기 위해 기기의 메인 칩 안에는 AI 연산에 특화된 NPU(Neural Processing Unit)가 들어갑니다. 여기에 모델을 올려 둘 메모리가 충분히 있어야 하므로, 기기 한 대에 들어가는 메모리 용량 증가도 수요를 만드는 요인입니다.

수요를 정하는 것은 교체 주기와 기기 경험이다

기기 안의 AI는 배터리와 발열이라는 한계 안에서 돌아가야 합니다. 그래서 전력 효율이 좋은 칩과 저전력 메모리가 중요해지고, 서버용 칩과는 설계의 우선순위가 달라집니다.

수요를 움직이는 것도 기업의 투자보다는 소비자의 교체 주기입니다. AI 기능이 기기를 새로 살 만한 이유가 되는지, 그 기능이 쓸 만한 수준으로 체감되는지가 판매 대수와 탑재량을 함께 좌우하죠.

두 수요의 박자는 왜 다른가

데이터센터 수요는 소수 고객이 큰 금액을 한꺼번에 투자하는 구조이고, 온디바이스 수요는 수많은 소비자가 조금씩 기기를 바꾸는 구조입니다. 앞쪽은 변동이 크고 빠르며, 뒤쪽은 느리지만 규모가 넓게 퍼지는 경향이 있습니다.

온디바이스 쪽 수요는 탑재량(Content per Device)의 변화로 가늠해 볼 수 있습니다. 가상의 예를 들어, 기기 한 대의 메모리가 8GB에서 12GB로 늘고 판매 대수가 그대로라면 메모리 수요는 50% 늘어납니다. 하지만 판매 대수가 줄어드는 시기에는 이 증가가 상쇄될 수 있으니 두 변수를 함께 봐야 하죠.

AI 반도체 수요 전체로 보면 두 흐름이 만나는 지점도 있습니다. 어느 쪽이든 메모리가 전달하는 데이터 속도, 칩을 묶는 패키징 기술, 소비 전력이 성능의 병목이 되기 때문에, 이 부분의 기술 수요는 양쪽에서 함께 자극받습니다.

수요를 해석할 때 놓치기 쉬운 점

첫째, AI 모델이 더 효율적으로 바뀌는 흐름입니다. 모델을 가볍게 줄이는 기법이 발전하면 같은 일을 더 적은 연산으로 처리할 수 있어 수요를 줄일 것 같지만, 값싸진 AI가 더 많은 곳에 쓰이며 총수요를 키울 가능성도 있습니다. 어느 쪽이 더 클지는 확정해서 말하기 어렵습니다.

둘째, AI 수요가 늘면 모든 반도체가 함께 좋아진다는 생각입니다. 수요가 몰리는 칩은 일부이고, 같은 시기에도 공급 증설이 빠른 품목이나 다른 전방 시장이 약한 품목은 다르게 움직일 수 있습니다.

셋째, 수요 전망은 설비 투자와 재고 같은 공급 쪽 변수와 만나야 의미가 생깁니다. 수요 이야기만으로 한 업종의 방향을 단정하지 않는 습관이 필요합니다.

데이터센터 AI와 온디바이스 AI 비교 표

구분	데이터센터 AI	온디바이스 AI
연산이 일어나는 곳	대규모 서버와 클러스터	스마트폰, 노트북, 차량 등 기기 안
핵심 칩	GPU 등 가속기, 고대역폭 메모리, 서버용 DRAM	NPU가 들어간 메인 칩, 저전력 메모리
수요를 정하는 주체	소수 대형 고객의 설비 투자 계획	다수 소비자의 기기 교체와 선택
가장 큰 제약	전력 공급, 메모리 대역폭, 패키징 능력	배터리, 발열, 메모리 용량
수요의 박자	덩어리로 들어오며 변동이 큼	완만하게 퍼지며 교체 주기에 좌우됨

핵심 정리

AI 반도체 수요는 “허브 공항으로 몰리는 흐름”과 “각자의 가방 속으로 퍼지는 흐름”으로 나눠 읽을 때 구조가 보입니다. 데이터센터는 소수 고객의 투자 계획을 따라 연산 칩과 메모리가 함께 늘고, 온디바이스는 소비자의 교체 주기와 기기당 탑재량을 따라 서서히 퍼지죠.

두 흐름은 대체재라기보다 서로 이어지는 관계이고, 수요 전망은 공급 증설과 재고 같은 변수와 함께 볼 때만 의미를 가집니다. 이 글은 교육용 설명이며 투자 권유가 아니라는 점을 다시 밝혀 둡니다.

면접 대비 질문