AI반도체

[현대차증권 반도체 소/부/장 박준영]
2024 AI산업 연간전망: 온디바이스 AI와 NPU시장의 개화

2024년 AI 산업, 학습용 칩에서 추론용 칩으로의 전환
한국 시간 11월 22일에 진행된 NVIDIA의 실적 발표에서 NVIDIA는 동사 데이터센터에서 최근 추론을 위한 워크로드가 학습의 워크로드를 앞질렀다는 것을 알렸다. 이후 이어지는 언급에서 대부분의 인터넷 회사들이 생성형 AI 서비스(대화형, 이미지 생성형, 동영상 생성형 등)의 출시를 본격적으로 시작하고 있으며, 소프트웨어 회사들은 AI Copilot 도입을 시작하고 있음을 언급했는데 이러한 End 서비스의 시작이 추론용 칩 시장의 개화를 본격화하고 있는 것으로 판단된다. 이에 더해 추론용 칩의 역할이 중요해지는 분야로 온디바이스 AI가 거론되고 있는데 온디바이스 AI는 우리가 흔히 사용하는 PC, 스마트폰. VR 등의 기기에 AI 칩을 탑재해 각 디바이스에서 더욱 빠른 AI 서비스를 이용할 수 있도록 하는 기술이다. 이러한 기술에는 필수적으로 NPU(Neural Processing Unit)가 탑재되어야 하며 향후 추론용 AI 칩 시장이 성장하며 NPU의 역할도 점점 더 중요해질 것으로 보인다. 이미 Microsoft, Google, Amazon, Meta 등의 메이저 CSP(Cloud Service Provider)들은 자체 추론용 NPU를 개발, 보유하고 있으며 Samabanova, Graphcore, Rebellions, Sapheon, FuriosaAI 등 국내외 여러 팹리스 업체에서도 추론용 NPU를 개발, 출시 중에 있다. 이에 따라 2024년에는 추론용 칩의 출하가 학습용 칩의 출하를 앞지를 것으로 예상된다.

딥러닝과 추론에 최적화된 칩, NPU
NPU(Neural Processing Chip)는 딥러닝에 적합한 연산들을 가속해주는 용도로 설계된 칩이기 때문에 완성도가 있는 NPU를 개별 AI서비스에 최적화하여 만든다면 학습과 추론 모두에서 GPGPU(General Purposed Graphic Processing Unit)를 앞설 수 있다. 다만 현재까지는 NPU 개발의 역사가 GPGPU 개발의 역사 대비 짧기 때문에 그러한 수준의 완성도에 도달한 NPU가 많지 않고, NPU가 발전하고 있는 과도기에 NPU를 가장 잘 대체할 수 있는 칩이 GPGPU이기 때문에 GPGPU가 널리 사용되고 있는 것이다. 특히 학습 대비 컴퓨팅 파워가 상대적으로 적게 필요한 추론의 영역으로 들어가게 되면 현재 개발된 혹은 개발되고 있는 칩으로도 GPGPU를 충분히 대체할 수 있기 때문에 추론 영역에서 더욱 NPU가 각광받고 있는 것이다. 현재 Microsoft, Google, Amazon, Meta, 삼성전자, 퀄컴, Apple 등 수많은 빅테크 및 팹리스 회사들은 이미 여러 종류의 자체 NPU를 출시한 상황이며 본인들의 데이터센터나 온디바이스에 이를 채용하고 있다. 현재는 GPGPU의 지배력이 매우 높지만 이미 고객사들이 NPU로 GPGPU를 대체할 시도를 실행하고 있는 만큼 향후 AI 산업에서 NPU의 역할은 더욱 커질 것으로 생각한다.

기업 Top Pick: 칩스앤미디어, 2024 온디바이스, NPU, 추론용 칩 시장 개화의 수혜주
동사는 AI NPU/GPU에 필요한 영상 코덱과 IP를 공급하는 기업으로서 AI 산업 중에서도 가장 성장성이 큰 분야들에서 수혜를 받을 수 있을 것으로 보인다. 2024년은 온디바이스 AI와 각종 AI 엔드 서비스 시장이 개화하며, 해당 서비스들을 구동하는 추론용 AI NPU/GPU에 관심이 집중될 것으로 예상된다. 배터리에 의지하는 에지 디바이스에서 온디바이스 AI를 구동하기 위해서는 저전력으로 추론의 지연을 줄여주는 NPU가 필수적이며, 각종 AI 엔드 서비스 구동을 위한 추론용 칩으로도 NPU의 침투가 시작될 것으로 예상된다.

*URL: https://zrr.kr/r4Jy