[반도체] GPU 너머의 칩

2026년 현재 GPU·HBM 덕분에 AI기술이 눈부시게 발전하고 있지만, 막대한 전력소비는 개선해야 할 문제로 남아 있다. 생성형AI 기능을 수행하기 위해 3가지 처리장치(CPU·GPU·NPU) 성능이 크게 향상된 SoC(System on Chip)이 요구되기 때문에, 갈수록 초저나노 공정으로 생산된 SoC의 채택비중이 더 커질 것이다.

 

GPU는 원래 그래픽 연산(게임, 3D 렌더링, 영상)을 위해 설계되었는데, 수천개 이상의 작은 코어(ALU)로 병렬처리된다. 대규모 행렬곱셈을 병렬(동시)로 처리하다보니, 딥러닝 속도가 CPU보다 10~100배 빠르고 고성능 컴퓨팅(HPC, High-Performance Computing)에서 최고의 성능을 보이고 있다. 현 시점 절대강자인 GPU도 전력소모·발열이 크다는 단점이 있는데, 이를 해결하기 위해 ASIC이 부상 중이다. 특화반도체(ASIC, Application-Specific Integrated Circuit)은 특화작업에 최적화되어 설계된 반도체이다. ASIC은 범용칩(GPU/CPU)보다 에너지 효율·성능이 훨씬 좋으며, TPU·뉴럴링크칩 등이 대표적이다. 초기 개발비가 매우 큰 편이지만, 대량생산시에는 생산단가를 낮출 수 있다.

 

하이퍼스케일러(Hyperscaler)는 대규모 데이터센터 인프라를 보유하고 클라우드 컴퓨팅 서비스를 제공하는 초대형 기술기업으로, 대규모 언어모델을 개발하는 AI연구·개발기업은 하이퍼스케일러의 인프라를 활용한다. 하이퍼스케일러은 자체 NPU에 맞는 베이스 다이를 설계하려는 경향이 있는데, 이는 메모리산업이 단순 제조업에서 고객맞춤형 서비스업으로 전환 중임을 의미한다. TPU(Tensor Processing Unit)는 구글이 만든 딥러닝 전용 머신으로, 행렬연산만을 위해 설계함으로써 전력효율이 상대적으로 좋다. 구글 클라우드 중심의 칩이라서 범용성이 떨어진다. 뉴럴링크칩은 두뇌이식용 신경 인터페이스 칩으로, 2026년 6월 삼성전자가 뉴럴링크 4세대 칩을 수주함으로써, 테슬라(로봇·자율주행차) 협력에 이어 머스크 AI 생태계과의 밀착을 엿볼 수 있었다.

 

신경망처리장치(NPU, Neural Processing Unit)는 인공신경망(딥러닝)을 효율적으로 처리하기 위해 설계된 온디바이스 AI 가속기로, 특정연산(추론)에 집중된 구조로 전력소모를 최소화할 수 있다. 특정작업을 인터넷 없이 기기(스마트폰·노트북·PC·자동차·카메라 등) 내에서 처리가 가능하기에, 기기 내 AI탑재가 추세화되면서 NPU 수요가 폭증하고 있다. 다만 대규무 모델훈련이 어렵고, 파편화된 생태계가 단점이다. TPU는 기능 측면에서는 NPU의 일종이면서, 설계·제조 측면에서는 ASIC으로 분류할 수 있다. 달리 말해 ASIC 기반의 TPU라 할 수 있다.

 

뉴로모픽(neuromorphic) 칩은 뇌신경 구조(뉴런·시냅스)를 하드웨어적으로 모방한 차세대 반도체로, 이벤트가 있을 때만 동작하는 방식이라 전력효율이 압도적으로 높다. 사람이 기억하는 원리처럼 신호전달의 잔상으로 데이터를 저장하며, 뉴런 내에서 복합기능을 수행해 전하이동이 크게 감소한다. 인공신경망이 신경계를 소프트웨어로 모사했다면, 뉴로모픽 칩은 신경세포를 하드웨어적으로 모사했다고 볼 수 있다. 당장 GPU나 NPU처럼 상용화 가능한 기술은 아니다. 향후 실시간 센서로봇용 AI 분야에서 잠재력이 높다.