인공지능 IC는 인공지능 알고리즘의 효율적인 작동을 위해 특별히 설계된 통합회로를 의미합니다.

간단히 말해서, 다양한 AI 애플리케이션이 하드웨어에서 실행되도록 하는 '뇌'입니다.

현재 AI 칩은 두 가지 주요 선을 따라 개발되고 있습니다: 클라우드 측과 엔드 측

1. 구름 측 AI 칩: 궁극적인 성능에 집중

주로 데이터 센터에 배포되며 AI 모델 교육과 대규모 추론 작업을 처리합니다.

GPU: NVIDIA H100 및 B200으로 나타난 강력한 병렬 컴퓨팅 기능으로 현재 AI 교육의 사실 표준입니다.

 · ASIC: 구글의 TPU와 다양한 신경 네트워크 프로세서 (NPU)와 같은 특정 시나리오에 맞춤형 전문 칩, 추론 작업에서 더 효율적입니다.

 · 국경 탐험: 지역 제한을 깨우기 위해 웨이퍼 레벨 칩 (Cerebras와 같은) 을 사용하거나 전자 컴퓨팅을 대체하기 위해 광자를 사용하여 매우 낮은 지연 광학 칩을 달성합니다.

2. 끝 측 AI 칩: 낮은 전력 소비 및 보안 추구

휴대 전화, 헤드폰 및 자동차와 같은 최종 장치에 배포하여 낮은 전력 소비 하에서 추론의 완료를 강조합니다.

 · AI MCU: 밀리와트 수준의 전력 소비만 가진 웨어어러블 장치에서 센서 데이터 처리 또는 생성 AI 를 로컬로 실행 할 수 있는 AI 가속 단위와 통합된 마이크로 컨트롤러.

 · 건축 혁신: 칩과 메모리 사이의 "스토리지 벽"의 병목을 해결하기 위해 업계는 3D 스택링 (WoW) 및 메모리 컴퓨팅 기술을 적극적으로 개발하고 있으며 데이터 전송 효율성을 크게 향상시키고 있습니다.