Искусственный интеллект IC «относится к интегрированной схеме, специально разработанной для эффективной работы алгоритмов искусственного интеллекта.

Проще говоря, именно «мозг» позволяет различным приложениям ИИ запускаться на аппаратном обеспечении.

В настоящее время чипы ИИ развиваются по двум основным направлениям: облачная сторона и конечная сторона

1. Чип AI на стороне облака: сосредоточение внимания на конечной производительности

В основном используется в центрах обработки данных, отвечает за обучение моделей ИИ и масштабные задачи выводов.

GPU: Благодаря мощным возможностям параллельных вычислений, представленным NVIDIA H100 и B200, в настоящее время он является де-факто стандартом для обучения ИИ.

 · ASIC: Специализированные чипы, настроенные для конкретных сценариев, таких как TPU Google и различные нейронные сетевые процессоры (NPU), которые более эффективны в выводных задачах.

Пограничное исследование: Использование чипов уровня пластинки (таких как Cerebras) для нарушения ограничений площади или использование фотонов для замены электронных вычислений, чтобы достичь чрезвычайно низких оптических чипов с задержкой.

2. Чип AI конца: преследование низкого потребления энергии и безопасности

Развертывать на конечных устройствах, таких как мобильные телефоны, наушники и автомобили, подчеркивая завершение вывода при низком энергопотреблении.

AI MCU: микроконтроллер, интегрированный с блоком ускорения ИИ, который может локально запускать обработку данных датчика или генеративный ИИ на носимых устройствах с потреблением энергии только на уровне милливатт.

 · Инновации в архитектуре: для решения узкого места "стены хранения" между чипами и памятью, промышленность активно развивает 3D-стекинг (WoW) и в технологии вычислений памяти, значительно улучшая эффективность передачи данных.