Коллектив исследователей из Стэнфордского университета, Университета Карнеги — Меллон, Университета Пенсильвании и Массачусетского технологического института представил первый монолитный трёхмерный чип для задач искусственного интеллекта, произведённый в условиях коммерческого производства. Устройство было изготовлено на американской полупроводниковой фабрике SkyWater Technology.

Ключевая особенность чипа заключается в монолитной архитектуре. Слои памяти и вычислительные блоки выращиваются друг на друге в едином технологическом процессе при температуре около 415 градусов Цельсия, не повреждая нижележащие элементы, а не собираются из готовых кристаллов. Такой подход решает проблему «стены памяти», характерную для традиционных плоских чипов, где вычислительные модули простаивают из-за задержек при передаче данных от удалённой памяти.

Новая архитектура позволяет создать плотную сеть вертикальных соединений между слоями, что резко сокращает расстояние, на которое необходимо перемещать данные. Это приводит к снижению задержек и энергопотребления. В чипе используется гибридная структура, сочетающая кремниевую логику, резистивную память и транзисторы на углеродных нанотрубках.

Производство было запущено на техпроцессе 90-130 нанометров, что существенно больше, чем у современных передовых графических процессоров, выполненных по 4-5-нанометровым нормам. Поэтому прямое сравнение с ними пока невозможно. Однако при равных технологических нормах экспериментальный 3D-чип показал четырёхкратный прирост производительности в аппаратных тестах по сравнению с его двухмерным аналогом. Моделирование архитектуры с большим количеством слоёв прогнозирует увеличение скорости обработки задач для моделей искусственного интеллекта, таких как LLaMA, до двенадцати раз.

Основным достижением работы исследователи считают не рекордную производительность, а факт коммерческого изготовления чипа, что доказывает практическую реализуемость технологии. Следующей задачей является масштабирование архитектуры до более тонких техпроцессов для достижения конкурентоспособности с современными серийными решениями.