Чип с совершенно новой архитектурой увеличивает производительность оборудования искусственного интеллекта в 1000 раз

Команда разработчиков ведущих американских университетов совместно с производителем полупроводников SkyWater Technology разработала новый многослойный компьютерный чип, архитектура которого может открыть новую эру «аппаратного обеспечения» искусственного интеллекта. Высокая плотность вертикальных связей и интеллектуальное сочетание памяти и вычислительных блоков помогают чипу обойти узкие места, которые долгое время сдерживали прогресс 2D-аналогов. В аппаратных тестах и ​​моделировании новый 3D-чип превосходит 2D-аналоги примерно на порядок.

Современным моделям искусственного интеллекта приходится передавать огромные объемы данных между памятью, в которой хранится информация, и вычислительными блоками, которые ее обрабатывают. В обычных 2D-чипах компоненты располагаются в одной плоскости с ограниченной распределенной памятью, поэтому передача данных осуществляется по длинным и перегруженным маршрутам. Поскольку вычислительные элементы работают гораздо быстрее, чем происходит передача данных, а также поскольку у чипа не может быть достаточно памяти поблизости, система постоянно ожидает информации. Инженеры называют эту проблему «стена памяти«-псостояние, при котором скорость обработки данных превышает способность чипа передавать данные.На протяжении десятилетий производители микросхем решали проблему стенок памяти, уменьшая размер транзисторов и увеличивая их количество на кристалле. Но потенциал этого подхода не безграничен.

Новый чип решает проблему «стены памяти», растущей вверх, пишет Stanford News.

«Благодаря вертикальной интеграции памяти и вычислений мы можем передавать гораздо больше информации гораздо быстрее, подобно тому, как шахты лифтов в высотном здании позволяют нескольким жильцам одновременно перемещаться между этажами»,

сказал Татхагата Шримани из Университета Карнеги-Меллон, один из авторов статьи.

Вместо того, чтобы изготавливать 3D-чип слой за слоем, команда создает каждый слой непосредственно поверх предыдущего в рамках одного непрерывного процесса. Этот метод позволяет расположить и соединить компоненты гораздо плотнее.

«Это открытие прокладывает путь к новой эре в производстве микросхем и инновациях», — сказал Субхасиш Митра из Стэнфордского университета, ведущий исследователь. «Подобные прорывы позволяют тысячекратно улучшить производительность оборудования, которая понадобится будущим системам искусственного интеллекта».

Первоначальные аппаратные тесты показывают, что прототип уже превосходит сопоставимые 2D-чипы примерно в четыре раза. Моделирование будущих версий — с большим количеством слоев памяти и вычислительных ресурсов — дает основание ожидать еще большего прироста производительности: до двенадцати раз для реальных задач ИИ.

По мнению исследователей, эта архитектура приводит к 100-1000-кратному улучшению энергопотребления с точки зрения задержки, ключевого показателя, который уравновешивает скорость и энергоэффективность. За счет радикального сокращения передачи данных и добавления нескольких вертикальных путей чип может обеспечить как более высокую производительность, так и более низкое энергопотребление при работе — сочетание, которое долгое время считалось недостижимым для традиционных 2D-архитектур.