Представлен новый чип, ускоряющий работу нейросетей при низком энергопотреблении

Исследователи из Принстонского университета создали новый чип, который ускоряет работу нейросетей, при сокращении энергопотребления. Чипы могут помочь перенести расширенные приложения на удаленные устройства, такие как автомобили и смартфоны. Усовершенствованная модель нового чипа была представлена командой разработчиков 22 февраля на Международной виртуальной конференции по твердотельным схемам.

Отвечая на растущий спрос искусственного интеллекта на компьютерные сети, исследователи из Принстонского университета в последние годы радикально увеличили скорость и сократили потребление энергии специализированными системами ИИ. Теперь они приблизили свои инновации к повсеместному использованию, создав совместно разработанное оборудование и программное обеспечение, которые позволят дизайнерам интегрировать эти новые типы систем в свои приложения.

«Программное обеспечение является важной частью создания нового оборудования», - сказал Навин Верма, профессор электротехники и компьютерной инженерии в Принстоне и руководитель исследовательской группы. «Есть надежда, что разработчики смогут использовать одну и ту же программную систему и заставят работать ее в десять раз быстрее или эффективнее».

За счет сокращения энергопотребления и необходимости обмена данными с удаленными серверами системы, созданные с использованием технологии Princeton, смогут довести приложения искусственного интеллекта, такие как программное обеспечение для пилотирования дронов или продвинутые языковые переводчики, до самого высокого порога вычислительной инфраструктуры.

«Чтобы сделать ИИ доступным для всех окружающих нас процессов в реальном времени и зачастую для личных нужд, нам необходимо решить проблему задержки и конфиденциальности, переместив само вычисление на периферию», - сказал Верма.

Два года назад исследовательская группа из Принстона изготовила новый чип, предназначенный для повышения производительности нейронных сетей, которые составляют основу современного искусственного интеллекта. Чип, который работал в десятки или сотни раз лучше, чем другие передовые микрочипы, ознаменовал революционный подход в нескольких отношениях. Фактически, этот чип настолько отличался от всего, что используется для нейронных сетей, что стало проблемой для разработчиков.

Новый чип основан на аналоговых вычислениях, в которых используются схемы для имитации решаемых уравнений, а не для генерации единиц и нулей, как в цифровом компьютере.

В течение следующих двух лет исследователи работали над усовершенствованием чипа и созданием программной системы, которая позволила бы системам искусственного интеллекта использовать преимущества скорости и эффективности нового чипа. «Он программируется во всех сетях», - сказал Верма. «Сети могут быть очень большими, а могут быть очень маленькими».

Искусственный интеллект, который позволяет машинам имитировать когнитивные функции, такие как обучение и суждение, играет решающую роль в новых технологиях, таких как распознавание изображений, перевод и беспилотные автомобили. В идеале вычисления для таких технологий, как навигация с помощью дронов, должны размещаться на самом дроне, а не на удаленном сетевом компьютере. Но требования к мощности цифровых микрочипов и потребности в памяти могут затруднить проектирование такой системы. Как правило, решение размещает большую часть вычислений и памяти на удаленном сервере, который обменивается данными с дроном по беспроводной сети. Но это увеличивает требования к системе связи и вызывает проблемы с безопасностью и задержки при отправке инструкций на дрон.

Чтобы подойти к проблеме, исследователи из Принстона переосмыслили вычисления несколькими способами. Во-первых, они разработали микросхему, которая выполняет вычисления и хранит данные в одном месте. Этот метод, называемый вычислением в памяти, сокращает энергию и время, используемые для обмена информацией с выделенной памятью. Он повышает эффективность, но создает новые проблемы: поскольку объединяет две функции в небольшую область. Вычисления в памяти полагаются на аналоговые операции, которые чувствительны к искажениям из-за таких источников, как колебания напряжения и скачки температуры. Чтобы решить эту проблему, команда Princeton разработала свои чипы с использованием конденсаторов, а не транзисторов.

Однако, даже после того, как аналоговая работа стала надежной, многие проблемы остались. Аналоговое ядро необходимо было эффективно интегрировать в преимущественно цифровую архитектуру, чтобы его можно было объединить с другими функциями и программным обеспечением, необходимыми для реальной работы практических систем.

«Идея состоит не в том, чтобы помещать всю сеть в вычисления в оперативной памяти», - говорит Верма. «Необходимо интегрировать саму возможность делать все остальное и делать это программируемым образом».

По материалам: Techxplore