Intel разрабатывает крупнейшую в мире нейроморфную систему

Компания Intel объявила о создании крупнейшей в мире нейроморфной системы. Эта крупномасштабная нейроморфная система под кодовым названием Hala Point, первоначально развернутая в Sandia National Laboratories, использует процессор Intel Loihi 2, предназначена для поддержки исследований в области искусственного интеллекта (ИИ), основанного на использовании мозга, и решает задачи, связанные с эффективностью и устойчивостью современного ИИ. Hala Point представляет собой крупномасштабную исследовательскую систему Intel первого поколения Pohoiki Springs с усовершенствованной архитектурой, позволяющей увеличить емкость нейронов более чем в 10 раз и повысить производительность до 12 раз.

Что она делает: Hala Point - это первая крупномасштабная нейроморфная система, демонстрирующая самую современную вычислительную эффективность в основных рабочих нагрузках с использованием искусственного интеллекта. Характеристики показывают, что он может поддерживать до 20 квадриллионов операций в секунду, или 20 петаопс, с эффективностью, превышающей 15 триллионов 8-битных операций в секунду на ватт (TOPS/Вт) при использовании обычных глубоких нейронных сетей. Это сопоставимо с уровнями, достигнутыми архитектурами, построенными на графических процессорах (GPU) и центральных процессорах (CPU), и превосходит их. Уникальные возможности Hala Point в будущем могут обеспечить непрерывное обучение в режиме реального времени для таких приложений искусственного интеллекта, как решение научных и инженерных задач, логистика, управление инфраструктурой "умного города", большие языковые модели (LLM) и агенты искусственного интеллекта.

Исследователи из Национальной лаборатории Сандии планируют использовать Hala Point для передовых вычислительных исследований в масштабе мозга. Организация сосредоточится на решении научных вычислительных задач в области физики устройств, компьютерной архитектуры, компьютерных наук и информатики.

В настоящее время Hala Point представляет собой исследовательский прототип, который расширит возможности будущих коммерческих систем. Intel ожидает, что такие уроки приведут к практическим достижениям, таким как способность магистрантов постоянно учиться на новых данных. Такие достижения обещают значительно снизить непосильную нагрузку на обучение, связанную с широким внедрением искусственного интеллекта.

Последние тенденции в расширении моделей глубокого обучения до триллионов параметров выявили серьезные проблемы устойчивости ИИ и подчеркнули необходимость инноваций на самых низких уровнях аппаратной архитектуры. Нейроморфные вычисления - это принципиально новый подход, основанный на достижениях нейронауки, который объединяет память и вычисления с высокой степенью детализации параллелизма для минимизации перемещения данных. В опубликованных результатах Международной конференции по акустике, речи и обработке сигналов (ICASSP), прошедшей в этом месяце, Loihi 2 продемонстрировал значительный рост эффективности, скорости и адаптивности новых маломасштабных передовых рабочих нагрузок1.

По сравнению со своим предшественником, Pohoiki Springs, благодаря многочисленным улучшениям, Hala Point теперь обеспечивает повышение производительности и эффективности нейроморфизма в традиционных моделях глубокого обучения, особенно в тех, которые обрабатывают рабочие нагрузки в режиме реального времени, такие как видео, речь и беспроводная связь. Например, Ericsson Research применяет Loihi 2 для оптимизации эффективности телекоммуникационной инфраструктуры, о чем было заявлено на Всемирном мобильном конгрессе в этом году.

О Hala Point: Нейроморфные процессоры Loihi 2, которые составляют основу Hala Point, используют принципы вычислений, вдохновленные мозгом, такие как асинхронные нейронные сети (SNN), основанные на событиях, интегрированная память и вычисления, а также разреженные и постоянно меняющиеся соединения для достижения значительного снижения энергопотребления и производительность. Нейроны взаимодействуют друг с другом напрямую, а не через память, что снижает общее энергопотребление.

Hala Point объединяет 1152 процессора Loihi 2, произведенных на базе Intel 4 process node, в шасси для центра обработки данных с шестью стойками размером с микроволновую печь. Система поддерживает до 1,15 миллиарда нейронов и 128 миллиардов синапсов, распределенных по 140 544 нейроморфным процессорным ядрам, потребляя максимум 2600 Вт энергии. Он также включает в себя более 2300 встроенных процессоров x86 для вспомогательных вычислений.

Hala Point объединяет каналы обработки данных, памяти и связи в массивно распараллеленную структуру, обеспечивая в общей сложности пропускную способность памяти 16 петабайт в секунду (ПБ/с), межъядерную пропускную способность 3,5 ПБ/с и межкристальную пропускную способность 5 терабайт в секунду (ТБ/с).. Система способна обрабатывать более 380 триллионов 8-битных синапсов и более 240 триллионов нейронных операций в секунду.

Примененная к моделям нейронных сетей, основанным на биоинспекции, система может работать на полную мощность, составляющую 1,15 миллиарда нейронов, в 20 раз быстрее, чем человеческий мозг, и в 200 раз быстрее при меньшей производительности. Хотя Hala Point не предназначен для нейробиологического моделирования, его нейронная емкость примерно эквивалентна мощности мозга совы или коры головного мозга обезьяны-капуцина.

Системы на базе Loihi могут выполнять логический вывод с помощью искусственного интеллекта и решать задачи оптимизации, затрачивая в 100 раз меньше энергии и работая в 50 раз быстрее, чем обычные архитектуры процессоров и графических процессоров1. Первые результаты работы Hala Point показывают, что благодаря использованию разреженного подключения до 10: 1 и активности, управляемой событиями, система может достигать эффективности глубокой нейронной сети до 15 вершин / W2, не требуя пакетного сбора входных данных, что является обычной оптимизацией для графических процессоров, которая значительно задерживает обработку данных, поступающих в сеть. в режиме реального времени, например, видео с камер. Пока еще ведутся исследования, будущие нейроморфные LLM, способные к непрерывному обучению, могут привести к экономии гигаватт-часов энергии за счет устранения необходимости в периодической переподготовке с учетом постоянно растущих наборов данных.

Получить подробную информацию или проконсультироваться можно на сайте официального поставщика Intel в России.