Этот процессор для ИИ потребляет менее 1 милливатта энергии. Представлен BrainChip Akida Pico

Компания BrainChip представила сверхмаломощный нейронный процессор (NPU) Akida Pico, потребление которого составляет менее 1 милливатта!

Данный NPU можно использовать в качестве ускорителя ИИ для очень компактных интеллектуальных устройств с питанием от батареи. К примеру, слуховых аппаратов, наушников с шумоподавлением и различного медицинского оборудования. Akida Pico NPU можно реализовать как автономный чип или включить в другие чипы.

Akida Pico — это NPU, который содержит всего лишь 150 000 транзисторов и не содержит собственной памяти. Чип объединяет матрицу шины NPU, DMA и AXI для подключения к другим частям процессора или микроконтроллера.

Что интересно, производится чип на мощностях GlobalFoundries по техпроцессу 22FDX (22 нм, FD SOI), и при этом он потребляет невероятно мало.

Если точнее, Akida Pico NPU потребляет менее 1 милливатта при площади кристалла всего 0,12 мм2. Если добавить чипу 50 КБ памяти SRAM, что возможно, размер кристалла увеличивается до 0,18 мм2. Также важно, что компания заявляет, что ядро может быть синтезировано для любого производственного узла, включая недорогие узлы TSMC класса 12 нм и сверхвысокопроизводительные технологические процессы класса 3 нм, если это необходимо. В последнем случае потребление, видимо, будет в разы ниже.

О производительности компания напрямую не говорит, но понятно, что показатели должны быть крайне скромными.

12 комментариев

Есть подозрение, что ты менее энергоэффективен

Ответить

Есть подозрение

Если вы к этому подозрению долго шли, то вы более энергоэффективны

Это только в том случае, если за все это время ниразу не кушал.

Возникло подозрение, что у всех вас троих энергоэффективность бессмысленна

Четвертым будешь)

Почему-то в нормальной статье https://www.tomshardware.com/tech-industry/artificial-intelligence/brainchip-unveils-an-ai-npu-that-consumes-less-than-a-milliwatt были графики и таблицы, а в варианте тов. MPAK оказалась картинка, нарисованная ИИ.
Коротко из презентации: звук семплируется на 16 кГц, длина кадра данных 2 мс;
потребление 0.3 мВт @ 300 МГц при распознавании голосовых команд, размер модели 46к;
потребление 3.2 мВт @ 400 МГц при очистке звукового ряда от шумов, размер модели 470к.
В новости по ссылке с сайта разработчика было: «BrainChip has created <1mW neural processing core intellectual property for speech, audio and vital signs analysis», «described as event-based co-processor» https://www.electronicsweekly.com/market-sectors/internet-of-things/849170-2024-10/
В целом IP блок (а не микросхема) любопытен малыми размером и потреблением.

Тупое распознавание текста без контекста не работает, т.к. при разговоре множество слов и фраз даже люди слышат одинаково звучащими, но имеющими разный смысл, но мозг правильно определяет именно по контексту: бал — балл, порок — порог, подлецом — под лицом, задело — за дело, мы женаты — мы же на ты. Т.е. этот «мини ускоритель» надо все равно обвязывать процессором для логики и огромной памятью для языковой модели, а т.к. памяти все равно надо много и питание ей тоже надо, то нет смысла в процессоре 0.2 мм и 3 мВт, т.к. память только будет потреблять в сотни-тысячи раз больше и питание будет подгоняться под неё. Такие размеры реально актуальны когда весь SoC будет 1 мм.кв и 3 мВт общего потребления, с полностью законченной функциональностью, вот тогда будет Вау. А так поделка студентов, сейчас чипом на 150 тыс транзисторов никого не удивишь, тем более там нет какой то сложной логики, а куча простейших матриц, которые масштабируются от 10-ти к 10000 простым копированием, но при этом и размеры почему то сразу возрастают, появляются проблемы с диспетчеризацией задач, порядком получения результатов, т.е. нужен аппаратный шедулер и т.д. и КПД всей схемы падает с 99% до 50% и т.д. В этом и заключается сложность больших чипов, а не просто разместить пару матриц NPU и отдать всю логику управления этими матрицами на откуп стороннему процессору и обозвать самым миниатюрным ИИ ускорителем, это нафиг никому не надо.

Это же включатель ОК-Гугл. Его суть в том, чтобы постоянно слушать единственную фразу. Желательно с минимальным энергопотреблением. А вот когда он включится, там уже помощнее процессор подключится

Из контекста статьи вообще посчитал, что это DSP, например, для решений с длительной поддержкой.

Возможно ли использование для блютуз наушников при шумоподавлении?

Вангую ценник будет в 100 раз выше чем у аналога при такой же производительности. Все это очередная коммерция, а не действительно медицинская помощь. Нажива на людях с инвалидностью

Этот процессор для ИИ потребляет менее 1 милливатта энергии. Представлен BrainChip Akida Pico

Там всего 150 000 транзисторов

12 комментариев

Добавить комментарий

Добавить комментарий

Все новости за сегодня

Календарь