Apple достигает прорыва в разработке искусственного интеллекта для iPhone

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Компания Apple совершила значительный прогресс в разработке технологии искусственного интеллекта, который позволит запускать большие языковые модели (Large Language Models, LLMs) непосредственно на iPhone и других устройствах Apple. Это открывает новые перспективы для усовершенствования персонализированных функций искусственного интеллекта в продуктах компании.


Главной проблемой в реализации LLMs, таких как ChatGPT, на мобильных устройствах было ограниченное количество памяти и вычислительной мощности. Новое решение Apple позволяет использовать доступный флеш-накопитель iPhone вместо ограниченного оперативного памяти. Это увеличивает возможности хранения и выполнения крупных KI-моделей до двойного размера объема памяти устройства.

Источник: www.golem.de

Для минимизации потребности в передаче данных и максимизации пропускной способности флеш-памяти, Apple применяет две новые технологии — Windowing и Row-Column Bundling. Эти инновации обеспечивают ускорение работы KI в четыре-пять раз на стандартных процессорах iPhone и в двадцать-двадцать пять раз на графических чипах.

Результаты исследований Apple предполагают разработку более продвинутых функций KI для iPhone, включая улучшенные взаимодействия с Siri, реальную машинную переводческую функцию, совершенствование в области фотографии и мониторинга здоровья. Эти функции будут адаптированы под индивидуальный контекст пользователя.

Кроме того, Apple разрабатывает собственную модель GPT под названием Ajax, которая сравнима по мощности с GPT-3. Совместно с новыми технологиями оптимизации памяти, такие модели могут быть интегрированы в будущие модели iPhone, сохраняя при этом обработку личных данных непосредственно на устройстве.