LG запускает первую в Корее модель искусственного интеллекта EXAONE с открытым исходным кодом

LG AI Research объявила о выходе первой южнокорейской модели искусственного интеллекта с открытым исходным кодом под названием EXAONE 3.0. Важно отметить, что на данный момент модель поддерживает только два языка — английский и корейский. EXAONE 3.0 основана на архитектуре Transformer, фокусирующейся на декодерах, и обладает 7,8 миллиарда параметров, используя 8 триллионов токенов в процессе обучения.

По сообщениям LG, среди языковых моделей EXAONE 3.0 есть специальная версия с 7,8 миллиарда параметров, предназначенная для адаптации к пользовательским запросам, что делает ее полезной для научных исследований. Компания надеется, что запуск данной модели послужит стимулом для более глубоких исследований в сфере ИИ как внутри страны, так и за ее пределами, способствуя дальнейшему развитию экосистемы искусственного интеллекта.

По данным тестирования компании, средний балл в реальных сценариях использования, как сообщается, занимает первое место, опережая такие модели, как Llama 3.0.

В области математических расчетов и программирования EXAONE 3.0 также занимает лидирующую позицию по среднему баллу и демонстрирует выдающиеся логические способности. Кроме того, EXAONE 3.0 показал наилучшие результаты как в реальных случаях применения, так и в отдельных бенчмарках в Корее. Эта модель предполагается сокращает время вывода на 56%, потребление памяти на 35% и операционные расходы на 72% по сравнению с моделью предыдущего поколения.

Сообщается, что последняя версия модели была обучена на 60 миллионах примеров профессиональных данных, связанных с патентами, программным кодом, математическими задачами и химическими формулами. К концу года компания намерена увеличить объем обучающих данных до 100 миллионов примеров в разнообразных областях.

Чтобы снизить потребление энергии при функционировании искусственного интеллекта, эксперты LG AI Research сосредоточились на развитии технологий оптимизации и уменьшения размеров модели. Им удалось добиться значительных успехов: размер модели удалось сократить на 97%, в то время как производительность превысила результаты EXAONE 1.0.