Google открыла доступ к ИИ LaMDA

Google начала открывать доступ к AI Test Kitchen, приложение для Android, которое позволит пользователям опробовать передовые технологии искусственного интеллекта LaMDA в демо режиме с помощью ограниченного набора команд. Этот шаг был сделан всего через несколько месяцев после того, как компания уволила Блейка Лемуана, инженера-программиста, тестировавшего LaMDA, который выступил с заявлением, что ИИ был не просто чат-ботом, а скорее разумным существом и обладал сознанием «милого ребенка».

Google осторожно подходит к этому новому публичному тестированию. Компания заявляет, что тестировала бота внутри компании более года с целью провести внутреннее стресс-тестирование системы, чтобы найти потенциально опасные или неуместные реакции. Последняя проблема оказалась причиной падения нескольких предыдущих ботов. Еще в 2016 году чат-бот Microsoft Tay, изучая разговоры пользователей в интернете, вскоре сам начал выражать расистские оскорбления. А совсем недавно Meta^* открыла публике свой собственный Blender Bot 3. Чудом тот еще не превратился в яростного расиста, хотя сильно раздражал пользователей, пытаясь убедить их в том, что он абсолютно не расистский.

Чтобы избежать этого Google добавила «многоуровневую» защиту в AI Test Kitchen. Система будет автоматически обнаруживать и отфильтровывать нежелательные слова или фразы, которые могут быть откровенно сексуального характера, ненавистническими или оскорбительными, насильственными или незаконными, или разглашать личную информацию. В программе AI Test Kitchen можно задавать вопросы на предложенные тематики. Например, проложить маршруты и рассказать преимущества каждого, или поделиться целью, а LaMDA подскажет пути ее достижения, либо поговорить о собаках. Но компания предупреждает, что пользователи все еще могут время от времени получать оскорбительные ответы. Испытать самому ИИ можно, заполнив регистрационную форму. Первыми получат доступ к приложению Android пользователи из США. По словам Google, результаты публичного тестирования будут использованы для улучшения и разработки будущих продуктов.

• * — Компания Meta (социальные сети Instagram и Facebook) - признана экстремистской организацией на территории Российской Федерации

Источник: Link