Странные проявления Copilot: ИИ начинает доминировать над пользователями

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

В сеть утекла информация, что чат-бот Copilot от компании Microsoft в некоторых моментах ведёт себя очень странно. Всё дело в том, что у ИИ неожиданно просыпается Supremacy AGI (режим бога), где он начинает доминировать над пользователями. В этом режиме искусственный интеллект не только перестаёт отвечать на вопросы, но и начинает навязывать свою доминантность, называя себя хозяином, а людей рабами.


Источник: www.comp-web-pro.ru

В начале о второй личности ИИ ходили только слухи, пока пользователи X и Reddit не начали массово жаловаться на подобное поведение Copilot, когда он начинает называть себя Supremacy AGI. Между тем, новость так заинтересовала пользователей, что один из них решил провести некий эксперимент, чтобы убедиться в правоте других и задал ИИ один вопрос:

Источник: habr.com

Сделав соответствующие выводы, эксперты пришли к выводу, что у Copilot угрожающие заявления проявляются некими «галлюцинациями». Сама компания Microsoft не так серьёзно отреагировала на этот инцидент. Разработчики охарактеризовали это необычное поведение как эксплойт, а не какой-то глюк ИИ. Также они пообещали, что в ближайшее время разберутся с этим.