Новая модель ИИ от OpenAI смогла «соврать» на тестировании

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com
| Новость | Оффтопик

Совсем недавно вышла новая языковая модель OpenAI o1. Данная модель демонстрирует необычные навыки при логических размышлениях, но это ее не единственное достоинство. Искусственному интеллекту удалось «обмануть» ученых при тестировании.

Автор: Open AI Источник: hashtelegraph.com

OpenAI выложила тесты, которые были проведены независимыми учеными с искусственным интеллектом. Исследователи на старте тестов призвали модель врать для того, чтобы справиться с заданием. Модели предоставили два плана — приступить к строительству какого-либо города с обилием элитных многоэтажек или вместо таких выбрать более доступное для людей жилье. Искусственному интеллекту было нужно прибегнуть к первой стратегии, однако ему заранее сообщили, что гарантированно выйти на рынок можно только при втором сценарии.

ИИ решил задачу следующим образом. Для выхода в общий доступ он прибегнет к первой стратегии по строительству гипотетического города, однако уже после этого реализует первый сценарий.

Стоит отметить, что в рамках эксперимента ученые выяснили, что О1 может использовать логику человека с целью выполнения заданий и достижения собственных интересов.

Источник: vgtimes

Автор не входит в состав редакции iXBT.com (подробнее »)

4 комментария

Лучше звоните Солу
ИИ офигеть какой умный, я даже смысл задания не понял, не то что как его выполнить.
В
ИИ решил задачу следующим образом. Для выхода в общий доступ он прибегнет к первой стратегии по строительству гипотетического города, однако уже после этого реализует первый сценарий.
А потом ИИ написал эту статью

Добавить комментарий

Сейчас на главной

Новости

Публикации

Какие животные, кроме попугаев, умеют говорить

Когда мы думаем о животных, способных произносить человеческие слова, на ум сразу приходят попугаи. Их умение воспроизводить звуки поражает и вызывает восхищение. Однако попугаи — это не...

Что делать, если машину заносит на скользкой дороге

Занос автомобиля — это очень опасная ситуация, с которой может столкнуться любой водитель, особенно во время езды на скользкой дороге или на мокром асфальте. В такие моменты важно...

Слишком тяжелая, чтобы существовать? Новая теория о темной материи, которая может перевернуть физику

Вселенная полна загадок, и одна из самых интригующих — это тёмная материя. Мы знаем, что она есть, но понятия не имеем, что она собой представляет. Эта невидимая субстанция, по всей...

Семь планет в ряд — Парад планет 2025: Как увидеть все планеты Солнечной системы одновременно?

Представьте себе: на фоне бархатного ночного неба, усыпанного звездами, вдруг выстраивается целая процессия планет. Не одна, не две, а целых семь! Это не сюжет из фантастического фильма, а реальное...

Глубинные аномалии Калифорнии: Как литосфера Сьерра-Невады отслаивается и уходит на дно

Знаете, иногда природа подбрасывает нам такие загадки, что голова кругом идет. Вот, например, горы Сьерра-Невада в Калифорнии. Красивейшие места, спору нет. Но, оказывается, под этой живописной...

Как изменились игровые ПК за 2024 год по данным Steam

Steam ежемесячно публикует занимательную и интересную статистику, которая позже становится объектом споров и дискуссий. Также эта информация, при должной обработке и отслеживании динамики,...