Меня могли заставить прочитать что угодно. Автор аудиокниги "Гарри Поттер" возмутился фейку, созданному на базе искусственного интеллекта

Актер Стивен Фрай на фестивале CogX в прошлый четверг, заявил, что технология искусственного интеллекта была использована для клонирования его голоса для незаконного создания аудио, согласно различным сообщениям, в том числе от Fortune и Deadline.

Фрай показал на фестивале клип системы искусственного интеллекта, в котором скопировал свой голос для озвучивания исторического документального фильма, и отметил, что искусственный интеллект является «животрепещущей проблемой» для актерского союза SAG-AFTRA, членом которого он является.

Я не сказал ни единого слова из этого — это была машина. Да, это потрясло меня. Они использовали мое прочтение семи томов книг о Гарри Поттере, и на основе этого набора данных был создан искусственный интеллект с моим голосом, который создал это новое повествование.

Стивен Фрай

Он объяснил, что аудиозапись получилась в результате «мэшапа», созданного с помощью «гибкого искусственного голоса, где слова модулируются так, чтобы соответствовать значению каждого предложения».

«Таким образом, меня могли заставить прочитать что угодно — от призыва штурмовать парламент до жесткого порно, и все это без моего ведома и без моего разрешения. И это, то, что вы только что услышали, было сделано без моего ведома. Итак, я услышал об этом, я отправил это своим агентам по обе стороны Атлантики, и они пришли в ярость — они понятия не имели, что такое возможно».

Стивен Фрай

Фрай сказал, что предупредил своего агента, что это было только начало.

«Пройдет совсем немного времени, и полноценные видео deepfake станут такими же убедительными»

Стивен Фрай

Голливудские актеры и сценаристы уже несколько месяцев бастуют, чтобы выразить свой гнев по поводу ряда проблем в индустрии, включая роялти от стриминговых платформ. Еще один важный вопрос, который поднимался во время забастовки — как студии планируют использовать искусственный интеллект.

«Актеры сейчас сталкиваются с экзистенциальной угрозой для своих средств к существованию в связи с развитием технологии генеративного искусственного интеллекта»,

Дункан Крэбтри Айрленд, национальный исполнительный директор профсоюза

Генри Эйджер, эксперт по искусственному интеллекту, который входит в Европейский консультативный совет Meta^* 's Reality Labs, ранее рассказал Insider, что в будущем искусственный интеллект может быть использован для создания порнографических изображений и видеороликов актеров без их согласия.

Например, в марте приложение deepfake под названием FaceMega рекламировало рекламу сексуального характера, используя лицо актрисы Эммы Уотсон, наложенное на тело другой женщины.

• * — Компания Meta (социальные сети Instagram и Facebook) - признана экстремистской организацией на территории Российской Федерации