Вчерашнее предупреждение эксперта по безопасности подтвердилось. Компания Apple представила новые функции безопасности детей. Среди остальных мер есть и функция проверки фотогалерей в iOS и iPadOS.
Как сообщает Apple, iOS и iPadOS будут использовать новые приложения криптографии, чтобы ограничить распространение материалов о сексуальном насилии над детьми (CSAM) в интернете. Компания обещает при этом обеспечить конфиденциальность пользователей. При обнаружении незаконного контента Apple может предоставить правоохранительным органам информацию о коллекциях CSAM в iCloud Photos.
Apple поясняет, что новая технология в iOS и iPadOS позволит обнаруживать хранящиеся в iCloud Photos материалы, известные по базам правоохранительных органов CSAM. Это позволит Apple сообщать об этих случаях в Национальный центр пропавших без вести и эксплуатируемых детей (NCMEC). Для этого система выполняет сопоставление фото на устройстве с использованием базы данных известных хэшей изображений CSAM, предоставленных NCMEC и другими организациями по безопасности детей.
Второе направление — приложение «Сообщения» будет использовать машинное обучение на устройстве, чтобы предупреждать о конфиденциальном контенте. Новые инструменты приложения «Сообщения» позволят предупреждать детей и их родителей о получении или отправке фотографий откровенно сексуального характера.
При получении такого контента фотография будет размытой, ребенок получит предупреждение и ссылки на полезные в такой ситуации ресурсы. Также ребёнка предупредят, что если он просмотрит эту фотографию, то его родители получат оповещение. Аналогичные меры предпринимаются, если ребенок пытается отправить фотографии откровенно сексуального характера. Ребенок будет предупрежден перед отправкой, а родители получат оповещение после отправки.
И, наконец, Siri и «Поиск» обновятся так, чтобы предоставить родителям и детям расширенную информацию и помочь в случае возникновения небезопасных ситуаций. Siri и «Поиск» также вмешаются, если пользователь пытается искать темы, связанные с материалами о сексуальном насилии над детьми.
Все эти функции станут доступны после выпуска iOS 15, iPadOS 15, watchOS 8 и macOS Monterey с очередными обновлениями, но до конца года. Пока такие меры грозят только пользователям в США, но со временем будут реализованы и других регионах.
Вчера эксперт по безопасности Мэтью Грин (Matthew Green) предупредил о планах Apple. Сама по себе цель защитить детей вполне благородна, однако эксперт всерьёз озабочен тем, куда это может привести общество. Эксперт высказал обеспокоенность новыми мерами и назвал их «действительно очень плохой идеей».