Instagram* запустил ИИ для чужих фото без спроса

В июне компания Instagram* (запрещена в РФ) представила Muse Image — нейросеть для создания изображений. Инструмент даёт возможность перерабатывать фотографии других пользователей, причём их согласие не требуется.

Вот что важно знать о новой технологии и связанных с ней рисках.

Muse Image, по заявлению компании, «может интерпретировать сложные запросы, использовать фотографии в качестве входных данных и позволять пользователям редактировать сгенерированные изображения с помощью эскизов или описаний». На базе модели будет работать более 30 новых эффектов для Stories.

Базовые функции ИИ доступны бесплатно, но за расширенные возможности предусмотрена плата.

«Компания также анонсировала предварительную версию Muse Video, своей модели генерации видео», — сообщает Reuters.

Главная проблема — любой участник соцсети может пропустить через ИИ чужие фотографии, даже не предупредив их автора. Уведомления об обработке снимка не приходят, что открывает возможность для массового создания дипфейков. Достаточно ввести чужой ник, чтобы сгенерировать человека в обстановке, где его никогда не было.

В мобильном приложении Instagram* есть настройка, позволяющая отключить новую функцию. Однако уже созданные изображения она не удалит.
* экстремистская организация, деятельность запрещена на территории РФ.