«Яндекс» разрабатывает технологию маркировки контента, созданного ИИ

«Яндекс» совместно с Институтом системного программирования РАН приступил к созданию технологии для маркировки контента, сгенерированного искусственным интеллектом (ИИ). Разработка затронет фото-, видео- и аудиоматериалы, созданные нейросетями, включая собственный сервис компании «Шедеврум». Представители «Яндекса» подтвердили начало работы над проектом, но сроки его завершения не уточнили. Об этом сообщают «Ведомости».

Интересно, что речь идёт не о «водяных знаках», которые можно обрезать или закрасить, а о внедрении микроскопических маркеров-артефактов. Эти метки незаметны для человеческого глаза, но их сможет распознавать специальный программный анализатор. Параллельно «Яндекс» создает сервис, который позволит любому пользователю проверить контент на предмет его создания искусственным интеллектом.

В будущем предполагается, что разработанную технологию стандартизируют и сделают доступной для всех участников рынка. В «Яндексе» подчеркнули, что для успешного распознавания контента, созданного другими нейросетями, требуется введение единого отраслевого стандарта. По мнению экспертов, поскольку российские компании не могут воздействовать на зарубежные нейросети, такие как ChatGPT, подразумевается создание именно российских стандартов.

Эксперты отмечают, что разработка направлена на снижение рисков распространения дипфейков на фоне кратно увеличивающихся случаев мошенничества. Существующие ИИ-модели генерируют контент, который пока легко отличим от настоящего, но с каждым годом качество такого контента возрастает и он становится все более правдоподобным.

Что ж, посмотрим, что это будет за продукт и насколько он будет эффективен и применим для обычных пользователей. В материале хоть и говорится, что сгенерированный ИИ контент пока ещё можно отличить от реального, но кажется, что не всеми и не всегда. Порой на просторах интернета можно встретить такой вводящий в глубокое заблуждение шедевр ИИ, что он него даже не по себе.

Источник: www.vedomosti.ru Фото: ru.freepik.com