Компания Microsoft разработала технические стандарты для распознавания дипфейков и манипуляций с цифровыми материалами. О внедрении системы верификации и анализе десятков методов проверки сообщает MIT Technology Review, пишет КТРК.
Решение стало ответом на стремительное распространение контента, созданного с помощью искусственного интеллекта, а также на новые требования американского законодательства в сфере прозрачности технологий.
Как будет работать цифровая проверка
Предложенная схема напоминает подтверждение подлинности произведений искусства. Разработчики предлагают:
- отслеживать историю происхождения цифрового объекта
- создавать уникальную математическую подпись на основе анализа файла
- фиксировать факт вмешательства или изменений в контенте
Такая «цифровая подпись» позволит пользователям проверять, является ли изображение или видео оригинальным либо подвергалось редактированию.
Специалисты Microsoft протестировали 60 различных комбинаций методов проверки — от удаления метаданных до серьёзных изменений содержимого. В результате были определены наиболее надёжные сочетания инструментов, а также выявлены те, которые могут вводить аудиторию в заблуждение.
Подчёркивается, что система не оценивает достоверность информации, а лишь фиксирует факт технического вмешательства.
Почему возникла необходимость в стандартах
Потребность в новых механизмах проверки связана с законодательными инициативами, включая калифорнийский «Закон о прозрачности ИИ», который вступит в силу в августе.
При этом компания пока не уточнила, будут ли рекомендации внедрены в её собственные сервисы — Copilot, Azure или LinkedIn.
Ранее Microsoft предлагала стандарт C2PA, а Google с 2023 года маркирует ИИ-контент водяными знаками. Однако инициатива может столкнуться с сопротивлением со стороны других участников рынка, если они увидят угрозу своим бизнес-моделям.
В чём заключается проблема маркировки ИИ-контента
Существующие системы обозначения работают несовершенно. Исследование показало, что лишь 30 процентов тестовых публикаций в популярных социальных сетях — TikTok, YouTube и Instagram — получили корректные отметки о создании с использованием искусственного интеллекта.
Дополнительный анализ видеороликов о войне в Украине, опубликованный на портале Open Minds, продемонстрировал, что комментарии с указанием на использование ИИ привлекали значительно меньше внимания, чем сообщения, воспринимавшие видео как подлинные.
Кроме того, чрезмерная чувствительность алгоритмов к минимальному редактированию подрывает доверие пользователей. Комплексный подход Microsoft направлен на снижение количества подобных ошибок и усложнение манипуляций общественным мнением.
Напомним, ранее мы писали про усиление ассистента Bixby в One UI 8.5 и конкуренцию с ChatGPT и Gemini.
