Большую часть истории фотография или запись были сильным доказательством того, что что-то произошло. Это допущение уходит в прошлое. Генеративный ИИ может создавать реалистичные изображения событий, которых не было, клонировать голос по короткому образцу и синтезировать видео, где люди говорят то, чего никогда не говорили.

Две опасности, а не одна

Первая очевидна: сфабрикованные материалы выдают за настоящие. Поддельная аудиозапись чиновника, сгенерированное фото катастрофы, смонтированное видео с публичным человеком.

Вторая тише, но не менее серьёзна. Когда люди знают, что подделки возможны, настоящие доказательства можно объявить подделкой. Исследователи называют это «дивидендом лжеца»: любой, кто попал на подлинную запись, может заявить, что она сгенерирована. Синтетические медиа подрывают доверие и к подлинным материалам.

Почему одного обнаружения мало

Инструменты для распознавания сгенерированного контента полезны, но они в постоянной гонке с инструментами генерации. За каждым улучшением распознавания следуют улучшения генерации. Детектор, который прав в большинстве случаев, в масштабах интернета всё равно будет ошибаться очень часто.

Происхождение: доказать, откуда взялся материал

Более устойчивый подход — подтверждение происхождения: фиксировать в момент съёмки, кто создал материал и как его редактировали. Коалиция за происхождение и подлинность контента (C2PA) публикует открытый технический стандарт, позволяющий прикреплять к изображениям и видео такую историю, защищённую от незаметной подделки. Вместо вопроса «похоже ли это на подделку?» он задаёт вопрос «может ли материал доказать, откуда он взялся?».

Привычки, которые всё ещё работают

  • Проверяйте источник, а не пиксели. Кто первым опубликовал файл и есть ли у него репутация?
  • Ищите независимое подтверждение. Реальное событие обычно снимают несколько человек с разных ракурсов.
  • Настораживайтесь от идеального момента. Материал, появившийся именно тогда, когда он политически или эмоционально выгоднее всего, заслуживает особого внимания.
  • Не спешите с аудио. Клонирование голоса дёшево и убедительно; необычные просьбы подтверждайте по другому каналу.

Позиция Honest Lens

Honest Lens анализирует текстовые утверждения и новостные статьи; он не заявляет, что распознаёт синтетические изображения или аудио, и не будет притворяться. Но он может проверить утверждения, которые сопровождают такие материалы. Поддельное изображение обычно приходит с подписью, а в подписи есть проверяемые утверждения: кто, где, когда, сколько. Их может проверить движок «От утверждения к доказательству».