Искусственный интеллект часто представляют либо как решение проблемы дезинформации, либо как её главную причину. Честный ответ: это мощный инструмент с конкретными сильными и слабыми сторонами, и ответственную систему нужно проектировать с учётом и тех, и других.

Что ИИ делает хорошо

  • Разбивает текст на утверждения. Длинная статья может содержать дюжину отдельных фактических утверждений вперемешку с мнениями. Модели хорошо выделяют то, что можно проверить.
  • Работает на разных языках. Утверждение на персидском, источник на русском и исследование на английском можно сопоставить за один проход.
  • Замечает подачу. Нагруженные глаголы, пропавшие оговорки и раздутые цифры следуют узнаваемым шаблонам.
  • Скорость. Первый анализ меньше чем за минуту, а не за часы.

Что ИИ делает плохо

  • Знает о недавних событиях. Модели обучены на данных до определённой даты. О том, что было позже, они не знают, если информацию им не предоставить.
  • Признаёт незнание. Модели обучены давать гладкие ответы. Без тщательного проектирования они заполняют пробелы правдоподобным вымыслом.
  • Надёжно цитирует источники. Модель может выдать реалистичную ссылку или веб-адрес, которых не существует.
  • Несёт ответственность. Модель нельзя привлечь к ответственности. Людей и организации — можно.

Проектирование с учётом слабостей

Honest Lens не доверяет ответу модели вслепую. В движок «От утверждения к доказательству» встроено несколько защит:

  • Каждая приведённая ссылка проверяется сервером. Неработающие ссылки удаляются и помечаются, а не выдаются за доказательство.
  • «Недостаточно данных» — правильный ответ. Модели прямо сказано, что догадка — это провал.
  • Никаких выдуманных адресов. Если точный адрес документа неизвестен, источник называется без ссылки.
  • Модель указывается. В каждом отчёте написано, какая модель ИИ его подготовила, чтобы читатель знал, на что опирается.
  • Никаких баллов доверия. Результат — это доказательства и рассуждения, которые читатель может проверить, а не число, которое нужно принять на веру.

Правильная роль ИИ

Самая полезная роль ИИ в фактчекинге — не судья, а помощник: быстрый первый проход, который упорядочивает утверждения, находит доказательства и отмечает то, что требует взгляда человека. Окончательное суждение — особенно по чувствительным и важным утверждениям — принадлежит людям, которые могут за него отвечать.