История и люди, стоящие за Honest Lens

Кратко

Каждый день к нам приходят десятки сообщений, заголовков и «срочных новостей», происхождение которых неясно. Всё больше людей проверяют их с помощью ИИ-чат-ботов. Но чат-боты обычно отвечают с полной уверенностью, даже когда доказательств нет, а иногда ссылаются на источники и ссылки, которых вообще не существует. Инструмент, который должен останавливать дезинформацию, незаметно становится её новым источником.

Honest Lens — наш ответ на эту проблему. Платформа разбивает любой новостной текст на отдельные проверяемые утверждения, сверяет каждое с доказательствами, действительно открывает и проверяет каждую ссылку, на которую ссылается, а если доказательств недостаточно, вместо догадок отвечает «Недостаточно данных». Она даже публично измерила собственную точность и опубликовала все результаты, включая случаи, в которых ошиблась.

Проблема: зачем был нужен такой инструмент

1. Поток информации и пересланных сообщений

Сегодня значительная часть новостей доходит до людей не от информагентств, а из групп и каналов в мессенджерах: сообщение «из надёжного источника», цифра, вырванная из контекста, заголовок, далеко ушедший от исходной истории. У большинства людей нет ни времени, ни инструментов, чтобы проследить каждое такое сообщение до первоисточника.

2. Чат-боты не создавались для проверки фактов

Универсальные чат-боты — замечательные инструменты, но как факт-чекеры они имеют врождённые слабости. Они дают один общий ответ на весь текст, редко показывают, какие источники на самом деле проверили, могут выдавать неработающие или выдуманные ссылки и, что важнее всего, редко говорят «я не знаю». И ни один из них не сообщает, насколько он точен в проверке фактов.

3. Пробел для русско- и персоязычной аудитории

Большинство серьёзных инструментов проверки фактов созданы для англоязычной аудитории. Русско- и персоязычным пользователям приходится работать на чужом языке или обходиться вовсе без инструмента. Персидские интерфейсы к тому же часто реализуют письмо справа налево лишь наполовину: текст ломается, цифры перескакивают, и пользоваться ими неудобно.

4. Кризис доверия

Люди не доверяют инструменту, который просто говорит «правда» или «ложь», — и они правы. Доверие появляется тогда, когда можно самому увидеть, на чём основан вердикт, и когда инструмент не скрывает своих ограничений. Именно такой инструмент мы и решили создать.

Идея: философия «Я не знаю»

Проект начался с одной фразы, которая потом стала его девизом и ориентиром для всех решений:

«Факт-чекер, который не выносит абсолютных приговоров, а показывает доказательства; а когда фактов недостаточно, честно говорит: „Я не знаю“».

На практике эта фраза определила несколько ключевых продуктовых решений. Во-первых, вместо «индекса правдивости» от 0 до 100, который выглядит научно, но ничего не объясняет, каждое утверждение получает один из четырёх понятных вердиктов вместе с обоснованием и источниками. Во-вторых, «Недостаточно данных» — полноценный и достойный ответ, а не сбой системы. В-третьих, инструмент должен быть так же честен в отношении себя, как и в отношении новостей: измерять собственную точность и публиковать её.

Решение: три опоры

Honest Lens построен на трёх опорах, каждая из которых отвечает на свою часть проблемы.

Опора A: движок «утверждение — доказательства»

Пользователь вставляет что угодно: заголовок, пересланное сообщение, целую статью или просто ссылку на неё. Система читает текст, извлекает проверяемые утверждения и исследует каждое по отдельности. По каждому утверждению выдаются вердикт, объяснение, уровень уверенности и источники. Разделение на утверждения принципиально: новость обычно смешивает верное, полуправду и ложь, и единый ответ на весь текст сам по себе вводил бы в заблуждение.

Опора B: трекер искажений

Иногда новость не ложна, а искажена: выросла цифра, исчезла важная оговорка, добавился сенсационный тон. Трекер искажений ставит публикацию рядом с её первоисточником и точно показывает, что изменилось: добавленную драматизацию, изменённые цифры и опущенный контекст. Он полезен журналистам, исследователям и любому внимательному читателю, который хочет увидеть разницу между тем, что было сказано, и тем, что было опубликовано.

Опора C: открытый аудит точности

Именно здесь Honest Lens по-настоящему отличается от похожих инструментов. Мы отобрали набор реальных утверждений из разных областей, определили для каждого эталонный вердикт по открытым источникам, а затем прогнали их все через настоящий движок. Результаты опубликованы без каких-либо правок, включая все расхождения. Подробности этого теста — ниже.

Пользовательский опыт: от подозрительного сообщения до отчёта, которым можно поделиться

Мы хотели, чтобы проверить новость было так же просто, как переслать сообщение. Путь пользователя состоит из трёх шагов:

1. Вставьте текст. Заголовок, пересланное сообщение, целую статью или ссылку на неё. Регистрация не нужна.
2. Смотрите, как идёт проверка. Глубокий анализ занимает некоторое время. Вместо пустого экрана загрузки пользователь в реальном времени видит, что делает система: статья прочитана, контекст найден в справочных источниках, утверждения сверены с доказательствами, каждая ссылка проверена. Ожидание стало частью опыта и источником доверия.
3. Получите ответ по каждому утверждению. У каждого утверждения свой вердикт, объяснение и источники. А у каждого отчёта есть постоянная ссылка, которую можно отправить обратно в тот самый чат, откуда пришла новость.

Эта постоянная ссылка — маленькая деталь с большим эффектом. Дезинформация распространяется в групповых чатах, значит, и опровержение должно уметь распространяться там же. Вместо спора пользователь просто отправляет ссылку, где видны доказательства.

Настоящая проверка ссылок

Одна из функций, которой мы гордимся больше всего: Honest Lens никогда не доверяет ссылкам вслепую. Каждая ссылка, приведённая в отчёте, действительно открывается и проверяется. Неработающие или выдуманные ссылки удаляются, и пользователь узнаёт, что они были удалены. В результате пользователь никогда не сталкивается с несуществующим источником — проблемой, обычной для ответов чат-ботов.

Почему бы просто не спросить чат-бота?

Honest Lens тоже использует модели ИИ. Разница — во всём, что построено вокруг них. Разница в двух словах:

Аудит точности: честность в отношении самих себя

Проще всего было бы написать на сайте «точность 99%». Многие продукты так и делают. Но инструмент, девиз которого — честность, не может публиковать о себе выдуманные цифры. Поэтому мы разработали настоящий тест.

• 36 реальных утверждений были отобраны из пяти областей: геополитика, экономика и торговля, наука и здоровье, исторические документы и медийная сенсационность. Утверждения были на всех трёх языках: русском, английском и персидском.
• Для каждого утверждения по открытым и проверяемым источникам был определён эталонный вердикт, а ссылка на источник размещена рядом с ним.
• Все утверждения прошли через настоящий движок. Ни один результат не был написан или исправлен вручную.
• Итог: 75% совпадений с эталонными вердиктами, 19% честных «не знаю» и 6% расхождений.
• Все 36 случаев, включая каждое расхождение, опубликованы на странице самоаудита вместе с полным отчётом движка и эталонным источником, так что любой может их проверить.

Самая показательная цифра — 19% ответов «не знаю». В этих случаях вместо ошибочного вердикта движок сообщил, что ему не хватает доказательств. Именно такое поведение мы и закладывали. Настоящие ошибки, то есть вердикты, противоречащие эталону, составили лишь 6%, и даже они не скрыты. Мы считаем, что публикация собственных ошибок — самое ценное доказательство надёжности, которое может предложить инструмент проверки фактов.

Дизайн и визуальный опыт

Фирменный стиль, который внушает доверие

Для продукта о правде дизайн должен быть спокойным, ясным и серьёзным, а не кричащим. Фирменный стиль Honest Lens построен на глубоком кобальтово-синем, белом и одной цветной «сигнальной» точке, которая есть и в логотипе. Мы рассмотрели несколько дизайнерских направлений и выбрали то, что выглядит профессионально и по-журналистски и одинаково хорошо работает на всех трёх языках. Баннер, постер и изображения для превью в соцсетях выполнены в том же визуальном языке.

Три языка без компромиссов

Поддержка персидского языка не была для нас простым переводом. Весь интерфейс с самого начала строился с учётом письма справа налево: при смене языка макет, направление иконок, отступы и таблицы корректно зеркалятся. Числа отображаются в формате каждого языка, а шрифты подбирались отдельно для удобочитаемости персидского письма, кириллицы и латиницы. У каждого языка есть и собственный адрес, например honestlens.ir/ru и honestlens.ir/fa, чтобы пользователи и поисковые системы видели каждую версию отдельно.

Главная страница, которая объясняет «зачем»

В ранних версиях мы заметили, что одного девиза новому посетителю недостаточно. Мы переработали главную страницу, чтобы она по порядку отвечала на вопросы посетителя: что это, как работает, какие вердикты выдаёт, чем отличается от чат-бота и на какие источники опирается. Бегущая строка показывает источники, на которые движок действительно ссылался в своих отчётах. Мы сознательно не использовали логотипы СМИ, чтобы не создавать впечатление поддержки, которой нет. Наконец, раздел частых вопросов отвечает на типичные опасения: это бесплатно? может ли он ошибаться? что происходит с текстом, который я вставляю?

Для всех и на любом устройстве

Большинство людей получают новости на телефоне, поэтому дизайн с самого начала создавался для мобильных устройств. Для доступности учитывались также контрастность цветов, размер кнопок и навигация с клавиатуры.

Инженерия за кадром

Значительная часть качества продукта скрыта там, куда пользователь никогда не заглядывает. Вот некоторые технические решения, благодаря которым на Honest Lens можно положиться:

Несколько моделей ИИ без зависимости от одной

Honest Lens не зависит от одного поставщика ИИ. За системой работают несколько моделей от разных поставщиков. Если первая модель отвечает слишком долго, параллельно запускается вторая, и используется первый корректный ответ. Если какой-то сервис становится недоступен, система без перерыва переходит к следующему. Такая архитектура была особенно важна для пользователей в странах под санкциями, где часть сервисов может быть ограничена.

Скорость за счёт умного кэширования

Популярные новости часто проверяют многие люди. Результат каждого анализа какое-то время хранится, поэтому, если тот же текст отправят снова, отчёт появится мгновенно — без ожидания и без повторных затрат.

Безопасность с первого дня

Инструмент, который открывает присланные пользователями ссылки, при неосторожном проектировании может стать точкой входа для атакующих. Мы реализовали несколько уровней защиты:

• Защита от использования ссылок для доступа к внутренним сетям и серверам. Каждая ссылка проверяется перед открытием и повторно при каждом перенаправлении.
• Ограничение числа запросов для каждого пользователя, чтобы инструментом не могли злоупотреблять боты или чрезмерное использование.
• Строгие заголовки безопасности в браузере, блокирующие распространённые веб-атаки.
• Все ключи и конфиденциальные данные хранятся только на стороне сервера, а полный аудит проекта подтвердил, что в публичном коде нет конфиденциальной информации.
• Доступ к базе данных только через контролируемые серверные маршруты.
• Проверка зависимостей: при последнем аудите известных уязвимостей не обнаружено.

Доступен там, где находятся пользователи

Основная аудитория платформы — в России и Иране, где часть привычной интернет-инфраструктуры работает медленно или ограничена. Мы выбрали инфраструктуру размещения с учётом этого, и в тестах доступности из Москвы, Санкт-Петербурга, Тегерана и Шираза сайт открывался без проблем.

Видимость: SEO и оптимизация для ИИ-ассистентов

Хороший инструмент никому не поможет, если его никто не найдёт. Сегодня люди ищут не только в Google и Яндексе, но и спрашивают ИИ-ассистентов. Поэтому Honest Lens оптимизирован и для поисковых систем (SEO), и для ИИ-ассистентов, формирующих ответы (GEO):

• Контент, готовый для роботов: главная страница, трекер искажений и аудит точности заранее отрисовываются на всех трёх языках, поэтому поисковые и ИИ-роботы видят весь контент без выполнения кода.
• Экспертный блог: 20 обучающих статей о медиаграмотности, проверке фактов и распознавании дезинформации на всех трёх языках — всего 60 страниц оригинального контента.
• Структурированные данные: сведения об организации, сайте, приложении, статьях и частых вопросах в стандартном словаре, понятном поисковым системам.
• Связанные языковые версии: каждая страница указывает на свои версии на других языках, чтобы пользователи в каждой стране видели в выдаче версию на своём языке.
• Красивые превью в мессенджерах: когда ссылку на сайт отправляют в Telegram, WhatsApp или соцсети, отображаются заголовок, описание и изображение именно этой страницы и этого языка.
• Путеводитель для ИИ-ассистентов: стандартный файл, который объясняет ИИ-ассистентам, что это за сайт и какие его страницы важнее всего.

Принципы, которых мы придерживались

Для инструмента о правде то, как он создан, не менее важно, чем сам продукт. Несколько принципов мы соблюдали от начала до конца:

• Никаких выдуманных данных. Ни одна статистика, отзыв пользователя или знак одобрения не были придуманы. Каждая цифра на сайте получена из реального запуска.
• Никаких незаслуженных одобрений. Мы не использовали логотипы СМИ или организаций, которые не сотрудничали с проектом.
• Открытость в отношении ограничений. В разделе частых вопросов прямо сказано, что инструмент может ошибаться и что читать нужно объяснение и источники, а не только вердикт.
• Уважение к приватности. Без регистрации и без рекламных трекеров. Пользователю также ясно сообщают, что отправленный текст сохраняется, чтобы работала ссылка для обмена.

Результаты в цифрах

Чему мы научились

Честность — это функция продукта, а не только ценность. Моменты, когда Honest Lens говорит «не знаю» или публикует собственные ошибки, — не слабость продукта, а главная причина ему доверять. На рынке, полном преувеличенных обещаний, признание своих ограничений само по себе становится конкурентным преимуществом.

ИИ сам по себе — ещё не продукт. Языковые модели доступны всем. Настоящая ценность — в слоях, построенных вокруг них: разбиении текста на утверждения, реальной проверке ссылок, показе процесса в реальном времени, измерении точности и опыте, который заслуживает доверие пользователя.

Ожидание можно превратить в часть опыта. Глубокий анализ требует времени. Вместо того чтобы прятать его, мы превратили его в окно, через которое видна работа системы, и эта прозрачность усилила доверие пользователей.

Настоящая многоязычность закладывается с первого дня. Добавление персидского или русского языка в продукт, созданный для английского, всегда остаётся незавершённым. Поскольку Honest Lens с самого начала проектировался как трёхъязычный, все три версии дают одинаково полный опыт.

Итог

Honest Lens показывает, что с помощью ИИ можно создать инструмент, который уменьшает неразбериху, а не усиливает её, если честность, прозрачность и качество пронизывают каждый слой продукта: от философии «Я не знаю» до проверки каждой ссылки, от безупречного дизайна справа налево до безопасности и видимости в поиске. Мы спроектировали и реализовали этот проект сами, от первой идеи до запуска, со всеми деталями.

Попробуйте прямо сейчас: вставьте пересланное сообщение или новостной заголовок в форму проверки и посмотрите, что за ним стоит.