داستان و سازندگان Honest Lens

خلاصه

هر روز ده‌ها پیام، تیتر و «خبر فوری» به دستمان می‌رسد که معلوم نیست از کجا آمده‌اند. بسیاری از مردم برای سنجیدن این‌ها سراغ چت‌بات‌های هوش مصنوعی می‌روند، اما چت‌بات‌ها معمولاً با اطمینان کامل جواب می‌دهند، حتی وقتی شاهدی ندارند؛ و گاهی به منبع یا لینکی استناد می‌کنند که اصلاً وجود ندارد. یعنی ابزاری که قرار بود جلوی اطلاعات نادرست را بگیرد، خودش می‌تواند منبع تازه‌ای از اطلاعات نادرست شود.

Honest Lens پاسخ ما به این مشکل است: پلتفرمی که هر متن خبری را به ادعاهای جداگانه و قابل‌سنجش تقسیم می‌کند، هر ادعا را با شواهد می‌سنجد، تک‌تک لینک‌هایی را که به آن‌ها استناد کرده واقعاً باز می‌کند و بررسی می‌کند، و اگر شاهد کافی نباشد، به‌جای حدس زدن صادقانه می‌گوید «شواهد کافی نیست». این پلتفرم حتی دقت خودش را هم به‌طور عمومی سنجیده و همه‌ی نتایج را، از جمله مواردی که اشتباه کرده، منتشر کرده است.

مسئله: چرا چنین ابزاری لازم بود؟

۱. سیل اطلاعات و پیام‌های فورواردی

بخش بزرگی از خبرها امروز نه از خبرگزاری‌ها، که از گروه‌ها و کانال‌های پیام‌رسان به دست مردم می‌رسد: پیامی که «از یک منبع موثق» نقل شده، عددی که از زمینه‌اش جدا شده، یا تیتری که با متن خبر اصلی فاصله‌ی زیادی دارد. بیشتر مردم نه وقت دارند و نه ابزار که هر کدام را ریشه‌یابی کنند.

۲. چت‌بات‌ها برای راستی‌آزمایی ساخته نشده‌اند

چت‌بات‌های عمومی ابزارهای شگفت‌انگیزی هستند، اما در راستی‌آزمایی چند ضعف ذاتی دارند. برای کل متن یک جواب کلی می‌دهند، به‌ندرت نشان می‌دهند واقعاً کدام منابع را بررسی کرده‌اند، لینک‌هایی که می‌سازند ممکن است خراب یا ساختگی باشد، و مهم‌تر از همه، کمتر پیش می‌آید که بگویند «نمی‌دانم». هیچ‌کدام هم به شما نمی‌گویند در راستی‌آزمایی چقدر دقیق‌اند.

۳. جای خالی ابزار برای فارسی‌زبان‌ها و روس‌زبان‌ها

بیشتر ابزارهای جدی راستی‌آزمایی برای مخاطب انگلیسی‌زبان ساخته شده‌اند. کاربر فارسی‌زبان یا روس‌زبان یا باید با ابزاری به زبانی غیر از زبان خودش کار کند، یا اصلاً ابزاری ندارد. رابط‌های فارسی هم اغلب راست‌به‌چپ را نیمه‌کاره پیاده کرده‌اند؛ متن‌ها به‌هم می‌ریزد، اعداد جابه‌جا می‌شوند و تجربه‌ی کاربری آزاردهنده می‌شود.

۴. بحران اعتماد

مردم به ابزاری که فقط بگوید «درست» یا «غلط» اعتماد نمی‌کنند، و حق هم دارند. اعتماد وقتی ساخته می‌شود که بتوانی خودت ببینی حکم بر چه اساسی داده شده، و وقتی ابزار محدودیت‌هایش را پنهان نکند. هدف ما ساختن چنین ابزاری بود.

ایده: فلسفه‌ی «نمی‌دانم»

نقطه‌ی شروع پروژه یک جمله بود که بعدها به شعار و قطب‌نمای همه‌ی تصمیم‌ها تبدیل شد:

«راستی‌آزمایی که حکم قطعی صادر نمی‌کند، بلکه شواهد را نشان می‌دهد؛ و هنگامی که داده کافی ندارد، صادقانه می‌گوید: نمی‌دانم.»

این جمله در عمل چند تصمیم مهم محصول را رقم زد. اول اینکه به‌جای نمره‌ی صفر تا صد یا درصد «راستی» که ظاهری علمی دارد اما در واقع چیزی را توضیح نمی‌دهد، هر ادعا یکی از چهار نتیجه‌ی روشن را می‌گیرد، همراه با دلیل و منبع. دوم اینکه «شواهد ناکافی» یک نتیجه‌ی کامل و محترم است، نه شکست سیستم. و سوم اینکه ابزار باید درباره‌ی خودش هم همان‌قدر صادق باشد که درباره‌ی خبرها؛ یعنی دقتش را بسنجد و منتشر کند.

راه‌حل: سه ستون

Honest Lens روی سه ستون ساخته شده که هر کدام به بخشی از مسئله پاسخ می‌دهند.

ستون الف: موتور ادعا و شواهد

کاربر هر چیزی را وارد می‌کند: یک تیتر، یک پیام فورواردی، کل یک مقاله یا فقط لینک آن. سیستم متن را می‌خواند، ادعاهای قابل‌سنجش را از دل آن بیرون می‌کشد و هر ادعا را جداگانه بررسی می‌کند. خروجی برای هر ادعا شامل نتیجه، توضیح، سطح اطمینان و منابع است. این تقسیم به ادعاها مهم است، چون یک خبر معمولاً ترکیبی از بخش‌های درست، نیمه‌درست و نادرست است و یک جواب کلی برای کل متن، گمراه‌کننده خواهد بود.

ستون ب: ردیاب تحریف روایت

گاهی خبر دروغ نیست، اما تحریف شده است: عددی بزرگ‌تر شده، قیدی حذف شده یا لحنی هیجانی به آن اضافه شده. ردیاب تحریف، گزارش یک رسانه را کنار منبع اصلی‌اش می‌گذارد و دقیقاً نشان می‌دهد چه چیزی تغییر کرده: هیجان افزوده، ارقام تغییریافته و زمینه‌ی حذف‌شده. این ابزار برای روزنامه‌نگاران، پژوهشگران و هر خواننده‌ی دقیقی که می‌خواهد فاصله‌ی «آنچه گفته شد» و «آنچه منتشر شد» را ببیند، کاربردی است.

ستون ج: خودآزمایی آشکار

اینجا جایی است که Honest Lens واقعاً از ابزارهای مشابه جدا می‌شود. ما مجموعه‌ای از ادعاهای واقعی را از حوزه‌های مختلف انتخاب کردیم، نتیجه‌ی مرجع هر کدام را از منابع عمومی مشخص کردیم و سپس همه را از موتور واقعی عبور دادیم. نتایج بدون هیچ دستکاری منتشر شده‌اند، از جمله همه‌ی اختلاف‌ها. جزئیات این آزمون در ادامه آمده است.

تجربه‌ی کاربر: از پیام مشکوک تا گزارش قابل‌اشتراک

ما می‌خواستیم استفاده از ابزار به سادگی فوروارد کردن یک پیام باشد. مسیر کاربر سه قدم دارد:

1. واردش کنید. یک تیتر، یک پیام فورواردی، کل یک مقاله یا لینک آن. نیازی به ثبت‌نام نیست.
2. بررسی را زنده ببینید. تحلیل عمیق کمی زمان می‌برد. به‌جای یک صفحه‌ی انتظار خالی، کاربر همان لحظه می‌بیند سیستم چه می‌کند: متن خبر خوانده شد، زمینه از منابع مرجع جست‌وجو شد، ادعاها در برابر شواهد سنجیده شدند و تک‌تک لینک‌ها بررسی شدند. زمان انتظار به بخشی از تجربه و مایه‌ی اعتماد تبدیل شد.
3. برای هر ادعا جواب بگیرید. هر ادعا نتیجه، توضیح و منابع خودش را دارد. هر گزارش یک لینک دائمی هم دارد که می‌شود آن را به همان گروهی فرستاد که خبر از آن آمده بود.

این لینک دائمی جزئی کوچک اما مهم است. اطلاعات نادرست در گروه‌ها پخش می‌شود و اصلاحش هم باید بتواند در همان گروه‌ها پخش شود. کاربر به‌جای بحث، یک لینک می‌فرستد که شواهد را نشان می‌دهد.

بررسی واقعی لینک‌ها

یکی از ویژگی‌هایی که بیش از همه به آن افتخار می‌کنیم، این است که Honest Lens به هیچ لینکی چشم‌بسته اعتماد نمی‌کند. هر لینکی که در گزارش به آن استناد شده، واقعاً باز و بررسی می‌شود. لینک‌های خراب یا ساختگی حذف می‌شوند و به کاربر هم گفته می‌شود که حذف شده‌اند. نتیجه این است که کاربر هیچ‌وقت با منبعی روبه‌رو نمی‌شود که وجود ندارد؛ مشکلی که در پاسخ‌های چت‌بات‌ها رایج است.

چرا فقط از یک چت‌بات نپرسیم؟

Honest Lens هم از مدل‌های هوش مصنوعی استفاده می‌کند. تفاوت در همه‌ی چیزهایی است که دور آن‌ها ساخته شده. تفاوت در یک نگاه:

خودآزمایی: صداقت درباره‌ی خودمان

ساده‌ترین کار این بود که روی سایت بنویسیم «دقت ۹۹ درصد». بسیاری از محصولات همین کار را می‌کنند. اما ابزاری که شعارش صداقت است، نمی‌تواند درباره‌ی خودش عدد ساختگی بدهد. پس یک آزمون واقعی طراحی کردیم.

• ۳۶ ادعای واقعی از پنج حوزه انتخاب شد: ژئوپلیتیک، اقتصاد و تجارت، علم و سلامت، اسناد تاریخی و هیجان‌سازی رسانه‌ای. ادعاها به هر سه زبان فارسی، روسی و انگلیسی بودند.
• برای هر ادعا، نتیجه‌ی مرجع بر اساس منابع عمومی و قابل‌استناد مشخص شد و لینک منبع کنار آن قرار گرفت.
• همه‌ی ادعاها از موتور واقعی عبور داده شدند. هیچ نتیجه‌ای دستی نوشته یا اصلاح نشد.
• نتیجه: ۷۵٪ انطباق با نتیجه‌ی مرجع، ۱۹٪ «نمی‌دانم» صادقانه و ۶٪ اختلاف.
• همه‌ی ۳۶ مورد، از جمله هر اختلاف، با گزارش کامل موتور و لینک منبع مرجع در صفحه‌ی خودآزمایی منتشر شده‌اند و هر کسی می‌تواند آن‌ها را بررسی کند.

نکته‌ی مهم این عددها سهم ۱۹ درصدی «نمی‌دانم» است. در این موارد، موتور به‌جای یک حکم اشتباه، اعلام کرده که شواهد کافی ندارد. این دقیقاً همان رفتاری است که طراحی کرده بودیم. خطای واقعی، یعنی حکمی خلاف نتیجه‌ی مرجع، فقط ۶ درصد بود و همان هم پنهان نشده است. ما معتقدیم انتشار اشتباهات، ارزشمندترین سند اعتبار یک ابزار راستی‌آزمایی است.

طراحی و تجربه‌ی بصری

هویتی که «اعتماد» را القا کند

برای محصولی درباره‌ی حقیقت، طراحی باید آرام، روشن و جدی باشد، نه پرزرق‌وبرق. هویت بصری Honest Lens بر پایه‌ی رنگ آبی کبالتی عمیق، سفید و یک نقطه‌ی رنگی «سیگنال» ساخته شد که در لوگو هم دیده می‌شود. چند جهت طراحی مختلف را بررسی کردیم و طرحی انتخاب شد که هم حرفه‌ای و روزنامه‌نگارانه باشد و هم در هر سه زبان خوش بنشیند. بنر، پوستر و تصاویر پیش‌نمایش شبکه‌های اجتماعی هم در همین زبان بصری طراحی شدند.

سه زبان، بدون مصالحه

پشتیبانی از فارسی برای ما یک ترجمه‌ی ساده نبود. کل رابط از ابتدا با منطق راست‌به‌چپ ساخته شد، به‌طوری که با عوض شدن زبان، چیدمان صفحه، جهت آیکون‌ها، فاصله‌ها و جداول همگی درست قرینه می‌شوند. اعداد در هر زبان با قالب همان زبان نمایش داده می‌شوند و فونت‌ها برای خوانایی فارسی، روسی و لاتین جداگانه انتخاب شدند. هر زبان نشانی جداگانه‌ی خودش را هم دارد، مثل honestlens.ir/fa و honestlens.ir/ru، تا کاربر و موتور جست‌وجو هر نسخه را مستقل ببینند.

صفحه‌ی اصلی که «چرا» را توضیح می‌دهد

در نسخه‌های اولیه متوجه شدیم شعار محصول برای کاربر تازه‌وارد به‌اندازه‌ی کافی روشن نیست. صفحه‌ی اصلی را بازطراحی کردیم تا به ترتیب به پرسش‌های ذهن کاربر پاسخ دهد: این چیست، چطور کار می‌کند، چه نتیجه‌هایی می‌دهد، چه فرقی با یک چت‌بات دارد و به چه منابعی تکیه می‌کند. نواری متحرک از منابعی که موتور واقعاً در گزارش‌هایش به آن‌ها استناد کرده، در صفحه دیده می‌شود. عمداً از لوگوی رسانه‌ها استفاده نکردیم، چون نمی‌خواستیم تأییدی را القا کنیم که وجود ندارد. در پایان هم بخش پرسش‌های متداول به نگرانی‌های رایج پاسخ می‌دهد: رایگان است؟ ممکن است اشتباه کند؟ متنی که وارد می‌کنم چه می‌شود؟

برای همه، روی هر دستگاهی

بیشتر کاربران خبر را روی گوشی دریافت می‌کنند، پس طراحی از ابتدا موبایل‌محور بود. کنتراست رنگ‌ها، اندازه‌ی دکمه‌ها و پیمایش با صفحه‌کلید هم برای دسترس‌پذیری در نظر گرفته شد.

مهندسی پشت صحنه

بخش بزرگی از کیفیت یک محصول در جاهایی است که کاربر هرگز نمی‌بیند. چند نمونه از تصمیم‌های فنی که Honest Lens را قابل‌اتکا کرده‌اند:

چند مدل هوش مصنوعی، بدون وابستگی به یکی

Honest Lens به یک ارائه‌دهنده‌ی هوش مصنوعی وابسته نیست. چند مدل از ارائه‌دهندگان مختلف پشت سیستم کار می‌کنند. اگر پاسخ مدل اول دیر شود، مدل دوم به‌طور موازی وارد عمل می‌شود و اولین پاسخ معتبر استفاده می‌شود. اگر یکی از سرویس‌ها از دسترس خارج شود، سیستم بی‌وقفه سراغ بعدی می‌رود. این معماری به‌خصوص برای کاربرانی مهم بود که در کشورهای تحت تحریم زندگی می‌کنند و ممکن است برخی سرویس‌ها برایشان محدود باشد.

سرعت با حافظه‌ی هوشمند

خبرهای پرتکرار را معمولاً ده‌ها نفر بررسی می‌کنند. نتیجه‌ی هر تحلیل برای مدتی ذخیره می‌شود تا اگر همان متن دوباره وارد شد، گزارش فوراً نمایش داده شود، بدون انتظار و بدون هزینه‌ی دوباره.

امنیت از روز اول

ابزاری که لینک‌های دلخواه کاربران را باز می‌کند، اگر درست طراحی نشود می‌تواند راه نفوذ باشد. ما چند لایه‌ی حفاظتی پیاده کردیم:

• جلوگیری از سوءاستفاده‌ی لینک‌ها برای دسترسی به شبکه‌های داخلی و سرورها. هر لینک پیش از باز شدن، و در هر تغییر مسیر، بررسی می‌شود.
• محدودیت تعداد درخواست برای هر کاربر، تا ابزار قربانی ربات‌ها و مصرف بی‌رویه نشود.
• سرتیترهای امنیتی سخت‌گیرانه در مرورگر برای جلوگیری از حملات رایج وب.
• نگهداری همه‌ی کلیدها و اطلاعات حساس فقط در سمت سرور، و ممیزی کامل پروژه برای اطمینان از اینکه هیچ اطلاعات حساسی در کد عمومی نیست.
• دسترسی به پایگاه داده فقط از مسیرهای کنترل‌شده‌ی سرور.
• بررسی وابستگی‌های نرم‌افزاری، که در آخرین ممیزی هیچ آسیب‌پذیری شناخته‌شده‌ای نداشت.

در دسترس، همان‌جایی که کاربران هستند

مخاطبان اصلی این پلتفرم در ایران و روسیه هستند؛ جاهایی که برخی زیرساخت‌های رایج اینترنت کُند یا محدودند. زیرساخت انتشار را طوری انتخاب کردیم که در آزمون دسترسی از مسکو، سن‌پترزبورگ، تهران و شیراز، سایت بدون مشکل باز شد.

دیده‌شدن: سئو و بهینه‌سازی برای موتورهای پاسخ هوش مصنوعی

ابزار خوب اگر دیده نشود، به کسی کمک نمی‌کند. امروز مردم فقط در گوگل جست‌وجو نمی‌کنند؛ از دستیارهای هوش مصنوعی هم می‌پرسند. برای همین Honest Lens هم برای موتورهای جست‌وجو (سئو) و هم برای موتورهای پاسخ هوش مصنوعی (GEO) بهینه شد:

• محتوای آماده برای ربات‌ها: صفحه‌ی اصلی، ردیاب تحریف و خودآزمایی در هر سه زبان از پیش ساخته می‌شوند، به‌طوری که ربات‌های گوگل و هوش مصنوعی بدون اجرای کد، کل محتوا را می‌بینند.
• وبلاگ تخصصی: ۲۰ مقاله‌ی آموزشی درباره‌ی سواد رسانه‌ای، راستی‌آزمایی و شناخت اطلاعات نادرست، به هر سه زبان؛ در مجموع ۶۰ صفحه‌ی محتوای اصیل.
• داده‌ی ساختاریافته: اطلاعات سازمان، وب‌سایت، اپلیکیشن، مقاله‌ها و پرسش‌های متداول به زبان استانداردی که موتورهای جست‌وجو می‌فهمند.
• پیوند زبان‌ها: هر صفحه به نسخه‌های دیگر زبانش ارجاع می‌دهد تا کاربر هر کشور نسخه‌ی زبان خودش را در نتایج ببیند.
• پیش‌نمایش زیبا در پیام‌رسان‌ها: وقتی لینک سایت در تلگرام، واتس‌اپ یا شبکه‌های اجتماعی فرستاده شود، عنوان، توضیح و تصویر مخصوص همان صفحه و همان زبان نمایش داده می‌شود.
• راهنمای ویژه‌ی هوش مصنوعی: فایلی استاندارد که به دستیارهای هوش مصنوعی توضیح می‌دهد این سایت چیست و کدام صفحه‌هایش مهم‌اند.

اصولی که در ساخت رعایت کردیم

برای ابزاری که درباره‌ی حقیقت است، شیوه‌ی ساختن به‌اندازه‌ی خود محصول مهم است. چند اصل را از ابتدا تا انتها رعایت کردیم:

• هیچ داده‌ی ساختگی. هیچ آمار، نظر کاربر یا نشان تأییدی جعل نشد. هر عددی که روی سایت هست، از اجرای واقعی آمده است.
• هیچ ادعای تأیید بی‌پشتوانه. از لوگوی رسانه‌ها یا نهادهایی که با پروژه همکاری نکرده‌اند استفاده نکردیم.
• شفافیت درباره‌ی محدودیت‌ها. در پرسش‌های متداول صریحاً نوشته‌ایم که ابزار ممکن است اشتباه کند و کاربر باید توضیح و منابع را بخواند، نه فقط نتیجه را.
• احترام به حریم خصوصی. بدون ثبت‌نام و بدون ردیاب‌های تبلیغاتی. به کاربر هم به‌روشنی گفته می‌شود متنی که وارد می‌کند برای ساخت لینک اشتراکی ذخیره می‌شود.

دستاوردها در یک نگاه

آنچه از این پروژه آموختیم

صداقت یک ویژگی محصول است، نه فقط یک ارزش. جاهایی که Honest Lens می‌گوید «نمی‌دانم» یا اشتباهاتش را منتشر می‌کند، ضعف محصول نیستند؛ دلیل اصلی اعتماد به آن‌اند. در بازاری پر از ادعاهای اغراق‌آمیز، اعتراف به محدودیت خودش یک مزیت رقابتی است.

هوش مصنوعی به‌تنهایی محصول نیست. مدل‌های زبانی را همه در اختیار دارند. ارزش واقعی در لایه‌هایی است که دورشان ساخته می‌شود: تقسیم متن به ادعاها، بررسی واقعی لینک‌ها، نمایش زنده‌ی فرایند، سنجش دقت و طراحی تجربه‌ای که به کاربر اعتماد بدهد.

زمان انتظار را می‌شود به تجربه تبدیل کرد. تحلیل عمیق زمان می‌برد. به‌جای پنهان کردن این زمان، آن را به پنجره‌ای برای دیدن کار سیستم تبدیل کردیم؛ همین شفافیت، اعتماد کاربر را بیشتر کرد.

چندزبانگی واقعی از روز اول طراحی می‌شود. اضافه کردن فارسی به محصولی که برای انگلیسی ساخته شده، همیشه نیمه‌کاره می‌ماند. چون Honest Lens از ابتدا سه‌زبانه طراحی شد، هر سه نسخه تجربه‌ای یکسان و کامل دارند.

جمع‌بندی

Honest Lens نشان می‌دهد که می‌شود با هوش مصنوعی ابزاری ساخت که به‌جای افزودن به سردرگمی، آن را کم کند؛ به شرطی که صداقت، شفافیت و کیفیت در تک‌تک لایه‌های محصول رعایت شود، از فلسفه‌ی «نمی‌دانم» تا بررسی تک‌تک لینک‌ها، از طراحی راست‌به‌چپ بی‌نقص تا امنیت و دیده‌شدن در موتورهای جست‌وجو. این پروژه را از ایده تا انتشار، با همه‌ی جزئیاتش، خودمان طراحی و ساختیم.

شما هم می‌توانید همین حالا آن را امتحان کنید: یک پیام فورواردی یا یک تیتر خبری را در راستی‌آزما وارد کنید و ببینید چه چیزی پشت آن است.