بیشتر سامانهها برای پاسخ دادن طراحی شدهاند. موتورهای جستجو همیشه نتیجهای نشان میدهند، چتباتها همیشه جوابی میدهند و تحلیلگران همیشه نظری دارند. سکوت شبیه شکست به نظر میرسد. اما در راستیآزمایی، پاسخی که شاهد ندارد از بیپاسخی بدتر است.
هزینهی حدس مطمئن
ادعایی را دربارهی نتیجهی یک انتخابات محلی تصور کنید که یک ساعت پیش منتشر شده و هنوز هیچ دادهی رسمیای در دسترس نیست. راستیآزمایی که آن را «درست» یا «نادرست» اعلام کند، حدس زده است. اگر حدسش درست باشد، کسی متوجه نمیشود. اگر نادرست باشد، تازه یک اطلاعات نادرست جدید به جهان اضافه کرده، این بار با مُهر «بررسیشده».
به همین دلیل یک حدس مطمئن از یک خلأ صادقانه خطرناکتر است؛ اعتباری را قرض میگیرد که به دست نیاورده است.
«شواهد ناکافی» یک نتیجهی واقعی است
Honest Lens از چهار نتیجه استفاده میکند: تأییدشده، ردشده، گمراهکننده و شواهد ناکافی. نتیجهی چهارم راهی مؤدبانه برای گفتن «ما شکست خوردیم» نیست. جملهای دقیق است: شواهد عمومی که همین حالا در دسترس است، از هیچکدام از دو طرف نتیجهگیری قاطع را پشتیبانی نمیکند.
این نتیجه از سه راه از خوانندگان محافظت میکند:
- نمیگذارد ادعایی را که هنوز حل نشده، بهعنوان امری قطعی همرسانی کنند.
- نشان میدهد کجا شاهدی وجود ندارد، و اغلب داستان واقعی همانجاست.
- ابزار را در طول زمان صادق نگه میدارد، چون سامانهای که هرگز نمیگوید «نمیدانم»، سرانجام با اطمینان کامل چیزی نادرست خواهد گفت.
چرا این برای هوش مصنوعی مهمتر است
مدلهای زبانی برای تولید متنی روان آموزش دیدهاند. وقتی اطلاعات کافی ندارند، باز هم میتوانند پاسخی روان بسازند، و روانی شبیه دانستن به گوش میرسد. این ریشهی مشکلی است که معمولاً «توهم» هوش مصنوعی نامیده میشود.
Honest Lens طوری ساخته شده که در برابر این گرایش بایستد. در دستورالعملهایش صریحاً آمده که حدس زدن شکست است و «شواهد ناکافی» پاسخی درست است. پیوندهایی را که نمیتواند تأیید کند نشان نمیدهد و هرگز برای پر کردن یک خلأ منبعی جعل نمیکند.
بهعنوان خواننده از آن چطور استفاده کنید
وقتی «شواهد ناکافی» را میبینید، آن را اطلاعات بدانید نه بنبست. بپرسید چه شاهدی میتواند این پرسش را حل کند: یک سند رسمی، یک پژوهش منتشرشده، یک منبع مستقل دوم. سپس دنبال آن شاهد بگردید، یا پیش از همرسانی منتظرش بمانید.
صادقانهترین جملهی روزنامهنگاری اغلب کوتاهترین آن است: هنوز نمیدانیم.