در بیشتر طول تاریخ، یک عکس یا صدای ضبطشده شاهدی قوی بر وقوع چیزی بود. این فرض در حال پایان است. هوش مصنوعی مولد میتواند تصویر واقعنمای رویدادهایی را بسازد که هرگز رخ ندادهاند، صدای کسی را از روی نمونهای کوتاه شبیهسازی کند و ویدئویی بسازد که در آن افراد چیزهایی میگویند که هرگز نگفتهاند.
دو خطر، نه یکی
خطر اول آشکار است: رسانهی ساختگی که واقعی جا زده میشود. فایل صوتی جعلی یک مقام، عکس ساختهشده از یک فاجعه، ویدئوی دستکاریشدهی یک چهرهی عمومی.
خطر دوم آرامتر اما به همان اندازه جدی است. وقتی مردم میدانند جعل ممکن است، شواهد واقعی را هم میتوان جعلی خواند. پژوهشگران به این «سود دروغگو» میگویند: هر کسی که در یک ضبط واقعی گیر افتاده، میتواند ادعا کند ساختگی است. رسانهی مصنوعی اعتماد به رسانهی واقعی را هم فرسوده میکند.
چرا تشخیص بهتنهایی نجاتمان نمیدهد
ابزارهای تشخیص محتوای ساختگی مفیدند، اما در رقابتی دائمی با ابزارهای تولید آن قرار دارند. هر بهبودی در تشخیص با بهبودی در تولید پاسخ داده میشود. آشکارسازی که بیشتر وقتها درست میگوید، در مقیاس اینترنت همچنان بسیار زیاد اشتباه خواهد کرد.
منشأ: اثبات اینکه چیزی از کجا آمده
رویکردی پایدارتر، اثبات منشأ است: ثبت اینکه چه کسی و در چه لحظهای یک رسانه را ساخته و چگونه ویرایش شده است. ائتلاف منشأ و اصالت محتوا (C2PA) یک استاندارد فنی باز منتشر میکند که امکان میدهد چنین تاریخچهای، بهگونهای که دستکاریاش آشکار شود، به تصاویر و ویدئوها پیوست شود. بهجای پرسش «آیا جعلی به نظر میرسد؟» میپرسد: «آیا میتواند ثابت کند از کجا آمده؟»
عادتهایی که هنوز کار میکنند
- منبع را بررسی کنید، نه پیکسلها را. چه کسی اولین بار فایل را منتشر کرد و آیا سابقهای دارد؟
- دنبال تأیید مستقل باشید. یک رویداد واقعی معمولاً توسط چند نفر از زاویههای مختلف ثبت میشود.
- به زمانبندی بینقص مشکوک باشید. رسانهای که دقیقاً در لحظهای ظاهر میشود که از نظر سیاسی یا هیجانی بیشترین فایده را دارد، سزاوار دقت بیشتری است.
- دربارهی صدا عجله نکنید. شبیهسازی صدا ارزان و باورپذیر است؛ درخواستهای غیرعادی را از راه دیگری تأیید کنید.
موضع Honest Lens
Honest Lens ادعاهای متنی و مقالههای خبری را تحلیل میکند؛ ادعا نمیکند که تصویر یا صدای مصنوعی را تشخیص میدهد و وانمود هم نخواهد کرد. کاری که میتواند بکند، بررسی ادعاهایی است که همراه چنین رسانههایی میآیند. یک تصویر جعلی معمولاً با یک زیرنویس میرسد و آن زیرنویس ادعاهای قابل بررسی دارد: چه کسی، کجا، کی، چند نفر. موتور «ادعا تا شواهد» میتواند اینها را بسنجد.