توسط بیدیشا سها: به نظر می‌رسد یک تصویر جعلی هوش مصنوعی باعث گمانه‌زنی‌ها در بازار سهام شده، کانال‌های تلویزیونی را فریب می‌دهد و در انبوهی از اطلاعات نادرست به تیتر اخبار تبدیل شده است. اما، چگونه تلاش عده ای مبتدی به سرفصل بین المللی تبدیل شد و چه درس هایی می توان از این موضوع گرفت؟
ابهام در مورد کاربردهای سرویس Twitter Blue، پیچیدگی روزافزون تصاویر هوش مصنوعی و فقدان مقررات در مورد اطلاعات نادرست، همگی به ایجاد ترکیبی از یک نمونه حماسی از جعل آنلاین کمک کرده‌اند.
روز دوشنبه، تصویر جعلی که ظاهراً انفجاری را در نزدیکی ساختمانی با ظاهری بوروکراسی نشان می‌دهد که ادعا می‌شود مقر وزارت دفاع ایالات متحده (DoD) یا پنتاگون است، توسط چندین حساب توییتر تأیید شده به اشتراک گذاشته شد.
تصویر مذکور نشان‌دهنده‌های واضحی از ایجاد هوش مصنوعی است و توسط حساب‌های تایید شده متعدد با علامت‌های آبی به اشتراک گذاشته شده است، از جمله یکی که به دروغ ادعا می‌کند با اخبار بلومبرگ مرتبط است.
تصویر دود سیاهی که از باغ نزدیک ساختمان پنتاگون برمی خیزد به طور مصنوعی ایجاد شده و توسط حساب آبی توییتر با نام «فید بلومبرگ» بازنشر شده است. این امر این تصور را ایجاد کرد که یکی از پرتال های خبری اصلی مستقر در ایالات متحده، مشروعیت این حادثه را تأیید کرده است که در واقع یک دسته جعلی بود. اکنون حساب توییتر به حالت تعلیق درآمده است.
همچنین بخوانید | مردی با استفاده از ChatGPT اخبار جعلی درباره تصادف قطار پخش می کند، دستگیر می شود
TWITTER BLUE چقدر درست است؟
توییتر تحت مالکیت جدیدش، ایلان ماسک، به هر کسی اجازه داده است که در ازای دریافت هزینه ماهانه، یک حساب تایید شده دریافت کند. در نتیجه، راستی‌آزمایی توییتر دیگر نشانگر یک حساب قدیمی نیست که نشان‌دهنده افرادی است که ادعا می‌کند نماینده آن هستند.
این رویداد همچنین چالش‌های راستی‌آزمایی در توییتر را برجسته کرد، زیرا این پلتفرم سرویس اشتراک خود را در نوامبر 2022 معرفی کرد. تحت برنامه آبی جدید توییتر که ماه گذشته اجرا شد، افراد می‌توانند ماهانه 8 دلار برای علامت آبی بپردازند.
نگرانی‌ها در مورد حساب‌هایی که جعل شخصیت‌های عمومی، مقامات دولتی و سایت‌های خبری هستند از زمان تغییر افزایش یافته است.
ایلان ماسک همچنین اشاره کرد که اکانت‌های آبی توییتر در فیدها و جدول‌های زمانی بیشتر دیده می‌شوند و از این طریق کسانی که در توییتر بلو مشترک نشده‌اند سرکوب می‌شوند.
همچنین بخوانید | بررسی حقایق: نه، ایلان ماسک هرگز توییت نکرد که عمران خان، نخست‌وزیر سابق پاکستان بیشترین فالوورهای «جعلی» توییتر را دارد.
تحت رژیم راستی‌آزمایی جدید، یک فرد یا یک شبکه (سازمان دولتی یا غیردولتی) می‌تواند یک حمله هماهنگ به سایر نهادها یا یک کمپین اطلاعات نادرست انجام دهد و ممکن است در نهایت برداشت‌های بیشتری دریافت کند.
همچنین شایان ذکر است که حساب رسمی آژانس حفاظت از نیروی پنتاگون، که در واقع پنتاگون را کنترل می‌کند، برای علامت آبی پولی پرداخت نمی‌کند، و توییتر به آن علامت چک خاکستری (که اکنون نشانگر موسسه تایید شده).
این آژانس پیامی را بازنشر کرد که در آن در ساعت 10:27 صبح “بدون انفجار” وجود داشت که تنها 78000 بازدید داشت.
اما جالب اینجاست که یک حساب پولی دیگر در توییتر با علامت‌های تأیید شده آبی رنگ بیش از 341.7 هزار بازدید داشته است. تیک های آبی اکنون به کاربران مستقل داده می شود، در حالی که یک علامت تیک زرد برای سازمان ها وجود دارد.
OSINTdefender، یک صفحه توییتر که اخبار مربوط به درگیری های نظامی بین المللی را به اشتراک می گذارد و بیش از 336000 دنبال کننده دارد، نیز یکی از صفحات تأیید شده ای بود که این عکس را به اشتراک گذاشت.
این صفحه بعداً به دلیل انتشار اطلاعات نادرست عذرخواهی کرد و گفت که این حادثه نمونه ای از این است که «به راحتی می توان از این نوع تصاویر برای دستکاری فضای اطلاعاتی استفاده کرد و این موضوع تا چه حد می تواند در آینده خطرناک باشد».
نحوه شناسایی تصاویر جعلی AI
نیک واترز، محقق بلینگکت، از جمله گزارش های اولیه ای بود که تشخیص داد این تصویر توسط هوش مصنوعی ایجاد شده است. او در توییت خود، برخی از شاخص‌ها را مشخص کرد که می‌توان از آنها برای بررسی صحت تصاویر آنلاین استفاده کرد و همچنین بر اهمیت نگاه دقیق به محتوایی که آنلاین می‌بینیم تأکید کرد.
ادغام “غیر معمول” حصار ساختمان در موانع جمعیت نشان داد که تصویر می تواند به طور مصنوعی ساخته یا دستکاری شده باشد.
همچنین بخوانید | در بینگ جدید، هندی ها برترین سازندگان تصاویر جعلی هوش مصنوعی هستند
در مرحله بعد، برای رویدادی با چنین اهمیت فرامحلی، بسیار مهم است که شاهدان دست اول یا حساب‌های گپی وجود داشته باشند که بلافاصله در توییتر زوایای مختلف سایت انفجار را به اشتراک بگذارند. همچنین، یک موقعیت جغرافیایی ساده از محل حمله می تواند حقایقی را نشان دهد که به تشخیص تصاویر واقعی از تصاویر جعلی کمک می کند.
به نظر نمی رسد ساختار موجود در تصویری که به صورت آنلاین به اشتراک گذاشته شده است، شباهتی به نمای بیرونی مقر وزارت دفاع، که یک ساختمان عظیم پنج وجهی است، نداشته باشد.
حتی برخی با انتشار مجدد توییت مدعی شدند که این ساختمان محل اقامت روسای جمهور آمریکا، کاخ سفید است، اما ساختار تصویر مذکور هیچ شباهتی به آن ندارد.
تلویزیون زمین که پخش مستقیم فیلم وب‌کم از نمای بیرونی مناطق حفاظت‌شده واشنگتن از جمله کاخ سفید را ارائه می‌کند، همچنین تأیید کرد که در خارج از ساختمان دود وجود ندارد.
تصاویر نادرست این انفجار نیز به روی آنتن چند شبکه بزرگ هندی راه یافت. اما بعداً وقتی مشخص شد این حادثه اتفاق نیفتاده است، گزارش را پس گرفتند.
در میان وب‌سایت‌های خبری بین‌المللی، شبکه‌های خبری روسیه تودی و زیرو هج که تحت کنترل دولت روسیه است نیز تصاویری از دسته‌های رسانه‌های اجتماعی خود را توییت کردند.
منبع اصلی این تصویر در حال حاضر قابل ردیابی نیست، اما یک توییت خبرگزاری فرانسه ادعا کرد که تصویر پنتاگون از “CBKNEWS”، یک حساب QAnon که قبلاً به اشتراک‌گذاری اطلاعات نادرست شناخته شده بود، آمده است.
حساب‌های QAnon صفحات وب ناشناسی هستند که محتوای تایید نشده و تئوری‌های توطئه داخلی در مورد واشنگتن و دولت ترامپ را به اشتراک می‌گذارند.
اداره آتش نشانی در آرلینگتون، ویرجینیا، بعداً در توییتی پاسخ داد و اعلام کرد که این سازمان و آژانس حفاظت از نیروی پنتاگون “از گزارش رسانه های اجتماعی که در فضای مجازی در مورد یک انفجار در نزدیکی پنتاگون منتشر شده بود، آگاه بودند. هیچ انفجار یا حادثه‌ای در یا در نزدیکی رزرو پنتاگون رخ نداده است و هیچ خطر یا خطر فوری برای مردم وجود ندارد.»
وزارت دفاع آمریکا نیز بعداً با انتشار توییتی جعلی بودن این تصویر را تایید کرد.
همچنین بخوانید | دونالد ترامپ در بازداشت است. حداقل طبق این تصاویر هوش مصنوعی ویروسی
این تصویر یکی از چندین تصویر ویروسی تولید شده توسط هوش مصنوعی است که در هفته‌های اخیر در شبکه‌های اجتماعی سر و صدایی ایجاد کرده است، از جمله تصویری که پاپ با یک کت سفید فشن به تن دارد، دونالد ترامپ، رئیس‌جمهور سابق آمریکا دستگیر شده است و غیره.
موارد مختلف جعل تولید شده توسط هوش مصنوعی و محبوبیت فزاینده آن را به نمایش می گذارد و بر آشفتگی هایی که این برنامه های پیچیده و با دسترسی آسان می توانند ایجاد کنند، نشان می دهد.
تیم OSINT India Today قبلاً خطرات احتمالی را بررسی کرده بود که تأیید پولی دسته‌های تأیید شده جعلی می‌تواند با افزایش تعداد حساب‌های جعلی و جعل هویت تأیید شده در ازای پرداخت هزینه به همراه داشته باشد.
