هجوم اخبار جعلی با چهره‌ای واقعی؛ تهدید هوش مصنوعی برای اعتماد عمومی به رسانه‌ها
هجوم اخبار جعلی با چهره‌ای واقعی؛ تهدید هوش مصنوعی برای اعتماد عمومی به رسانه‌ها
در حالی که ابزارهای هوش مصنوعی به تولید محتوا سرعت بخشیده‌اند، تشخیص اخبار واقعی از جعلی به یکی از دشوارترین چالش‌های عصر دیجیتال تبدیل شده است.
این پدیده به‌ویژه در کشورهایی چون ایران، افغانستان و تاجیکستان، تأثیرات خطرناکی بر افکار عمومی داشته است.
در عصر هوش مصنوعی، تشخیص واقعیت از جعل به چالشی اساسی تبدیل شده است.
بسیاری از محتواهای ویدیویی که در پلتفرم‌هایی چون تیک تاک، تلگرام و اینستاگرام منتشر می‌شوند، در واقع تولیداتی جعلی‌اند که با استفاده از ابزارهایی مانند (وی‌او – Veo) و سینتسیا – Synthesia) ساخته شده‌اند.
این ویدیوها با ظاهری خبری، گرافیک حرفه‌ای و گوینده‌های ساختگی، مخاطب را به راحتی فریب می‌دهند.
به گزارش دویچه‌وله، در موارد متعددی حتی روزنامه‌نگاران باتجربه نیز در نگاه اول متوجه جعلی بودن این ویدیوها نشده‌اند.
هانی فرید، متخصص جرم‌شناسی دیجیتال در دانشگاه برکلی، هشدار داده است که این محتواها به گونه‌ای طراحی می‌شوند که احساس فوریت و واقع‌گرای، به‌ویژه در زمان بحران‌های سیاسی یا نظامی را القا می کنند.
تحلیلگران می گویند، به عنوان مثال یکی از اهداف اصلی گروه تروریستی سنی های تندروی داعش از تولید ویدیوها و ارائه اخبار تولید شده توسط هوش مصنوعی، فریب دادن نسل جوان است.
گروه سنی های تندروی داعش از قابلیت های رو به رشد هوش مصنوعی (AI) برای ایجاد و نشر تبلیغات، از جمله ساختن ویدیوهای حملات با هدف فریب بینندگان و تقویت حضور آنلاین خود، بهره برداری می کند.
گروه سنی های تندروی داعش برای نشان دادن قوت خود از مجریان خبری تولید شده توسط هوش مصنوعی استفاده می کند.
در جریان درگیری ایران و اسرائیل نیز ده‌ها ویدیوی جعلی از حملات موشکی، حضور نیروهای خارجی و سقوط هواپیماها منتشر شد که بعدها مشخص شد هیچ‌کدام صحت نداشتند.
در ایران، ویدیویی در قالب گزارش تلویزیونی با ظاهر رسانه‌های رسمی درباره حمله به یک مرکز علمی در مشهد منتشر شد؛ اما معلوم شد که گوینده، آواتاری ساخته‌شده با هوش مصنوعی بوده است.
در افغانستان، کلیپی دست‌به‌دست شد که نشان می‌داد یکی از فرماندهان طالبان مصاحبه‌ای با رسانه‌ای خارجی انجام داده است، در حالی که صدا و تصویر او هر دو ساختگی بودند.
در تاجیکستان نیز، گزارشی با لوگوی جعلی تلویزیون ملی درباره آغاز یک عملیات نظامی خیالی منتشر شد که وحشت عمومی را برانگیخت.
برای تشخیص این محتواها باید به نشانه‌هایی مانند حرکات غیرعادی چشم، عدم تطابق لب‌خوانی، پس‌زمینه‌های ناقص و زیرنویس‌های دارای اشتباه توجه کرد.
هانی فرید، متخصص جرم‌شناسی دیجیتال در دانشگاه برکلی تأکید می‌کند که تنها راه مقابله با این بحران، آگاهی رسانه‌ای و پایبندی به منابع خبری معتبر و مستقل است.
