رشد سریع فناوری هوش مصنوعی، به‌ویژه در حوزه تولید صدا و ترجمه خودکار، نه‌تنها صنعت موسیقی و سرگرمی را دگرگون کرده، بلکه به شکلی نگران‌کننده در حال تبدیل شدن به ابزاری قدرتمند برای گروه‌های افراطی و تروریستی در سراسر جهان است. کارشناسان امنیتی هشدار می‌دهند که جنبش‌های افراط‌گرا با بهره‌گیری از بات‌های تولید صدا و ابزارهای ترجمه مبتنی بر هوش مصنوعی، توانسته‌اند پیام‌های ایدئولوژیک خود را با کیفیتی بی‌سابقه و در مقیاسی جهانی منتشر کنند.

به گفته «لوکاس وبر»، تحلیلگر ارشد اطلاعات تهدید در سازمان Tech Against Terrorism، استفاده تروریست‌ها از ترجمه‌های مبتنی بر هوش مصنوعی نشان‌دهنده یک تحول اساسی در استراتژی‌های تبلیغات دیجیتال آن‌هاست. در گذشته، این گروه‌ها به مترجمان انسانی یا ترجمه‌های ماشینی ضعیف متکی بودند که اغلب از نظر دقت زبانی و انتقال احساسات دچار مشکل می‌شد. اما اکنون ابزارهای مولد پیشرفته قادرند ترجمه‌هایی روان، دقیق و با حفظ لحن، احساس و شدت ایدئولوژیک تولید کنند.

در جناح راست افراطی و نئونازی‌ها، استفاده از فناوری شبیه‌سازی صدا (Voice Cloning) به‌طور ویژه‌ای گسترش یافته است. نسخه‌های انگلیسی بازسازی‌شده از سخنرانی‌های آدولف هیتلر با کمک هوش مصنوعی، ده‌ها میلیون بازدید و استریم در شبکه‌هایی مانند X (توییتر سابق)، اینستاگرام و تیک‌تاک داشته‌اند. طبق گزارش شبکه جهانی افراط‌گرایی و فناوری (GNet)، برخی تولیدکنندگان محتوای افراطی از سرویس‌هایی مانند ElevenLabs استفاده می‌کنند و با تغذیه سخنرانی‌های آرشیوی دوران آلمان نازی، صدایی شبیه به هیتلر اما به زبان انگلیسی تولید می‌کنند.

گروه‌های نئونازی موسوم به «شتاب‌گرا» (Accelerationists) که به دنبال فروپاشی ساختارهای حکومتی غرب از طریق خشونت هستند، حتی پا را فراتر گذاشته‌اند. کتاب بدنام «Siege» نوشته جیمز میسون، ایدئولوگ نئونازی آمریکایی، اخیراً به کمک ابزارهای هوش مصنوعی به یک کتاب صوتی تبدیل شده است. سازنده این اثر با استفاده از مدل صدای سفارشی میسون، تمام متون و خبرنامه‌های قدیمی را بازسازی صوتی کرده و آن‌ها را در قالبی مدرن منتشر کرده است؛ اقدامی که به گفته کارشناسان، می‌تواند تأثیر روانی و تبلیغاتی این محتوا را چند برابر کند.

در سوی دیگر طیف افراط‌گرایی، گروه‌هایی مانند داعش نیز به‌طور فعال از هوش مصنوعی بهره می‌برند. رسانه‌های وابسته به داعش در شبکه‌های رمزگذاری‌شده، از ابزارهای تبدیل متن به گفتار برای تولید روایت‌های صوتی جذاب از متون ایدئولوژیک استفاده می‌کنند. همچنین، ترجمه خودکار آموزه‌های افراطی از عربی به زبان‌های مختلف، امکان جذب مخاطبان جدید در کشورهای غیرعربی را فراهم کرده است. نمونه‌ای از این روند در پلتفرم Rocket.Chat، که از سوی داعش استفاده می‌شود، مشاهده شده؛ جایی که یک کاربر ویدیویی با زیرنویس ژاپنی منتشر کرده و اذعان داشته که بدون کمک هوش مصنوعی، چنین ترجمه‌ای با حفظ ظرافت‌های زبانی تقریباً غیرممکن بود.

علاوه بر تولید صدا و ترجمه، برخی گروه‌های افراطی از ابزارهایی مانند ChatGPT برای تولید تصویر، تحقیق، برنامه‌ریزی و ساده‌سازی فعالیت‌های خود استفاده کرده‌اند. این موضوع بار دیگر نشان می‌دهد که همگام با پیشرفت فناوری، نهادهای مقابله با تروریسم با چالشی دائمی برای عقب نماندن از سوءاستفاده‌های فناورانه روبه‌رو هستند؛ چالشی که پیش‌تر در حوزه‌هایی مانند رمزارزها و سلاح‌های چاپ سه‌بعدی نیز تجربه شده است.

منبع خبر: theguardian