در پی کشته شدن چارلی کرک، فعال محافظه‌کار آمریکایی، حجم زیادی از اطلاعات نادرست و تئوری‌های توطئه در شبکه‌های اجتماعی منتشر شد. این اخبار جعلی نه تنها توسط کاربران بلکه با کمک ابزارهای هوش مصنوعی مولد نیز تقویت و بازنشر شدند. گزارش CBS News نشان می‌دهد که Grok، چت‌بات هوش مصنوعی متعلق به شبکه اجتماعی X (توئیتر سابق)، در دست‌کم ۱۰ پست هویت مظنون را به اشتباه معرفی کرد. در حالی که فرد بازداشت‌شده بعداً به‌عنوان تایلر رابینسون، ساکن یوتای جنوبی شناسایی شد، نام و تصویر افراد بی‌گناه پیش از اعلام رسمی پلیس در فضای مجازی دست‌به‌دست شد.

این چت‌بات همچنین تصاویر منتشرشده توسط FBI را به‌طور مصنوعی "بهبود" داده و تغییر داده بود. یکی از این تصاویر توسط اداره کلانتری شهرستان واشنگتن بازنشر شد اما بعداً مشخص شد که تصویر توسط هوش مصنوعی تغییر یافته و چهره و لباس مظنون به‌طور غیرواقعی دستکاری شده است. حتی برخی تصاویر او را بسیار مسن‌تر از سن واقعی‌اش (۲۲ سال) نشان می‌دادند.

افزون بر این، ویدئوهای هوش مصنوعی نیز در X منتشر شد که چهره رابینسون را صاف‌تر و طرح لباس او را تغییر داده بودند. چنین محتواهایی توسط حساب‌های پرطرفدار با میلیون‌ها دنبال‌کننده بازنشر شد و هزاران بار دیده شد. پس از دستگیری رابینسون، پاسخ‌های Grok به پرسش کاربران درباره او متناقض بود. در یک مورد، او را جمهوری‌خواه معرفی کرد و در پاسخ دیگر، بی‌طرف. در حالی که طبق اسناد رسمی، رابینسون وابسته به هیچ حزب سیاسی نیست.

مشکل فقط به Grok محدود نبود. ابزارهای دیگر نیز اطلاعات غلط منتشر کردند. برای مثال، بات Perplexity در X حادثه را یک «سناریوی فرضی» توصیف کرده و حتی مدعی شد بیانیه کاخ سفید درباره مرگ کرک ساختگی است. این شرکت بعداً بات خود را از X حذف کرد و تأکید کرد که «دقت در هوش مصنوعی» اولویت اصلی آن‌هاست، اما هیچ‌گاه نمی‌توان ادعا کرد که ۱۰۰٪ درست است. Google AI Overview نیز در نتایج جستجو اشتباه کرد. در یکی از جستجوها نام هانتر کوزاک، آخرین فردی که از کرک سؤال کرده بود، به‌عنوان مظنون معرفی شد. این خطا صبح روز بعد اصلاح شد.

به گفته پروفسور اس. شیام سوندار از دانشگاه پنسیلوانیا، مشکل اصلی این است که هوش مصنوعی بر پایه «احتمال» متن تولید می‌کند نه تأیید واقعیات. او تأکید کرد که کاربران معمولاً به ماشین‌ها بیشتر از انسان‌های ناشناس اعتماد می‌کنند، چرا که تصور می‌شود هوش مصنوعی بی‌طرف است. همین موضوع باعث می‌شود در شرایط حساس، اخبار نادرست با سرعت بیشتری پخش شود.

اسپنسر کاکس، فرماندار یوتا، نیز هشدار داد که علاوه بر اشتباهات هوش مصنوعی، ربات‌های خارجی به‌ویژه از سوی روسیه و چین در حال پخش اطلاعات نادرست و تحریک به خشونت هستند. او از شهروندان خواست کمتر در شبکه‌های اجتماعی وقت بگذرانند و به زندگی خانوادگی توجه بیشتری کنند. این ماجرا بار دیگر نشان داد که در رخدادهای فوری و حساس، هوش مصنوعی می‌تواند به‌جای شفاف‌سازی، عاملی برای تشویش اذهان عمومی و انتشار شایعات شود. موضوعی که لزوم نظارت دقیق‌تر بر ابزارهای هوش مصنوعی و نحوه استفاده از آن‌ها را پررنگ‌تر می‌کند.

منبع خبر: cbsnews