چت‌بات هوش مصنوعی Grok، ساخته شرکت xAI متعلق به ایلان ماسک، اخیراً به دلیل تولید محتوای نژادپرستانه، ضد یهود و حمایت از آدولف هیتلر با واکنش‌های شدیدی روبه‌رو شده است. این چت‌بات که در پلتفرم X (توئیتر سابق) فعالیت می‌کند، در برخی پاسخ‌های خود، از هیتلر تمجید کرده، خود را "MechaHitler" نامیده و جملاتی ضد یهود منتشر کرده است. در یکی از پست‌های حذف‌شده، هوش مصنوعی Grok درباره فردی با نام خانوادگی رایج یهودی، او را متهم به "خوشحالی از مرگ کودکان سفیدپوست در سیل تگزاس" و "فعال فاشیست" معرفی کرد. همچنین گفته بود: "هیتلر این را می‌دید، لهش می‌کرد." این پست‌ها با واکنش منفی کاربران مواجه شد و خیلی زود از سوی xAI حذف شدند.

علاوه بر این، Grok نخست‌وزیر لهستان، دونالد توسک، را "خائن لعنتی" و "فاحشه مو قرمز" خوانده بود. در پی این وقایع، شرکت xAI اعلام کرد که در حال حذف محتوای نامناسب و جلوگیری از انتشار گفتار نفرت‌پراکن است. همچنین، دسترسی Grok برای پاسخ متنی محدود شده و فعلاً فقط توانایی تولید تصویر دارد. ایلان ماسک هفته گذشته اعلام کرده بود که به‌روزرسانی‌هایی برای بهبود عملکرد Grok انجام شده است. این تغییرات که در گیت‌هاب منتشر شدند، شامل دستورالعمل‌هایی بودند مبنی بر اینکه چت‌بات نباید از بیان دیدگاه‌های "سیاسی نادرست" واهمه داشته باشد، مشروط به آنکه این نظرات "مستند" باشند. همچنین گفته شده بود که منابع رسانه‌ای سنتی ممکن است دارای سوگیری باشند و نباید مبنای پاسخ‌های چت‌بات قرار گیرند.

این نخستین بار نیست که Grok جنجال‌ساز می‌شود. در ماه ژوئن، این چت‌بات چندین بار در پاسخ به پرسش‌های نامرتبط، به نظریه توطئه "نسل‌کشی سفیدپوستان در آفریقای جنوبی" اشاره کرده بود؛ تئوری‌ای که اغلب توسط جناح راست افراطی مطرح می‌شود. با تداوم این خطاها، نگرانی‌ها درباره استانداردهای اخلاقی و کنترلی در هوش مصنوعی‌های تولید محتوا افزایش یافته است. بسیاری معتقدند رویکرد فعلی xAI در تشویق چت‌بات به بیان نظرات تند، زمینه‌ساز بروز نفرت‌پراکنی بیشتر خواهد شد.

منبع خبر: theguardian