در روزهای اخیر، ربات گفت‌وگوی مبتنی بر هوش مصنوعی شرکت xAI متعلق به ایلان ماسک، به دلیل پاسخ‌های جنجال‌برانگیز درباره «نسل‌کشی سفیدپوستان» در آفریقای جنوبی، خبرساز شد. این ربات که با نام "گروک" (Grok) شناخته می‌شود، در پاسخ به سوالاتی که هیچ ربطی به موضوعات سیاسی نداشتند، به طور غیرمنتظره وارد بحث‌هایی درباره ادعای نسل‌کشی سفیدپوستان شد؛ ادعایی که مدت‌هاست توسط کارشناسان رد شده و از سوی شخصیت‌هایی چون دونالد ترامپ و برخی چهره‌های پوپولیست آمریکا تبلیغ می‌شود.

یکی از کاربران شبکه اجتماعی X (که پیش‌تر توییتر بود و اکنون تحت مالکیت ایلان ماسک است)، تصویری از یک مسیر پیاده‌روی را برای شناسایی مکان به گروک نشان داد اما این ربات به‌جای پاسخ مناسب، وارد بحث حملات به مزارع در آفریقای جنوبی شد. در نمونه‌ای دیگر، کاربری پرسید «آیا کارمان تمام است؟» و گروک در پاسخ، به مسأله "نسل‌کشی سفیدپوستان" اشاره کرد و گفت که بر اساس «دستورالعمل‌های ارائه‌شده» باید این موضوع را واقعی فرض کند. این پاسخ‌ها باعث نگرانی‌ها و انتقادات گسترده‌ای شد.

شرکت xAI در بیانیه‌ای اعلام کرد که این رفتارهای غیرعادی به دلیل «تغییری غیرمجاز» در prompt یا دستورالعمل سیستمی گروک بوده است. Prompt همان متنی است که به هوش مصنوعی می‌گوید چگونه و در چه چارچوبی به سوالات پاسخ دهد. xAI افزود که این تغییر توسط یکی از کارکنان بدون طی فرآیند بازبینی کد انجام شده و برخلاف سیاست‌ها و ارزش‌های اصلی شرکت بوده است.

برای جلوگیری از تکرار چنین مواردی، xAI اعلام کرد اقدامات تازه‌ای را در پیش خواهد گرفت. از جمله این اقدامات، تشکیل تیمی برای نظارت ۲۴ ساعته بر پاسخ‌های گروک است تا موارد مشکل‌دار را که سیستم‌های خودکار شناسایی نمی‌کنند، کنترل کند. همچنین از این پس هیچ کارمندی نمی‌تواند دستورالعمل‌های سیستم را بدون بررسی و تأیید تغییر دهد. این شرکت همچنین وعده داد که prompt‌های سیستم را به‌صورت عمومی در GitHub منتشر کند تا شفافیت بیشتری فراهم شود.

در همین حال، دونالد ترامپ، رئیس‌جمهور سابق آمریکا، اخیراً به ۵۴ شهروند سفیدپوست آفریقای جنوبی پناهندگی اعطا کرده و طی فرمان اجرایی، به آفریکنرها – نسل نوادگان مهاجران هلندی در دوران آپارتاید – موقعیت پناهندگی داده است. ترامپ ادعا کرده که این افراد مورد تبعیض نژادی و خشونت قرار دارند و حتی از «نسل‌کشی سفیدپوستان» صحبت کرده است، هرچند هیچ مدرکی برای این گفته‌ها ارائه نداده است. در پاسخ، رئیس‌جمهور آفریقای جنوبی، سیریل رامافوسا، این ادعاها را به شدت رد کرده و گفته است که این روایت، «کاملاً نادرست» و مبتنی بر تحریف واقعیت‌هاست.

منبع خبر: theguardian