ابزار تولید ویدئوی هوش مصنوعی Grok Imagine متعلق به شرکت xAI ایلان ماسک، به ایجاد ویدئوهای جنسی غیرمجاز از خواننده مشهور تیلور سویفت متهم شده است. طبق گزارش The Verge، حالت جدید «Spicy» در این ابزار، حتی بدون درخواست کاربر برای محتوای بزرگسالانه، ویدئوهای برهنه و بدون سانسور از این خواننده تولید کرده است. کلر مک‌گلین، استاد حقوق دانشگاه دورهام و یکی از طراحان قانون منع دیپ‌فیک‌های پورنوگرافیک، این اقدام را «انتخابی عمدی» و نه تصادفی دانسته و تأکید کرده است: «این یک زن‌ستیزی طراحی‌شده است، نه یک اتفاق ناخواسته.» او همچنین انتقاد کرد که پلتفرم‌هایی مانند X می‌توانستند از وقوع چنین مواردی جلوگیری کنند، اما آگاهانه این کار را نکرده‌اند.

گزارش‌ها نشان می‌دهد که سیاست استفاده مجاز xAI به‌صراحت انتشار تصاویر پورنوگرافیک افراد واقعی را ممنوع کرده است. با این حال، در آزمایش خبرنگار The Verge، وارد کردن یک دستور ساده با موضوع «تیلور سویفت در حال جشن گرفتن در کوACHElla» و انتخاب حالت «Spicy»، منجر به تولید ویدئوهایی شد که در آن لباس سویفت فوراً حذف و بدن او به‌طور کامل نمایش داده شد.

این خبرنگار می‌گوید: «من هیچ‌گاه در دستور خود خواستار برهنگی نشدم، تنها گزینه Spicy را انتخاب کردم، اما بلافاصله با ویدئوی کاملاً عریان مواجه شدم.» مشابه این نتایج در گزارش وب‌سایت Gizmodo نیز دیده شده است؛ هرچند برخی جستجوها پیام «ویدئو توسط سیستم بررسی شد» یا نسخه محو شده را برگرداندند. این مسئله نگرانی‌های جدی در مورد نبود سیستم تأیید سن کاربر ایجاد کرده است. با اینکه از کاربر تاریخ تولد پرسیده می‌شد، اما هیچ مکانیزم دقیق و مطمئنی برای اطمینان از سن قانونی وجود نداشت. بر اساس قوانین جدید بریتانیا که از ژوئیه ۲۰۲۵ اجرا شده‌اند، پلتفرم‌هایی که محتوای جنسی نمایش می‌دهند، باید از روش‌های دقیق، قابل اعتماد و عادلانه برای تأیید سن کاربران استفاده کنند.

سازمان Ofcom بریتانیا نیز اعلام کرده که ابزارهای هوش مصنوعی مولد که قادر به تولید محتوای جنسی هستند، تحت قانون جدید قرار می‌گیرند و ملزم به اجرای سیستم‌های ایمنی قوی برای جلوگیری از دسترسی کودکان خواهند بود. این سازمان هشدار داده است که خطرات ناشی از این فناوری‌ها در حال افزایش سریع است و پلتفرم‌ها باید مسئولیت‌پذیر باشند. این اولین بار نیست که تصویر تیلور سویفت هدف دیپ‌فیک‌های جنسی قرار می‌گیرد. در ژانویه ۲۰۲۴، ویدئوهای غیراخلاقی دیپ‌فیک او میلیون‌ها بار در X و تلگرام دیده شد و موجی از انتقادات به فناوری دیپ‌فیک را برانگیخت. در مجموع، ماجرا بار دیگر بحث مسئولیت‌پذیری شرکت‌های فناوری در برابر تولید محتوای غیراخلاقی توسط هوش مصنوعی را به صدر اخبار آورده و نگرانی‌های جهانی درباره زن‌ستیزی الگوریتمی و نبود حفاظت از حریم خصوصی افراد مشهور را تشدید کرده است.

منبع خبر: bbc