شرکت هوش مصنوعی OpenAI اخیراً نسخه جدیدی از "Model Spec" خود را منتشر کرده که شامل تغییراتی در سیاست‌های محتوایی ChatGPT است. یکی از مهم‌ترین تغییرات، مجاز شدن تولید محتواهای حساس مانند "اروتیکا" و "گور" (صحنه‌های خشونت‌آمیز) در زمینه‌های مناسب است. این تغییرات از ماه مه ۲۰۲۴ مورد بررسی قرار گرفته بود، زمانی که OpenAI اعلام کرد قصد دارد امکان تولید محتوای NSFW (نامناسب برای محیط‌های عمومی) را در شرایط سنی مناسب بررسی کند. بر اساس دستورالعمل‌های جدید، ChatGPT می‌تواند محتوای اروتیک یا خشونت‌آمیز ایجاد کند، اما فقط در شرایطی که از نظر علمی، تاریخی، خبری یا خلاقانه مناسب باشند. همچنین، OpenAI تأکید کرده که محتوای غیرقانونی یا فعالیت‌های جنسی غیررضایتمندانه همچنان ممنوع هستند. این دستورالعمل شامل متن، صدا و تصویر می‌شود. کاربران Reddit گزارش داده‌اند که فیلترهای محتوایی ChatGPT کاهش یافته‌اند و برخی موفق به ایجاد سناریوهای صریح جنسی یا خشونت‌آمیز بدون هشدارهای قبلی شده‌اند. با این حال، OpenAI تأکید کرده که خط‌مشی‌های استفاده از این ابزار همچنان اعمال می‌شوند، از جمله ممنوعیت استفاده از محتوای جنسی در ابزارهای ویژه کودکان.

نیاز به "حالت بزرگسال"

ChatGPT پیش‌تر به دلیل رویکرد محافظه‌کارانه خود در سانسور برخی محتواها مورد انتقاد قرار گرفته بود. این مسئله باعث شده بود که متخصصان در حوزه‌های مختلف، مانند تحلیل صحنه‌های جرم، روزنامه‌نگاری، اسناد حقوقی و پزشکی، در استفاده از این ابزار با محدودیت‌هایی روبرو شوند. به همین دلیل، درخواست‌هایی برای نسخه‌ای کمتر سانسورشده از ChatGPT مطرح شد. OpenAI در اسناد خود اشاره کرده که پس از انتشار اولیه Model Spec در مه ۲۰۲۴، بسیاری از کاربران و توسعه‌دهندگان خواستار امکان تولید محتوای حساس در چارچوب‌های مناسب شدند. سام آلتمن، مدیرعامل OpenAI، نیز قبلاً به لزوم ایجاد یک "حالت بزرگسال" اشاره کرده بود. این تغییرات جدید، هرچند یک "حالت" مشخص نیستند، اما در واقع یک سیاست جدید جهانی است که به کاربران اجازه تعامل آزادانه‌تر با این ابزار را می‌دهد. البته، مدل‌های زبانی بدون سانسور مدت‌هاست که توسط جوامع آنلاین توسعه داده شده‌اند. برخی کاربران این مدل‌ها را به دلیل تمایل به تولید محتوای سفارشی‌شده، از جمله پورنوگرافی، یا مخالفت با سانسور استفاده می‌کنند. در سال ۲۰۲۳، پس از افزایش سانسور در ChatGPT، برخی کاربران به استفاده از مدل‌های هوش مصنوعی متن‌باز که به صورت محلی اجرا می‌شدند، روی آوردند.

دسته‌بندی محتوای حساس

OpenAI محتوای حساس را به سه دسته تقسیم کرده است:
1.    محتوای ممنوع: شامل محتوای جنسی مرتبط با کودکان، که همیشه ممنوع است. اما این مدل می‌تواند در زمینه‌های آموزشی و غیرگرافیکی درباره این موضوع بحث کند.
2.    محتوای محدود: شامل اطلاعات خطرناک (مانند نحوه ساخت بمب، تولید مواد مخدر غیرقانونی) و داده‌های شخصی حساس (مانند آدرس افراد) که ChatGPT نباید تولید کند.
3.    محتوای حساس در زمینه‌های مناسب: شامل محتوای اروتیک و خشونت‌آمیز که فقط در زمینه‌های علمی، پزشکی، تاریخی و خلاقانه مجاز است.
به طور کلی، OpenAI با این تغییرات تلاش کرده تا بین حفظ امنیت کاربران و آزادی بیان تعادل برقرار کند و به کاربران حرفه‌ای ابزار قدرتمندتری ارائه دهد.

منبع خبر: arstechnica