اپلیکیشن Sora از شرکت هوش مصنوعی OpenAI به‌تازگی به یکی از داغ‌ترین پدیده‌های دنیای دیجیتال تبدیل شده است. ویدیوهای ساخته‌شده با این برنامه، شبکه‌های اجتماعی مانند TikTok، Instagram Reels و سایر پلتفرم‌ها را فرا گرفته‌اند و کاربران از حجم زیاد محتوای مصنوعی تولیدشده توسط آن خسته شده‌اند. اما کارشناسان امنیت دیجیتال می‌گویند تأثیر واقعی این پدیده فراتر از خستگی کاربران است؛ چرا که OpenAI عملاً مفهوم «دیپ‌فیک» را به سرگرمی عمومی تبدیل کرده است. به گفته‌ی «دیزی سودربرگ-ریوکن»، مدیر سابق بخش اعتماد و ایمنی تیک‌تاک، اکنون با ظهور Sora، جعل ویدیوها نه‌تنها عادی بلکه جذاب و سرگرم‌کننده به نظر می‌رسد. او این پدیده را به «دیپ‌فیکی تشبیه کرده که حالا هم مدیر تبلیغات دارد و هم قرارداد توزیع جهانی!».

کارشناسان معتقدند که این روند می‌تواند به فروپاشی مرز میان واقعیت و جعلیات آنلاین منجر شود. «آرون رودریکس»، مدیر ایمنی در شبکه اجتماعی Bluesky، هشدار داده است که در جهانی قطبی‌شده، ساخت ویدیوهای جعلی از سیاستمداران، اقلیت‌ها یا افراد مشهور می‌تواند به راحتی برای فریب، نفرت‌پراکنی یا حملات هدفمند مورد استفاده قرار گیرد؛ زیرا کاربران عادی توانایی تشخیص واقعی از مصنوعی را از دست داده‌اند.

سه کارمند پیشین OpenAI نیز در گفت‌وگو با NPR گفته‌اند که از راه‌اندازی این اپ غافل‌گیر نشده‌اند، زیرا فشار سرمایه‌گذاران برای جلب توجه جهانی مشابه با دوران ChatGPT بسیار زیاد است. با وجود محافظت‌های اولیه مانند فیلتر محتوا، واترمارک، و محدودیت در استفاده از چهره‌ها، بسیاری از کاربران به‌دنبال روش‌هایی برای دور زدن این محدودیت‌ها هستند و شرکت OpenAI نیز دائماً در تلاش است تا جلوی این تخلفات را بگیرد.

یکی از کارکنان سابق شرکت هشدار داده است که در رقابت شدید سیلیکون‌ولی، ممکن است شرکت‌ها برای جلو زدن از رقبا، استانداردهای ایمنی را کاهش دهند؛ موضوعی که در نهایت می‌تواند برای جامعه خطرناک باشد. کارشناسان پیش‌بینی می‌کنند که دیر یا زود اپلیکیشن‌هایی مشابه Sora اما بدون هیچ محدودیت اخلاقی یا فنی عرضه شوند. مشابه با زمانی که ایلان ماسک چت‌بات Grok را به عنوان نسخه‌ی «آزاد و ضد سانسور» ChatGPT معرفی کرد. به گفته رودریکس، در چنین شرایطی، محتواهای جعلی خطرناک‌تری مانند ویدیوهای کودک‌آزاری مصنوعی یا تبلیغات سیاسی ساختگی می‌توانند اینترنت را فراگیر کنند.

در حال حاضر، Sora پربازدیدترین اپلیکیشن آیفون است، اما فقط با دعوت‌نامه قابل استفاده می‌باشد. کاربران گزارش داده‌اند که محدودیت‌ها نسبت به روزهای اول افزایش یافته است و ساخت ویدیو از چهره‌ی سلبریتی‌ها یا موقعیت‌های سیاسی دشوارتر شده است. با این حال، هنوز هم برخی پرامپت‌های بحث‌برانگیز مانند بازداشت افراد یا لباس‌های نظامی حساس توسط مدل تولید می‌شود.

«سم آلتمن» مدیرعامل OpenAI اعلام کرده است که سیاست استفاده از چهره‌ها از حالت «انصرافی (Opt-out)» به «اجازه‌ای (Opt-in)» تغییر خواهد کرد و صاحبان حقوق چهره یا برندها در آینده سهمی از درآمد Sora دریافت می‌کنند. اما با گسترش بی‌پایان این ویدیوهای مصنوعی، کارشناسان هشدار می‌دهند که حتی اجرای سیاست «بدون هوش مصنوعی» در شبکه‌های اجتماعی نیز کارساز نخواهد بود، زیرا تشخیص ویدیوهای واقعی از مصنوعی روزبه‌روز سخت‌تر می‌شود. به گفته‌ی کارشناسان، عصر جدیدی آغاز شده که در آن، دیدن دیگر به معنای باور کردن نیست؛ و Sora، آغازگر این دگرگونی است.

منبع خبر: npr