دولت بریتانیا اعلام کرد که چهار قانون جدید برای مقابله با تهدید تصاویر سوءاستفاده جنسی از کودکان که با هوش مصنوعی تولید شده‌اند، تصویب خواهد شد. این کشور اولین کشور جهان خواهد بود که مالکیت، ایجاد یا توزیع ابزارهای هوش مصنوعی برای تولید چنین محتوایی را غیرقانونی اعلام می‌کند. مجرمان در این زمینه تا پنج سال زندان محکوم خواهند شد. همچنین، داشتن «دست‌نامه‌های پدوفیلی» که به افراد آموزش می‌دهند چگونه از هوش مصنوعی برای سوءاستفاده جنسی استفاده کنند، غیرقانونی شده و مجرمان تا سه سال زندانی خواهند شد. وزیر کشور بریتانیا، یوت کوپر، هشدار داده که هوش مصنوعی باعث افزایش گسترده سوءاستفاده آنلاین از کودکان شده و ممکن است اقدامات بیشتری برای مقابله با این تهدید لازم باشد.

قوانین جدید شامل جرم‌انگاری راه‌اندازی وب‌سایت‌هایی است که امکان اشتراک‌گذاری محتوای سوءاستفاده جنسی از کودکان را فراهم می‌کنند یا به افراد راهکارهایی برای فریب کودکان ارائه می‌دهند. مجازات این جرم تا ۱۰ سال زندان در نظر گرفته شده است. همچنین، نیروهای مرزی بریتانیا مجاز خواهند بود افراد مشکوک به تهدید جنسی کودکان را هنگام ورود به کشور مجبور به باز کردن دستگاه‌های دیجیتالشان کنند. بسته به شدت تصاویر یافت‌شده، مجازات این اقدام تا سه سال زندان خواهد بود. تصاویر سوءاستفاده جنسی تولیدشده توسط هوش مصنوعی شامل تصاویر کاملاً یا تا حدی تولیدشده کامپیوتری هستند. برخی از نرم‌افزارها می‌توانند تصاویر واقعی را تغییر داده یا چهره یک کودک را با دیگری جایگزین کنند و تصاویری واقع‌گرایانه ایجاد نمایند. حتی در برخی موارد، از صدای واقعی کودکان نیز استفاده می‌شود، که منجر به قربانی شدن مجدد آنان می‌شود.

همچنین، این تصاویر جعلی برای باج‌گیری از کودکان و وادار کردن آنها به سوءاستفاده بیشتر استفاده می‌شود. آژانس جرایم ملی بریتانیا گزارش داده که هر ماه ۸۰۰ نفر به دلیل تهدیدهای آنلاین علیه کودکان بازداشت می‌شوند و ۸۴۰,۰۰۰ بزرگسال در این کشور تهدیدی برای کودکان محسوب می‌شوند. کوپر تأکید کرد که فناوری به سرعت در حال پیشرفت است و قوانین نیز باید به‌روز شوند. برخی از کارشناسان از این قوانین استقبال کرده‌اند اما معتقدند که دولت می‌توانست اقدامات بیشتری انجام دهد. پروفسور کلر مک‌گلین خواستار ممنوعیت برنامه‌های «نودیفای» شده که تصاویر را تغییر می‌دهند و همچنین حذف محتوای جنسی با بازیگران بزرگسال اما با ظاهر کودکان در سایت‌های پورنوگرافی، زیرا این محتوا می‌تواند سوءاستفاده جنسی از کودکان را عادی جلوه دهد.

بنیاد اینترنت واچ هشدار داده که تولید تصاویر سوءاستفاده جنسی با هوش مصنوعی در حال افزایش است و حضور بیشتری در وب آزاد پیدا کرده است. طبق گزارش این بنیاد، تعداد گزارش‌های مربوط به این نوع تصاویر در سال ۲۰۲۴ با ۳۸۰٪ افزایش نسبت به سال قبل، به ۲۴۵ مورد رسیده است، درحالی‌که در سال ۲۰۲۳ تنها ۵۱ مورد گزارش شده بود. دریک ری-هیل، مدیرعامل موقت بنیاد اینترنت واچ، تأکید کرد که محتوای تولیدشده توسط هوش مصنوعی به سوءاستفاده‌کنندگان جسارت بیشتری می‌دهد و کودکان را در معرض خطر بیشتری قرار می‌دهد. لین پری، مدیرعامل خیریه کودکان بارناردو، نیز از اقدام دولت استقبال کرد و تأکید داشت که قانون‌گذاری باید همگام با پیشرفت‌های فناوری برای جلوگیری از این جنایات وحشتناک حرکت کند. او همچنین از شرکت‌های فناوری خواست تا پلتفرم‌های خود را برای کودکان ایمن‌تر کنند و از نهاد ناظر Ofcom خواست قانون ایمنی آنلاین را به‌طور مؤثر اجرا کند. این قوانین جدید قرار است در قالب لایحه جرم و پلیس در هفته‌های آینده به پارلمان ارائه شوند.

منبع خبر: bbc