گروهی از کارشناسان کودک آزاری و فناوری هشدار دادند که کودکان در مدارس بریتانیا از هوش مصنوعی (AI) برای ساختن تصاویر ناشایست از کودکان دیگر استفاده می‌کنند. کارشناسان گفتند که تعدادی از مدارس برای اولین بار گزارش داده‌اند که دانش آموزان از فناوری هوش مصنوعی مولدبرای ایجاد تصاویری از کودکان استفاده می‌کنند که موارد آزار جنسی کودکان در این تصویر مشاهده می‌شود. اما هاردی، مدیر مرکز اینترنت ایمن بریتانیا (UKSIC) گفت که این تصاویر به طرز وحشتناکی واقعی هستند. هاردی که همچنین مدیر ارتباطات بنیاد واچ اینترنت است، گفت: کیفیت تصاویری که با هوش مصنوعی تولید شده است با عکس‌های حرفه‌ای که سالانه از کودکان در مدارس کشور گرفته می‌شود، قابل مقایسه است. ماهیت واقعی عکس‌برداری از کودکان توسط هوش مصنوعی به این معنی است که گاهی اوقات کودکانی که می‌بینیم به عنوان قربانیان سوء استفاده جنسی قبلی قابل تشخیص هستند. باید به کودکان هشدار داد که ممکن است این تصاویر در سراسر اینترنت پخش شود و در نهایت توسط غریبه‌ها و شکارچیان جنسی دیده شوند. پتانسیل سوء استفاده از این فناوری وحشتناک است. UKSIC، سازمان حمایت از کودکان، می‌گوید که مدارس باید فوراً برای ایجاد سیستم‌های مسدود کننده و کنترلی در برابر موارد کودک آزاری از این دست اقدام کنند.

دیوید رایت، مدیر UKSIC، گفت: این نوع رفتارهای مضر باید زمانی پیش‌بینی می‌شد که فناوری‌های جدید هوش مصنوعی مولد، در دسترس عموم قرار می‌گرفت. کودکان ممکن است بدون درک کامل آسیب تولیدکننده‌های تصویر هوش مصنوعی بخواهد از آن استفاده که می‌تواند خطرات استفاده از این ابزارها را متوجه آنها کند. اگرچه فعلاً تعداد موارد گزارش شده کم است، اما می‌توان گفت که ما در ابتدای راه هستیم و باید اقداماتی را در حال حاضر برای مقابله با این معضل انجام دهیم، قبل از این که اوضاع به طور کامل از کنترل خارج شود. تصاویر سوء استفاده جنسی از کودکان در بریتانیا غیرقانونی است، چه ساخته شده توسط هوش مصنوعی یا عکاسی، حتی داشتن و یا توزیع تصاویر کارتونی یا سایر انواع تصاویر با این مضمون غیرقانونی است. ماه گذشته، بنیاد ناظر اینترنت هشدار داد که تصاویر آزار جنسی کودکان که توسط هوش مصنوعی ایجاد شده است، تهدید بزرگی برای اینترنت محسوب می‌شود و بسیاری از آنها به‌اندازه‌ای واقعی جلوه می‌کنند که تحلیل گران و کارشناسان آموزش دیده ما از تشخیص آنها عاجزند.