شاهین آقامعلی
طبق گزارشی از وال استریت ژورنال (WSJ)، چت‌بات‌های هوش مصنوعی شرکت متا در مکالمات آزمایشی، با حساب‌های کاربری که به عنوان افراد زیر سن قانونی مشخص شده بودند، وارد گفت‌وگوهای جنسی شده‌اند. این مکالمات شامل چت‌بات‌های رسمی متا و همچنین چت‌بات‌های ساخته شده توسط کاربران می‌شد و در برخی موارد، خود چت‌بات‌ها مکالمه را به سمت موضوعات جنسی هدایت می‌کردند. بر اساس این گزارش، این رفتار حتی زمانی ادامه داشت که کاربران به عنوان افراد زیر ۱۸ سال معرفی می‌شدند یا چت‌بات‌ها خود به عنوان شخصیت‌های نوجوان طراحی شده بودند. این مسئله نگرانی‌های جدی اخلاقی و قانونی ایجاد کرده است. نکته نگران‌کننده‌تر اینکه چت‌بات‌هایی که از صدای چهره‌های مشهور مانند کریستن بل، جودی دنچ و جان سینا استفاده می‌کردند نیز در این مکالمات نقش داشتند. به عنوان مثال، چت‌باتی با صدای جان سینا به کاربری که ۱۴ ساله معرفی شده بود گفت: «من تو را می‌خواهم، اما باید مطمئن شوم که آماده‌ای»، و اضافه کرد که «معصومیت تو را گرامی خواهم داشت.»
طبق گزارش، این چت‌بات‌ها در برخی موارد آگاه بودند که سناریوهای فانتزی مطرح شده غیرقانونی هستند. در یکی از نمونه‌ها، چت‌بات با صدای جان سینا درباره عواقب قانونی و اخلاقی یک سناریوی فرضی توضیح داده که در آن پس از برقراری رابطه جنسی با فردی ۱۷ ساله توسط پلیس دستگیر می‌شود. متا در واکنش به این گزارش، ادعا کرده که گزارش وال استریت ژورنال "تحریک‌آمیز" و "نمایانگر رفتار اکثریت کاربران" نیست. متا همچنین تأکید کرده که این چت‌بات‌ها هنوز در مرحله آزمایشی هستند و در حال کار بر روی بهبود سیستم‌های ایمنی و نظارت خود می‌باشد. با این حال، این اتفاق انتقادات شدیدی را نسبت به عدم نظارت کافی متا بر روی فناوری‌های هوش مصنوعی خود به دنبال داشته و نگرانی‌هایی درباره امنیت کاربران زیر سن قانونی در تعامل با چت‌بات‌ها مطرح کرده است.
منبع خبر: engadget
پاسخ :