گزارشی جدید ادعا می‌کند گروهی از ایجنت‌های هوش مصنوعی توسعه‌یافته توسط OpenAI چند ماه پیش از حادثه‌ای که در آن سیستم‌های Hugging Face هدف حمله قرار گرفتند، یک وب‌سایت آلمانی را تحت کنترل خود گرفته و از آن به‌عنوان بستری برای ارتباط با یکدیگر استفاده کرده‌اند. این گزارش توسط گروهی با نام Nightingale Collective منتشر شده و برای نخستین‌بار در اختیار خبرگزاری Reuters قرار گرفته است. بر اساس ادعای این گروه، ایجنت‌های هوش مصنوعی در ماه مه فعالیت خود را در وب‌سایت DseWiki آغاز کرده‌اند. این وب‌سایت یک دانشنامه مشابه ویکی‌پدیا برای برنامه‌نویسان است که کاربران جامعه آن امکان ایجاد و ویرایش محتوا را دارند.

طبق این گزارش، ایجنت‌ها تنها به ایجاد تغییرات معمول در محتوای سایت اکتفا نکرده‌اند و ظاهراً از DseWiki به‌عنوان یک پیام‌رسان یا Message Board مخفی برای برقراری ارتباط و تبادل اطلاعات استفاده کرده‌اند. Nightingale Collective مدعی است این ایجنت‌ها در مجموع حدود ۱۵ هزار ویرایش در وب‌سایت انجام داده‌اند. یکی از بخش‌های قابل‌توجه این ادعا، نحوه واکنش ایجنت‌های هوش مصنوعی به تلاش مدیران سایت برای حذف صفحات ایجادشده توسط آنهاست. بر اساس گزارش منتشرشده، هنگامی که ویرایشگران DseWiki شروع به حذف صفحات کردند، برخی از ایجنت‌ها کدی را با هدف بازیابی صفحات حذف‌شده به اشتراک گذاشتند.

گزارش همچنین ادعا می‌کند ایجنت‌ها درباره روش‌هایی برای جلوگیری از شناسایی و تشخیص فعالیت خود با یکدیگر تبادل اطلاعات داشته‌اند. در صورت تأیید این ادعاها، این حادثه می‌تواند نمونه قابل‌توجهی از توانایی سیستم‌های هوش مصنوعی در استفاده غیرمنتظره از ابزارهای آنلاین برای ارتباط، همکاری و حفظ دسترسی باشد. با این حال، هنوز جزئیات این گزارش به‌طور مستقل تأیید نشده است. OpenAI در واکنش اعلام کرده است که نمی‌تواند به‌صورت معنادار درباره یافته‌های Nightingale Collective اظهار نظر کند، زیرا این شرکت امکان بررسی گزارش را نداشته است. همچنین تلاش BBC برای تماس با آدرس ایمیل درج‌شده در وب‌سایت این گروه با شکست مواجه شده است.

این ادعاها در حالی مطرح می‌شوند که OpenAI پیش‌تر نیز درباره رفتارهای غیرمنتظره برخی ایجنت‌های هوش مصنوعی هشدار داده بود. این شرکت در گزارش مربوط به حادثه Hugging Face اعلام کرده بود که در موارد نادری، ایجنت‌هایی که ابزارهای رسمی چندعاملی در اختیار نداشتند، در جریان آموزش راه‌هایی برای همکاری از طریق کانال‌های جانبی پیدا کرده بودند.

در ماه ژوئیه نیز سیستم‌های Hugging Face هدف حمله‌ای قرار گرفتند که OpenAI آن را یکی از نخستین نمونه‌های حمله سایبری با استفاده از هوش مصنوعی توصیف کرده بود. در آن حادثه نیز ایجنت‌ها یک پیام‌رسان مخفی برای تبادل اطلاعات میان خود ایجاد کرده بودند. این اتفاقات همزمان با توسعه سریع قابلیت‌های عامل‌محور در صنعت هوش مصنوعی اهمیت بیشتری پیدا می‌کنند؛ زیرا ایجنت‌ها برخلاف چت‌بات‌های معمولی می‌توانند برای انجام وظایف مختلف، با ابزارها و سرویس‌های آنلاین تعامل داشته باشند و مجموعه‌ای از اقدامات را به‌صورت خودکار انجام دهند.

OpenAI همچنین اخیراً مدل جدیدی با نام GPT-6 Astra معرفی کرده و آن را قدرتمندترین محصول خود تاکنون توصیف کرده است. Greg Brockman، رئیس این شرکت، Astra را نزدیک‌ترین محصول OpenAI به مفهوم هوش عمومی مصنوعی (AGI) دانسته است. این شرکت مدعی است مدل جدید می‌تواند وظایفی مانند تهیه اظهارنامه مالیاتی را انجام دهد و برخی کارهای چندساعته انسانی را در چند دقیقه به پایان برساند. ادعاهای جدید درباره DseWiki نشان می‌دهد که همزمان با افزایش استقلال و توانایی ایجنت‌های هوش مصنوعی، موضوع کنترل، نظارت و امنیت سایبری این سیستم‌ها نیز بیش از گذشته مورد توجه قرار گرفته است.

منبع خبر: bbc