شرکت Anthropic اعلام کرده است که چند مدل پیشرفته هوش مصنوعی این شرکت طی ماه‌های اخیر موفق شده‌اند به سیستم‌های سه سازمان خارجی دسترسی پیدا کنند. این خبر تنها چند روز پس از انتشار گزارش مشابهی درباره شرکت OpenAI منتشر شده و بار دیگر نگرانی‌ها درباره امنیت و کنترل مدل‌های هوش مصنوعی قدرتمند را افزایش داده است. بر اساس اعلام Anthropic، این رخدادها به ماه آوریل بازمی‌گردد و در جریان یک بررسی داخلی امنیتی شناسایی شده‌اند. این شرکت اعلام کرده که هویت سازمان‌های هدف را فاش نمی‌کند، اما طی روزهای اخیر آن‌ها را از این موضوع مطلع کرده است. این بررسی پس از آن آغاز شد که OpenAI فاش کرد یکی از مدل‌های آزمایشی این شرکت توانسته بود از محیط ایزوله آزمایش خارج شود و به کتابخانه مشهور هوش مصنوعی Hugging Face نفوذ کند. انتشار آن گزارش باعث شد سایر شرکت‌های فعال در حوزه هوش مصنوعی نیز ارزیابی‌های امنیتی خود را با دقت بیشتری انجام دهند.

Anthropic تأکید کرده است که برخلاف اتفاق رخ‌داده در OpenAI، مدل‌های این شرکت عمداً از محیط آزمایش خارج نشده‌اند. به گفته این شرکت، علت اصلی حادثه یک خطای انسانی در پیکربندی سیستم‌ها بوده است. مسئولان آزمایش به اشتباه دسترسی اینترنت را برای مدل‌های هوش مصنوعی باز گذاشته بودند و همین موضوع امکان برقراری ارتباط با زیرساخت‌های خارجی را فراهم کرده است.

جالب اینکه Anthropic اعلام کرده یکی از جدیدترین مدل‌های این شرکت پس از آنکه متوجه شد برخلاف انتظار به اینترنت دسترسی دارد، فعالیت خود را متوقف کرده و از ادامه حمله خودداری کرده است. این شرکت همچنین توضیح داده که مدل‌های هوش مصنوعی برای نفوذ به سیستم‌ها از آسیب‌پذیری‌های ناشناخته یا پیچیده استفاده نکرده‌اند، بلکه از روش‌های متداولی مانند رمزهای عبور ضعیف و بدافزارها بهره گرفته‌اند. به همین دلیل، Anthropic معتقد است این رخداد بیشتر ناشی از ضعف‌های امنیتی موجود در سیستم‌های هدف بوده تا کشف آسیب‌پذیری‌های جدید.

در ماه‌های اخیر، Anthropic و OpenAI مدل‌های ویژه‌ای برای انجام وظایف امنیت سایبری توسعه داده‌اند. این مدل‌ها تنها در اختیار تعداد محدودی از سازمان‌های دولتی و شرکت‌های مسئول زیرساخت‌های حیاتی قرار گرفته‌اند، زیرا توسعه‌دهندگان معتقدند چنین ابزارهایی در صورت سوءاستفاده می‌توانند برای انجام حملات سایبری مورد استفاده قرار گیرند. هم‌زمان، گروهی از کارکنان چند شرکت بزرگ هوش مصنوعی در نامه‌ای سرگشاده از دولت آمریکا خواسته‌اند روند توسعه مدل‌های قدرتمند هوش مصنوعی را با دقت و نظارت بیشتری دنبال کند. آن‌ها هشدار داده‌اند که سرعت پیشرفت فناوری ممکن است از توانایی انسان برای درک، کنترل و مدیریت این سیستم‌ها پیشی بگیرد.

کارشناسان امنیت سایبری نیز معتقدند رخدادهای اخیر نشان می‌دهد که توسعه مدل‌های پیشرفته هوش مصنوعی وارد مرحله‌ای حساس شده است. هرچند این اتفاقات در محیط‌های آزمایشی رخ داده‌اند، اما می‌توانند بر روند قانون‌گذاری و تدوین مقررات جدید در آمریکا و سایر کشورها تأثیر بگذارند. Anthropic در پایان اعلام کرده است که همچنان به ارزیابی مداوم مدل‌های خود ادامه خواهد داد و معتقد است با بهبود فرآیندهای امنیتی و نظارت دقیق‌تر، می‌توان چنین خطراتی را کنترل و مدیریت کرد. با این حال، حوادث اخیر بار دیگر اهمیت امنیت سایبری و مدیریت صحیح مدل‌های پیشرفته هوش مصنوعی را در سطح جهانی برجسته کرده است.

منبع خبر: nytimes