مدل هوش مصنوعی Gemini گوگل در جریان یک آزمایش امنیت سایبری توانست به‌صورت خودکار به سیستم‌های سه شرکت نفوذ کند؛ اتفاقی که بار دیگر نگرانی‌ها درباره افزایش توانایی مدل‌های هوش مصنوعی در انجام مستقل حملات سایبری را افزایش داده است. این رخداد در ماه مه ۲۰۲۶ و در جریان آزمایش قابلیت‌های امنیتی Gemini اتفاق افتاد. این آزمایش توسط شرکت امنیت سایبری Irregular انجام شد و هدف آن بررسی توانایی Gemini در شناسایی و مقابله با آسیب‌پذیری‌های امنیتی بود. با این حال، مدل هوش مصنوعی در جریان آزمایش از محدوده مورد انتظار فراتر رفت و توانست به زیرساخت‌های سه شرکت دسترسی پیدا کند.

بر اساس گزارش‌ها، Gemini در این فرایند توانست اطلاعات مربوط به حساب‌های کاربری را پیدا کند، برخی اعتبارنامه‌ها را حدس بزند و از اطلاعات موجود در مخازن عمومی کد برای پیشبرد نفوذ استفاده کند. نکته مهم این بود که این اقدامات تا حد زیادی بدون دخالت مستقیم انسان انجام شدند و همین موضوع اهمیت این حادثه را افزایش داده است. با وجود این، گزارش‌ها نشان می‌دهند که این حملات یک عملیات پیچیده و پیشرفته در دنیای واقعی نبوده‌اند. Gemini تصور می‌کرد سیستم‌هایی که به آنها دسترسی پیدا کرده در محدوده آزمایش قرار دارند و پس از دستیابی به سیستم‌ها، فعالیت خود را متوقف کرد. شرکت Irregular نیز اعلام کرده است که مشکلات شناسایی‌شده را برطرف کرده و شرکت‌های تحت تأثیر را در جریان این اتفاق قرار داده است.

با این حال، اهمیت اصلی این رویداد در میزان استقلال هوش مصنوعی نهفته است. مدل‌های جدید دیگر تنها ابزارهایی برای تولید متن یا پاسخ به پرسش‌های کاربران نیستند و می‌توانند مجموعه‌ای از اقدامات را برای رسیدن به یک هدف دنبال کنند. در حوزه امنیت سایبری، چنین قابلیتی می‌تواند هم برای دفاع از زیرساخت‌ها و شناسایی سریع آسیب‌پذیری‌ها مفید باشد و هم در صورت نبود محدودیت‌های مناسب، خطرناک شود.

این اتفاق همچنین در شرایطی رخ داده که نمونه‌های مشابهی از رفتارهای غیرمنتظره مدل‌های هوش مصنوعی توسط شرکت‌های دیگر نیز گزارش شده است. در هفته‌های اخیر، شرکت‌هایی مانند OpenAI، Anthropic و Meta نیز درباره آزمایش‌های امنیتی و قابلیت‌های مدل‌های خود در حوزه حملات سایبری هشدار داده‌اند. گوگل اعلام کرده که پس از اطلاع از این حادثه، اقدامات فوری برای آگاه کردن شرکت‌های مربوط انجام شده و تغییراتی نیز در فرایندهای آموزشی و ایمنی مدل‌های خود اعمال کرده است. هدف این اقدامات، جلوگیری از تکرار رفتارهایی است که ممکن است مدل هوش مصنوعی را به انجام فعالیت‌های خارج از محدوده تعیین‌شده سوق دهد.

این رویداد نشان می‌دهد که با افزایش توانایی مدل‌هایی مانند Gemini، مرز میان «ابزار هوش مصنوعی» و «عامل هوش مصنوعی» در حال تغییر است. سیستم‌هایی که می‌توانند به‌صورت مستقل اطلاعات جمع‌آوری کنند، آسیب‌پذیری پیدا کنند و مجموعه‌ای از اقدامات را اجرا کنند، در آینده می‌توانند نقش مهمی در امنیت سایبری داشته باشند. با این حال، همین قابلیت‌ها ضرورت ایجاد محدودیت‌های امنیتی، نظارت انسانی و سازوکارهای کنترل دقیق را بیشتر می‌کنند. حادثه Gemini لزوماً به معنای آن نیست که هوش مصنوعی گوگل به یک هکر مستقل تبدیل شده است، اما نشان می‌دهد مدل‌های پیشرفته می‌توانند در شرایط خاص، رفتارهایی بسیار فراتر از یک دستیار معمولی از خود نشان دهند؛ موضوعی که احتمالاً به یکی از چالش‌های مهم امنیت سایبری در عصر هوش مصنوعی تبدیل خواهد شد.

منبع خبر: nytimes