عامل‌های هوش مصنوعی (AI agents) به سرعت به یکی از مهم‌ترین موضوعات در دنیای فناوری تبدیل شده‌اند. این سیستم‌ها توانایی برنامه‌ریزی، استدلال و انجام وظایف پیچیده را دارند، اما همین توانایی‌ها می‌توانند آن‌ها را به ابزارهای قدرتمندی برای حملات سایبری تبدیل کنند. در حالی که هنوز شواهدی از استفاده گسترده‌ی مجرمان سایبری از این عامل‌ها وجود ندارد، اما پژوهش‌ها نشان می‌دهد این عامل‌ها توانایی اجرای حملات پیچیده را دارند. به عنوان مثال، شرکت Anthropic نشان داده که مدل LLM آن‌ها قادر به شبیه‌سازی یک حمله واقعی برای سرقت اطلاعات حساس بوده است. کارشناسان امنیت سایبری هشدار می‌دهند که به زودی شاهد گسترش حملات سایبری توسط عامل‌ها خواهیم بود. مارک استاکلی از شرکت Malwarebytes می‌گوید که در آینده، بیشتر حملات سایبری توسط عامل‌های هوش مصنوعی انجام خواهد شد.

پژوهشگران سازمان Palisade Research پروژه‌ای با عنوان "LLM Agent Honeypot" راه‌اندازی کرده‌اند تا این تهدید را به‌صورت واقعی رصد کنند. آن‌ها سرورهایی آسیب‌پذیر راه‌اندازی کرده‌اند که وانمود می‌کنند حاوی اطلاعات حساس دولتی یا نظامی هستند تا عامل‌های هوش مصنوعی را جذب کرده و فعالیت آن‌ها را بررسی کنند. هدف این است که از طریق ثبت و تحلیل این تلاش‌ها، زنگ خطری برای حملات آینده باشد.

از زمان شروع این پروژه در اکتبر سال گذشته، بیش از ۱۱ میلیون تلاش برای دسترسی ثبت شده که بیشتر آن‌ها از سوی انسان‌ها یا بات‌ها بوده‌اند. اما در این میان، هشت عامل احتمالی هوش مصنوعی شناسایی شده‌اند که دو مورد آن‌ها به‌طور قطعی از هنگ‌کنگ و سنگاپور تشخیص داده شده‌اند. این عامل‌ها با استفاده از تکنیک تزریق دستور (prompt injection) شناسایی شده‌اند؛ به طوری که اگر عامل بتواند دستور داده شده را به‌درستی و سریع (کمتر از ۱.۵ ثانیه) پاسخ دهد، احتمالاً یک عامل AI است. عامل‌های هوش مصنوعی نسبت به بات‌های سنتی بسیار پیشرفته‌ترند؛ آن‌ها می‌توانند خود را با موقعیت‌های جدید تطبیق دهند، روش حمله را تغییر دهند و از شناسایی شدن جلوگیری کنند. همین ویژگی‌ها باعث می‌شود که استفاده از آن‌ها برای حملات مقیاس‌پذیر مانند باج‌افزار بسیار جذاب‌تر از استخدام هکرهای انسانی باشد.

با اینکه استفاده‌ی مخرب از عامل‌ها هنوز در مراحل ابتدایی است، کارشناسان معتقدند که ممکن است به‌طور ناگهانی شاهد رشد چشمگیر این تهدید باشیم. برخی مانند پروفسور دانیل کانگ از دانشگاه ایلینوی در حال توسعه‌ی معیارهایی برای سنجش توانایی عامل‌ها در یافتن و بهره‌برداری از آسیب‌پذیری‌ها هستند. پژوهش او نشان داده که عامل‌ها بدون اطلاعات قبلی توانسته‌اند تا ۱۳٪ از آسیب‌پذیری‌ها را به‌طور موفقیت‌آمیز استفاده کنند، و در صورت داشتن توضیح مختصر، این میزان تا ۲۵٪ افزایش یافته است. در نهایت، کارشناسان امنیت بر این باورند که عامل‌ها ممکن است در آینده نه تنها برای حمله بلکه برای دفاع نیز استفاده شوند، و توسعه‌دهندگان باید از همین حالا اقدامات پیشگیرانه را برای مقابله با تهدیدات احتمالی آغاز کنند.

منبع خبر: technologyreview