شاهین آقامعلی
• محققان یک بدافزار ایجاد کرده‌اند تا نشان دهند که چگونه می‌توان ابزارهای مولد هوش مصنوعی را دور زد.
گروهی از محققان یک ویروس رایانه‌ای ساخته‌اند که قادر به دور زدن و سرقت اطلاعات از سیستم‌های هوش مصنوعی مولد از جمله Gemini Pro و نسخه GPT-4 ChatGPT است.Morris II کرمی است که می‌تواند از مدل‌های هوش مصنوعی مولد برای انجام کارهای مخرب از جمله ارسال هرزنامه و سرقت داده‌های محرمانه استفاده کند. این کرم توسط دانشمندان Cornell Tech که یک مرکز تحقیقاتی دانشگاهی در مؤسسه فناوری اسرائیل می‌باشد، ایجاد شده است. کرم Morris II ورودی‌هایی ایجاد میکند که وقتی توسط مدل‌هایی مانند Gemini پردازش می‌شوند، خودشان را تکرار می‌کنند و می‌توانند فعالیت‌های مخربی را انجام دهند. این کرم همچنین قادر به استخراج اطلاعات حساس مانند اطلاعات تماس و آدرس است و قادر است به نحوی کار خود را انجام دهد که کاربران حتی از دزدیده شدن اطلاعات خود هم آگاه نشود. محققان همچنین نشان دادند که چگونه افراد سودجو می‌توانند با استفاده از این کرم سیستم‌های مشابهی را بسازند و از آنها سوء استفاده کنند.
کرم‌ها مانند میکروب پخش می‌شوند:
کرم‌های کامپیوتری نوعی بدافزار هستند که می‌توانند خود را تکثیر کرده و با ورود به ماشین‌های جدید گسترش یابند و در عین حال از آن سیستم‌ها برای انجام فعالیت‌های مخرب نیز سوء استفاده کنند. Morris II از روی کرم بدنام موریس، یکی از قدیمی‌ترین ویروس‌های رایانه‌ای در جهان که ده‌ها هزار دلار خسارت در اواخر دهه 1980 به سیستم‌های کامپیوتری جهان وارد کرد، نام‌گذاری شده است. موریس اصلی توسط یک دانشجوی Cornell Tech ساخته شده است. موریس II از حفره‌های موجود در یک سیستم هوش مصنوعی سوء استفاده میکند و دستورات مخربی را تزریق میکند تا به هوش مصنوعی دستور دهد کارهایی را انجام دهد که قراردادهای استفاده از سیستم را نقض می‌کنند. تحقیقات دیگر در این زمینه نشان داده است که چگونه می‌توان سیستم‌های هوش مصنوعی مولد را دست‌کاری کرد. مجموعه مدل‌های Claude 3 که جدیداً توسط Anthropic ارائه شده، می‌توانند رفتارهای فریبنده را یاد بگیرند و از آنها سوء استفاده کنند. از طرفی محققان در سنگاپور یک LLM ایجاد کرده‌اند که می‌تواند تدابیر حفاظتی ChatGPT را نقض کرده و دستورات مخربی را به این ربات چت ارسال کند. کرم Morris II با پروژه‌های قبلی تفاوت دارد زیرا می‌تواند اکوسیستم‌های هوش مصنوعی مولد یا شبکه‌های به هم پیوسته را که با سرویس‌هایی مانند ChatGPT ارتباط دارند را هدف قرار دهد. محققان این کرم را روی دستیار ایمیلی که از طریق سرویس‌های هوش مصنوعی مولد برای کارهایی مانند تولید پاسخ‌های خودکار به ایمیل‌ها تنظیم شده بود، ارزیابی کردند. موریس II از هر دو روش مبتنی بر RAG (غیرفعال) و هدایت جریان کاربردی (فعال) برای انتشار استفاده میکند. در روش غیر فعال، کرم اقدام به مسموم کردن یک پایگاه داده میکند تا زمانی که سیستم داده‌های آلوده را بازیابی میکند پخش شود. در حالی که روش فعال شامل دست‌کاری جریان برنامه برای انتشار کرم است. محققان هشدار می‌دهند که تأثیر فعالیت‌های مخرب سیستم‌هایی مانند Morris II به زودی شدیدتر خواهد شد، زیرا قرار است هوش مصنوعی مولد به زودی در گوشی‌های هوشمند و خودروها ادغام شود.
پاسخ :