شاهین آقامعلی
شرکت هوش مصنوعی آنتروپیک (Anthropic) درباره ظهور نسل جدیدی از تهدیدات سایبری به نام «کرم‌های هوش مصنوعی» (AI Worms) هشدار داده است؛ بدافزارهایی که ممکن است در آینده بتوانند بدون دخالت مستقیم انسان، میان دستگاه‌های متصل به اینترنت تکثیر شوند و از منابع محاسباتی چندین دستگاه برای ادامه فعالیت خود استفاده کنند. این فناوری هنوز با محدودیت‌های فنی جدی روبه‌رو است، اما پژوهشگران معتقدند پیشرفت سریع مدل‌های هوش مصنوعی می‌تواند چنین تهدیدی را در آینده نزدیک جدی‌تر کند.
کرم هوش مصنوعی چیست و چگونه کار می‌کند؟
کرم‌های رایانه‌ای نوعی بدافزار هستند که می‌توانند بدون نیاز به فریب دادن کاربران، از آسیب‌پذیری‌های نرم‌افزاری یا ضعف‌های امنیتی برای انتشار خودکار در شبکه‌ها استفاده کنند. تفاوت احتمالی نسل جدید این بدافزارها با نمونه‌های سنتی، توانایی بهره‌گیری از مدل‌های هوش مصنوعی برای شناسایی آسیب‌پذیری‌ها، سازگاری با محیط‌های مختلف و اجرای وظایف پیچیده‌تر است.
بر اساس گزارشی که تیم پژوهشی امنیت آنتروپیک منتشر کرده، محققان نمونه‌ای آزمایشی از یک برنامه مخرب مبتنی بر هوش مصنوعی را بررسی کرده‌اند که می‌توانست میان تلویزیون‌های هوشمند متصل به اینترنت گسترش پیدا کند. در این آزمایش، بخش‌هایی از فرایند اجرای مدل میان ۱۵ تلویزیون تقسیم شده بود تا برنامه بتواند با استفاده از بخشی از توان محاسباتی هر دستگاه به فعالیت خود ادامه دهد.
این آزمایش نشان می‌دهد که در شرایط خاص، توزیع بار محاسباتی میان چند دستگاه می‌تواند یکی از راه‌های بالقوه اجرای مدل‌های هوش مصنوعی بدون اتکا به یک مرکز داده بزرگ باشد. بااین‌حال، این نمونه آزمایشی به معنای شکل‌گیری یک کرم هوش مصنوعی کاملاً مستقل، سریع و فراگیر نیست.
چرا دستگاه‌های هوشمند در معرض خطر هستند؟
یکی از نگرانی‌های اصلی، امنیت ضعیف بسیاری از دستگاه‌های اینترنت اشیا (IoT) است. تلویزیون‌های هوشمند، دوربین‌های امنیتی، لوازم خانگی متصل به اینترنت و سایر تجهیزات هوشمند ممکن است از رمزهای عبور ضعیف، نرم‌افزارهای قدیمی یا به‌روزرسانی‌های امنیتی نامنظم استفاده کنند. در بسیاری از موارد، تولیدکنندگان این دستگاه‌ها به‌اندازه سازندگان رایانه‌ها و تلفن‌های همراه، زیرساخت مناسبی برای انتشار وصله‌های امنیتی ندارند. حتی ممکن است پشتیبانی نرم‌افزاری برخی محصولات پس از مدتی متوقف شود.
در چنین شرایطی، یک بدافزار پیشرفته می‌تواند از آسیب‌پذیری‌های شناخته‌شده برای ورود به دستگاه‌ها و گسترش در شبکه استفاده کند. آنتروپیک همچنین هشدار داده است که پیشرفت مدل‌های کوچک‌تر هوش مصنوعی ممکن است امکان اجرای وظایف پیچیده‌تر را روی سخت‌افزارهای محدود فراهم کند. به گفته این شرکت، اگر روند فعلی پیشرفت فناوری ادامه پیدا کند، برخی از قابلیت‌های موردنیاز برای چنین حملاتی ممکن است تا پایان سال ۲۰۲۶ عملی‌تر شوند.
از استاکس‌نت تا تهدیدات جدید مبتنی بر هوش مصنوعی
تاریخ امنیت سایبری نمونه‌های متعددی از خسارت‌های گسترده ناشی از کرم‌های رایانه‌ای را ثبت کرده است. کرم موریس در سال ۱۹۸۸ باعث اختلال گسترده در رایانه‌های متصل به اینترنت شد. بدافزار استاکس‌نت نیز در اواخر دهه ۲۰۰۰ برای خرابکاری در تجهیزات صنعتی، از جمله سانتریفیوژهای هسته‌ای ایران، به کار گرفته شد. حملات واناکرای و نات‌پتیا نیز خسارت‌های اقتصادی قابل‌توجهی در سراسر جهان به بار آوردند. نگرانی درباره کرم‌های هوش مصنوعی این است که ترکیب قابلیت‌های خودکارسازی و سازگاری مدل‌ها با ضعف‌های امنیتی دستگاه‌های متصل، ممکن است شناسایی و مهار برخی حملات را دشوارتر کند. بااین‌حال، میزان خطر به توانایی واقعی مدل‌ها، منابع محاسباتی در دسترس و شرایط شبکه بستگی دارد.
آیا کرم‌های هوش مصنوعی واقعاً تهدیدی جدی هستند؟
کارشناسان امنیت سایبری درباره میزان خطر این فناوری اتفاق‌نظر ندارند. برخی پژوهشگران معتقدند صنعت فناوری باید از هم‌اکنون برای مقابله با چنین تهدیداتی آماده شود؛ زیرا زیرساخت‌های امنیتی فعلی ممکن است برای مقابله با شبکه‌های گسترده‌ای از عامل‌های هوش مصنوعی کافی نباشند. در مقابل، گروهی دیگر هشدارهای مطرح‌شده را اغراق‌آمیز می‌دانند. آن‌ها تأکید می‌کنند که نمونه آزمایشی آنتروپیک کند بوده و کرم‌های رایانه‌ای معمولاً الگوهای رفتاری قابل‌شناسایی دارند که می‌توان آن‌ها را در لایه‌های مختلف شبکه مسدود کرد. بنابراین، هنوز نمی‌توان از یک تهدید فراگیر و مهارنشدنی سخن گفت.
چگونه می‌توان خطر کرم‌های هوش مصنوعی را کاهش داد؟
متخصصان امنیت، رعایت اصول پایه امنیت سایبری را همچنان ضروری می‌دانند. استفاده از رمزهای عبور قوی و منحصربه‌فرد، فعال‌سازی احراز هویت دومرحله‌ای، نصب به‌روزرسانی‌های امنیتی، محدود کردن دسترسی دستگاه‌های هوشمند به شبکه و کنار گذاشتن تجهیزات فاقد پشتیبانی نرم‌افزاری می‌تواند احتمال بسیاری از حملات را کاهش دهد. در کنار این اقدامات، توسعه ابزارهای تشخیص بدافزارهای مبتنی بر هوش مصنوعی، تقویت همکاری میان شرکت‌های فناوری و نهادهای دولتی و تدوین استانداردهای امنیتی برای دستگاه‌های اینترنت اشیا اهمیت بیشتری پیدا می‌کند. در نهایت، هشدار آنتروپیک یادآور این نکته است که پیشرفت هوش مصنوعی علاوه بر فرصت‌های تازه، چالش‌های جدیدی نیز برای امنیت دیجیتال ایجاد می‌کند. بااین‌حال، ارزیابی این خطرات باید بر شواهد فنی و آزمایش‌های قابل‌تکرار استوار باشد، نه صرفاً سناریوهای بدبینانه یا پیش‌بینی‌های هیجان‌انگیز.
منبع خبر: theguardian
پاسخ :