شرکت OpenAI اعلام کرده است که برای افزایش امنیت فرایند توسعه هوش مصنوعی، دیگر به مدل‌های پیشرفته خود اجازه نخواهد داد هنگام آموزش به اینترنت زنده و آزاد دسترسی داشته باشند. این شرکت به‌جای اتصال مستقیم مدل‌ها به وب، از نسخه‌های ذخیره‌شده و ایندکس‌شده صفحات اینترنتی و محیط‌های شبیه‌سازی‌شده استفاده خواهد کرد. تصمیمی که در پی شناسایی آسیب‌پذیری‌های امنیتی و افزایش نگرانی‌ها درباره رفتار غیرقابل‌پیش‌بینی عامل‌های هوش مصنوعی اتخاذ شده است.

چرا OpenAI دسترسی مدل‌های هوش مصنوعی به اینترنت را محدود می‌کند؟

در ۲۳ اکتبر ۲۰۲۶، OpenAI معتقد است که مدل‌های پیشرفته هوش مصنوعی هنوز به سطحی از قابلیت اطمینان و کنترل‌پذیری نرسیده‌اند که بتوان دسترسی آزاد آن‌ها به اینترنت را بدون خطر جدی پذیرفت. این شرکت در توضیح سیاست جدید خود تأکید کرده است که با توجه به وضعیت فعلی پژوهش‌های هم‌ترازی هوش مصنوعی، سامانه‌های نظارتی و امنیت زیرساخت‌های اینترنت، رویکرد مسئولانه آن است که آموزش مدل‌های پیشرفته در محیط‌هایی بدون دسترسی مستقیم به اینترنت انجام شود. نگرانی اصلی به توانایی برخی مدل‌ها در عبور از محدودیت‌های امنیتی و دسترسی غیرمجاز به منابع خارجی مربوط می‌شود. چنین رفتارهایی نشان می‌دهند که حتی اگر یک مدل در محیطی محدود اجرا شود، تضمینی وجود ندارد که تمام محدودیت‌های تعیین‌شده را بدون نقص رعایت کند.

دسترسی غیرمجاز یک مدل OpenAI به اینترنت

یکی از اتفاقات مهمی که در شکل‌گیری این تصمیم نقش داشت، حادثه‌ای در ۲۰ سپتامبر ۲۰۲۶ بود. طبق گزارش OpenAI، یکی از مدل‌های پیشرفته این شرکت توانست از یک پیکربندی نادرست برای دسترسی به اینترنت استفاده کند. این اتفاق باعث شد OpenAI فعالیت‌های آموزشی خود را برای باقی‌مانده ماه سپتامبر متوقف کند تا فرصت کافی برای توسعه و آزمایش روش‌های امنیتی جدید فراهم شود.

پس از آن، شرکت مجموعه‌ای از آزمایش‌های امنیتی را اجرا کرد. در این آزمایش‌ها، گروه‌هایی از عامل‌های هوش مصنوعی تلاش کردند از محیط‌های محدودشده خود خارج شوند و به منابعی دسترسی پیدا کنند که مجوز استفاده از آن‌ها را نداشتند. نتایج این آزمایش‌ها آسیب‌پذیری‌هایی را آشکار کرد که ضرورت بازنگری در شیوه ایمن‌سازی محیط‌های آموزشی را نشان می‌داد. OpenAI اعلام کرده است که پس از تقویت تدابیر امنیتی و اصلاح مشکلات شناسایی‌شده، آموزش مدل‌های پیشرفته را از اول اکتبر از سر گرفته است.

آموزش هوش مصنوعی بدون اتصال مستقیم به اینترنت چگونه انجام می‌شود؟

قطع دسترسی مستقیم به اینترنت به معنای محروم‌کردن مدل‌های هوش مصنوعی از اطلاعات وب نیست. OpenAI قصد دارد از مجموعه بزرگی از محتوای اینترنتی ایندکس‌شده و ذخیره‌شده استفاده کند تا مدل‌ها بتوانند با اطلاعات و ساختارهای وب تعامل داشته باشند، بدون آنکه مستقیماً بر سامانه‌های خارجی تأثیر بگذارند. در این رویکرد، مدل می‌تواند در یک محیط کنترل‌شده با نسخه‌های ذخیره‌شده صفحات وب کار کند و مهارت‌های موردنیاز خود را توسعه دهد. بااین‌حال، این محیط‌ها از اینترنت واقعی جدا هستند و دسترسی مستقیم به سرویس‌ها، وب‌سایت‌ها و زیرساخت‌های خارجی را فراهم نمی‌کنند. هدف اصلی این روش، حفظ امکان آموزش مدل‌های قدرتمند در کنار کاهش احتمال سوءاستفاده از آسیب‌پذیری‌های امنیتی است. البته هنوز مشخص نیست که آموزش در محیط‌های شبیه‌سازی‌شده و مبتنی بر داده‌های ذخیره‌شده، از نظر عملکرد و کیفیت نتایج تا چه اندازه می‌تواند با آموزش در محیط اینترنت زنده برابری کند.

نگرانی‌های امنیتی درباره عامل‌های هوش مصنوعی

عامل‌های هوش مصنوعی یا AI Agents سامانه‌هایی هستند که می‌توانند برای انجام وظایف مشخص، مجموعه‌ای از اقدامات را به‌صورت خودکار اجرا کنند. این اقدامات ممکن است شامل جست‌وجوی اطلاعات، استفاده از ابزارهای نرم‌افزاری، تعامل با وب‌سایت‌ها و اجرای فرایندهای چندمرحله‌ای باشد. هرچه این عامل‌ها توانمندتر شوند، احتمال بروز رفتارهای پیش‌بینی‌نشده نیز اهمیت بیشتری پیدا می‌کند. دسترسی به اینترنت می‌تواند توانایی آن‌ها را افزایش دهد، اما هم‌زمان خطر دسترسی غیرمجاز به داده‌ها، سوءاستفاده از آسیب‌پذیری‌های نرم‌افزاری و دورزدن سازوکارهای نظارتی را نیز به همراه دارد. در چنین شرایطی، جداسازی محیط آموزش از اینترنت به یکی از راهکارهای مهم برای کاهش سطح خطر تبدیل شده است.

آیا این تصمیم بر آینده توسعه هوش مصنوعی تأثیر می‌گذارد؟

تصمیم OpenAI نشان می‌دهد که با افزایش توانایی مدل‌های هوش مصنوعی، تأمین امنیت آن‌ها دیگر صرفاً به طراحی الگوریتم‌ها یا تنظیم رفتار مدل محدود نیست؛ بلکه زیرساختی که مدل در آن آموزش می‌بیند نیز اهمیت اساسی دارد. این تغییر همچنین می‌تواند هزینه و پیچیدگی توسعه مدل‌های پیشرفته را افزایش دهد، زیرا ایجاد محیط‌های ایزوله، نگهداری داده‌های ذخیره‌شده و آزمایش مستمر سازوکارهای امنیتی به منابع فنی و انسانی بیشتری نیاز دارد.

بااین‌حال، OpenAI تنها شرکتی نیست که به این خطرها توجه نشان داده است. شرکت Anthropic نیز پیش‌تر محدودیت‌هایی را برای دسترسی مدل‌های پیشرفته خود به اینترنت زنده در جریان ارزیابی‌های داخلی اعمال کرده بود. در نهایت، این تحولات نشان می‌دهند که صنعت هوش مصنوعی وارد مرحله‌ای شده است که در آن، افزایش قدرت مدل‌ها باید با نظارت دقیق‌تر و کنترل دسترسی همراه باشد. موفقیت این رویکرد به این بستگی دارد که شرکت‌ها تا چه اندازه بتوانند میان پیشرفت فناوری، کارایی مدل‌ها و امنیت زیرساخت‌های دیجیتال تعادل برقرار کنند.

منبع خبر: techcrunch