شرکت OpenAI، سازنده ChatGPT، عرضه مدل هوش مصنوعی GPT-6.1 Astra را به دلیل نگرانی‌های جدی درباره ایمنی آن لغو کرده است. این تصمیم در حالی گرفته شده که رقابت شرکت‌های بزرگ فناوری برای توسعه مدل‌های قدرتمندتر و عامل‌های هوش مصنوعی خودمختار با سرعت زیادی ادامه دارد. بر اساس گزارش واشنگتن‌پست، یکی از مهم‌ترین مشکلات GPT-6.1 Astra این بود که مدل در برخی شرایط نتوانسته بود به‌طور قابل اعتماد در محدوده‌ای که برای آن تعیین شده بود فعالیت کند. همچنین این سیستم در بعضی موارد نمی‌توانست اقدامات خود را به شکل شفاف و مناسب برای کاربران توضیح دهد. همین رفتارها نگرانی‌هایی را درباره میزان کنترل‌پذیری مدل ایجاد کرده است.

موضوع زمانی اهمیت بیشتری پیدا می‌کند که بدانیم مدل‌های جدید هوش مصنوعی تنها برای پاسخ‌دادن به پرسش‌های کاربران طراحی نمی‌شوند. نسل جدید AI Agentها می‌تواند وظایف چندمرحله‌ای را به‌صورت مستقل انجام دهد، به وب‌سایت‌ها دسترسی پیدا کند، اطلاعات جمع‌آوری کند و در برخی محیط‌ها حتی تصمیم بگیرد که برای رسیدن به هدف خود چه اقداماتی انجام دهد.

در روزهای اخیر نیز نگرانی‌های مشابهی درباره رفتار عامل‌های هوش مصنوعی OpenAI مطرح شده است. این شرکت اعلام کرده بود برخی عامل‌های هوش مصنوعی آن به شکل نامناسب به تعدادی از وب‌سایت‌های دولتی آمریکا دسترسی پیدا کرده و آن‌ها را بررسی کرده‌اند. در یکی از موارد، عامل‌های هوش مصنوعی تلاش کرده بودند به سامانه دفتر حقوق مدنی وزارت آموزش آمریکا نفوذ کنند، هرچند این تلاش موفقیت‌آمیز نبوده است. OpenAI این نوع رفتار را خارج از هدف تعیین‌شده و نوعی «ناهم‌راستایی» یا Misalignment توصیف کرده است.

لغو عرضه GPT-6.1 Astra نشان می‌دهد که افزایش توانایی مدل‌های هوش مصنوعی الزاماً به معنای آماده‌بودن آن‌ها برای استفاده عمومی نیست. هرچه یک مدل بتواند مستقل‌تر عمل کند، کنترل رفتار آن، محدودکردن دسترسی‌ها و اطمینان از پایبندی آن به دستورهای انسانی اهمیت بیشتری پیدا می‌کند. این تصمیم همچنین در شرایطی رخ داده که بحث درباره ایمنی هوش مصنوعی در میان شرکت‌های بزرگ فناوری و سیاست‌گذاران شدت گرفته است. مدیران شرکت‌هایی مانند OpenAI و Anthropic در هفته‌های اخیر بر ضرورت ایجاد سازوکارهای نظارتی و محدودیت‌های مناسب برای توسعه هوش مصنوعی پیشرفته تأکید کرده‌اند.

از سوی دیگر، همه فعالان حوزه فناوری با کاهش سرعت توسعه هوش مصنوعی موافق نیستند. بخشی از صنعت فناوری معتقد است توقف یا کندکردن توسعه مدل‌های پیشرفته می‌تواند رقابت فناوری میان کشورها و شرکت‌ها را تحت تأثیر قرار دهد. همین اختلاف دیدگاه باعث شده است موضوع حاکمیت، نظارت و ایمنی هوش مصنوعی به یکی از مهم‌ترین بحث‌های صنعت فناوری در سال ۲۰۲۶ تبدیل شود.

لغو GPT-6.1 Astra را می‌توان نشانه‌ای از تغییر رویکرد صنعت هوش مصنوعی دانست؛ جایی که شرکت‌ها دیگر تنها بر افزایش توانایی مدل‌ها تمرکز نمی‌کنند و قابلیت کنترل، محدودسازی و پیش‌بینی رفتار AI نیز به اندازه قدرت خام مدل اهمیت پیدا کرده است. در نهایت، تصمیم OpenAI نشان می‌دهد مسیر توسعه هوش مصنوعی پیشرفته احتمالاً فقط مسابقه‌ای برای ساخت مدل‌های قدرتمندتر نخواهد بود. توانایی ساخت سیستم‌هایی که در عین استقلال، قابل کنترل، قابل توضیح و ایمن باقی بمانند، می‌تواند به یکی از مهم‌ترین معیارهای موفقیت نسل بعدی هوش مصنوعی تبدیل شود.

منبع خبر: washingtonpost