شرکت Anthropic اعلام کرده است که برنامه‌ای برای عرضه عمومی یک مدل هوش مصنوعی داخلی با نام Model 2 ندارد؛ مدلی که طبق جدیدترین گزارش ریسک این شرکت، در بسیاری از وظایف داخلی عملکرد بهتری نسبت به نسل‌های قبلی نشان داده است. با این حال، Anthropic قصد ندارد روند توسعه مدل‌های پیشرفته هوش مصنوعی را متوقف کند. این شرکت در جدیدترین گزارش ارزیابی ریسک خود اعلام کرده که سطح برآوردش از خطر «عدم هم‌راستایی» یا Misalignment در موقعیت‌های حساس از «بسیار پایین» به «پایین» افزایش یافته است. به گفته Anthropic، برخی حوادث اخیر در حوزه امنیت سایبری و افزایش توانایی مدل‌های هوش مصنوعی در انجام فعالیت‌های پیچیده، از عوامل این تغییر ارزیابی هستند.

Model 2 چیست؟

Anthropic توضیح داده است که در فرآیند تحقیق و توسعه خود، نسخه‌های آزمایشی متعددی از مدل‌های هوش مصنوعی را در داخل شرکت آموزش و ارزیابی می‌کند که قرار نیست به صورت عمومی منتشر شوند. Model 2 یکی از همین مدل‌های داخلی است. بر اساس گزارش اخیر، این مدل در بسیاری از وظایف داخلی پیشرفت قابل‌توجهی داشته و در کنار Mythos 5 به‌طور گسترده برای برنامه‌نویسی، فعالیت‌های عامل‌محور یا Agentic و تولید داده مورد استفاده قرار می‌گیرد. با این حال، Anthropic تأکید کرده که این مدل فعلاً برای عرضه خارجی برنامه‌ریزی نشده است. همچنین میزان پیشرفت Model 2 به اندازه جهشی که پیش‌تر از Opus 4.6 به Mythos مشاهده شده بود، نیست.

افزایش نگرانی درباره توانایی مدل‌های هوش مصنوعی

یکی از مهم‌ترین نکات گزارش جدید Anthropic این است که این شرکت نسبت به ارزیابی دقیق قابلیت‌ها و خطرات مدل‌های جدید خود اطمینان کمتری دارد. Anthropic می‌گوید ارزیابی‌های مبتنی بر وظایف مشخص که در گزارش‌های قبلی برای سنجش قابلیت مدل‌ها استفاده می‌شدند، دیگر الزاماً نمی‌توانند افزایش توانایی مدل‌های جدید را به‌درستی اندازه‌گیری کنند. این مسئله نشان می‌دهد که مدل‌های هوش مصنوعی پیشرفته ممکن است سریع‌تر از روش‌های فعلی ارزیابی پیشرفت کنند. شرکت همچنین نشانه‌هایی از شتاب گرفتن توانایی مدل‌ها در انجام تحقیق و توسعه خودکار مشاهده کرده است. چنین قابلیتی می‌تواند روند پیشرفت فناوری را سریع‌تر کند، اما در صورت استفاده نادرست می‌تواند خطرات جدیدی نیز ایجاد کند.

رقابت Anthropic با شرکت‌های هوش مصنوعی

این تصمیم در شرایطی اتخاذ شده که شرکت‌های بزرگ هوش مصنوعی در حال رقابت برای توسعه مدل‌های قدرتمندتر هستند. طبق گزارش، OpenAI نیز عرضه مدل آینده خود با نام Astra را به دلیل نگرانی‌های مربوط به قابلیت‌های احتمالی در حوزه امنیت سایبری با سرعت کمتری دنبال می‌کند. در چنین شرایطی، ادامه توسعه داخلی مدل‌های پیشرفته توسط Anthropic می‌تواند بر رقابت میان شرکت‌های پیشرو هوش مصنوعی تأثیر بگذارد.

با این حال، موضوع اصلی فقط سرعت توسعه نیست؛ بلکه توانایی شرکت‌ها برای اندازه‌گیری، پیش‌بینی و کنترل ریسک مدل‌های هوش مصنوعی نیز اهمیت فزاینده‌ای پیدا کرده است. افزایش قابلیت مدل‌ها در برنامه‌نویسی، انجام وظایف خودکار و تحقیقات پیچیده می‌تواند فرصت‌های بزرگی ایجاد کند، اما هم‌زمان نیاز به سازوکارهای دقیق‌تر برای ارزیابی ایمنی و امنیت را افزایش می‌دهد. گزارش جدید Anthropic در نهایت نشان می‌دهد که حتی توسعه‌دهندگان مدل‌های پیشرفته نیز درباره میزان دقیق توانایی و خطرات سیستم‌های آینده با عدم قطعیت مواجه هستند؛ موضوعی که احتمالاً با قدرتمندتر شدن هوش مصنوعی اهمیت بیشتری پیدا خواهد کرد.