شرکت هوش مصنوعی Anthropic به‌طور رسمی از Claude Fable 5 رونمایی کرد؛ نسخه‌ای عمومی از مدل پیشرفته Claude Mythos که پیش‌تر تنها در اختیار گروه محدودی از سازمان‌ها، شرکت‌ها و نهادهای دولتی برای آزمایش و ارزیابی قرار داشت. این مدل به دلیل توانایی‌های بسیار پیشرفته خود در حوزه تحلیل، امنیت سایبری و اجرای وظایف پیچیده، توجه گسترده فعالان صنعت فناوری و دولت‌ها را به خود جلب کرده است.

Claude Mythos نخستین بار در ماه آوریل به‌صورت محدود منتشر شد. در آن زمان Anthropic اعلام کرده بود که قابلیت‌های این مدل به اندازه‌ای پیشرفته است که انتشار عمومی آن بدون اعمال محدودیت‌های امنیتی می‌تواند خطراتی را به همراه داشته باشد. یکی از نگرانی‌های اصلی، توانایی بالقوه این سیستم در شناسایی آسیب‌پذیری‌های امنیتی و حتی سوءاستفاده از نقاط ضعف موجود در زیرساخت‌های رایانه‌ای عنوان شده بود.

اکنون Anthropic تصمیم گرفته نسخه‌ای از این فناوری را با نام Claude Fable 5 در اختیار عموم کاربران قرار دهد. با این حال، شرکت تأکید کرده است که این مدل با مجموعه‌ای از محدودیت‌ها، کنترل‌های امنیتی و مکانیزم‌های حفاظتی عرضه می‌شود تا از سوءاستفاده‌های احتمالی جلوگیری شود. در بیانیه رسمی Anthropic آمده است که Claude Fable 5 از نظر توانایی و عملکرد، قدرتمندتر از هر مدل دیگری است که تاکنون توسط این شرکت به‌صورت عمومی منتشر شده است. این موضوع باعث شده بسیاری از کارشناسان آن را یکی از مهم‌ترین دستاوردهای اخیر صنعت هوش مصنوعی بدانند. با وجود این، برخی تحلیلگران معتقدند بخشی از تبلیغات پیرامون Claude Mythos و Claude Fable 5 ممکن است جنبه بازاریابی داشته باشد. آن‌ها بر این باورند که هنوز مشخص نیست این مدل تا چه اندازه نسبت به رقبا برتری واقعی دارد و آیا نگرانی‌های مطرح‌شده درباره آن کاملاً موجه هستند یا خیر.

جالب توجه اینکه نهادهای دولتی ایالات متحده نیز در ماه‌های اخیر به آزمایش Claude Mythos پرداخته‌اند. همچنین فرانسوا-فیلیپ شامپاین، وزیر دارایی کانادا، پیش‌تر اعلام کرده بود که توجه گسترده به این مدل هوش مصنوعی قابل درک است؛ زیرا بسیاری از خطرات احتمالی آن هنوز ناشناخته هستند. Anthropic اعلام کرده است که حدود ۱۵۰ سازمانی که پیش‌تر به نسخه آزمایشی Mythos دسترسی داشتند، اکنون می‌توانند از Claude Mythos 5 نیز استفاده کنند. برخلاف نسخه عمومی Fable، این نسخه محدودیت‌های کمتری در زمینه تحقیقات امنیت سایبری و زیستی دارد و برای گروه‌های مورد اعتماد در نظر گرفته شده است.

بر اساس گزارش Anthropic، سازمان‌هایی که تاکنون از Mythos استفاده کرده‌اند موفق به شناسایی بیش از ۱۰ هزار آسیب‌پذیری امنیتی مهم در سامانه‌های خود شده‌اند. این آمار نشان می‌دهد که مدل‌های نسل جدید هوش مصنوعی می‌توانند نقش مهمی در افزایش امنیت زیرساخت‌های دیجیتال ایفا کنند. یکی از ویژگی‌های برجسته Claude Fable 5 و Claude Mythos 5، توانایی انجام وظایف پیچیده به‌صورت خودکار و بدون نظارت مداوم انسان است. Anthropic اعلام کرده این مدل‌ها قادرند برای مدت‌زمان طولانی‌تری نسبت به نسل‌های قبلی Claude روی یک مأموریت مشخص کار کنند.

در همین حال، جک کلارک، هم‌بنیان‌گذار Anthropic، هشدار داده است که سرعت پیشرفت هوش مصنوعی به حدی زیاد شده که صنعت فناوری باید مکانیزمی برای کنترل و کاهش سرعت توسعه در شرایط ضروری داشته باشد. به گفته او، صنعت هوش مصنوعی در حال حاضر «پدال گاز» دارد اما هنوز «پدال ترمز» مناسبی برای مدیریت خطرات احتمالی توسعه نیافته است.

منبع خبر: bbc