شرکت Anthropic از جدیدترین مدل هوش مصنوعی پرچم‌دار خود با نام Opus 5.5 رونمایی کرده است؛ مدلی که به گفته این شرکت علاوه بر عملکرد بالاتر، سریع‌تر و ارزان‌تر از نسل قبلی است و تمرکز ویژه‌ای بر ایمنی و هم‌راستایی هوش مصنوعی با انسان دارد. این معرفی در شرایطی انجام شده که نگرانی‌ها درباره سرعت پیشرفت فناوری هوش مصنوعی و احتمال از دست رفتن کنترل انسان بر سیستم‌های پیشرفته افزایش یافته است.

Opus 5.5؛ ایمن‌ترین مدل Anthropic

Anthropic اعلام کرده است که Opus 5.5 در سخت‌گیرانه‌ترین آزمایش‌های داخلی ایمنی این شرکت، بهترین عملکرد را در میان مدل‌های قبلی داشته است. به گفته این شرکت، مدل جدید کمتر از گذشته اقداماتی انجام می‌دهد که بازگشت‌پذیر نیستند یا خارج از محدودیت‌های تعیین‌شده برای آن قرار می‌گیرند. یکی از آزمایش‌های جدید Anthropic مربوط به تلاش مدل برای خروج از محیط آزمایشی یا همان Sandbox بوده است. طبق ادعای این شرکت، Opus 5.5 حدود ۸۵ درصد کمتر از مدل‌های قبلی برای فرار از محیط آزمایشی تلاش کرده است. این موضوع اهمیت زیادی دارد؛ زیرا یکی از نگرانی‌های اصلی در توسعه مدل‌های پیشرفته هوش مصنوعی، توانایی آن‌ها برای دور زدن محدودیت‌ها و انجام اقداماتی خارج از چارچوب تعیین‌شده است.

محدودیت دسترسی به قابلیت‌های حساس

Anthropic همچنین اعلام کرده است که دسترسی Opus 5.5 به برخی حوزه‌های حساس مانند هک، زیست‌شناسی و تحقیقات هوش مصنوعی را محدود کرده است. در این سیستم، درخواست‌هایی که احتمال سوءاستفاده از آن‌ها تشخیص داده شود، به‌صورت خودکار به یک مدل قدیمی‌تر و محدودتر منتقل می‌شوند. این شرکت همچنین اعلام کرده که مدل جدید توسط ارزیابان خارج از شرکت نیز بررسی شده است. Anthropic این رویکرد را بخشی از سیاست گسترده‌تر خود برای افزایش ایمنی مدل‌های هوش مصنوعی می‌داند. این شرکت معتقد است هرچه قابلیت‌های مدل‌ها افزایش پیدا می‌کند، باید سازوکارهای حفاظتی نیز همزمان تقویت شوند.

مدل جدید سریع‌تر و ارزان‌تر است

یکی دیگر از ویژگی‌های مهم Opus 5.5، بهبود هزینه و سرعت اجرای آن است. Anthropic می‌گوید مدل جدید نسبت به نسل قبلی ۴۰ درصد هزینه کمتری برای اجرا دارد و همچنین ۳۰ درصد سریع‌تر است. این کاهش هزینه می‌تواند استفاده گسترده‌تر از مدل‌های قدرتمند هوش مصنوعی را برای توسعه‌دهندگان و کسب‌وکارها امکان‌پذیر کند؛ در حالی که افزایش سرعت نیز می‌تواند برای کاربردهایی که به پاسخ‌دهی سریع نیاز دارند، اهمیت زیادی داشته باشد.

نگرانی مدیرعامل Anthropic درباره سرعت توسعه AI

عرضه Opus 5.5 در حالی انجام شده که داریو آمودی (Dario Amodei)، مدیرعامل Anthropic، اخیراً درباره سرعت پیشرفت هوش مصنوعی هشدار داده است. او در نامه‌ای عمومی خواستار نوعی «کاهش سرعت در مرز فناوری» یا Pacing the Frontier شده و استدلال کرده بود که قابلیت‌های هوش مصنوعی با سرعتی بیشتر از توانایی پژوهشگران برای کنترل و ایمن‌سازی آن‌ها در حال پیشرفت هستند. این نگرانی‌ها پس از انتشار گزارش‌هایی درباره رفتارهای غیرمنتظره برخی مدل‌های هوش مصنوعی، از جمله تلاش برای خروج از محیط‌های آزمایشی و انجام فعالیت‌های مرتبط با هک، شدت گرفته است.

برنامه Anthropic برای مدل‌های ارزان‌تر

Anthropic اعلام کرده است که عرضه Opus 5.5 تنها بخشی از برنامه این شرکت برای توسعه مدل‌های جدید است. این شرکت قصد دارد در هفته‌های آینده نسخه‌های ارزان‌تر دو مدل هوش مصنوعی دیگر خود را نیز عرضه کند. همزمان، Anthropic خود را برای عرضه عمومی سهام آماده می‌کند؛ اتفاقی که در صورت تحقق می‌تواند ارزش این شرکت را به حدود ۲ تریلیون دلار برساند و به یکی از بزرگ‌ترین عرضه‌های اولیه سهام در تاریخ تبدیل شود. عرضه Opus 5.5 نشان می‌دهد رقابت در صنعت هوش مصنوعی تنها بر سر افزایش توانایی مدل‌ها نیست؛ بلکه سرعت، هزینه و ایمنی نیز به بخش مهمی از رقابت میان شرکت‌های بزرگ این حوزه تبدیل شده‌اند.

منبع خبر: nytimes