خودبهبودی بازگشتی هوش مصنوعی (Recursive Self-Improvement یا RSI) که تا همین چند سال پیش بیشتر یک ایده بلندپروازانه در پژوهش‌های هوش مصنوعی محسوب می‌شد، اکنون بیش از گذشته به واقعیت نزدیک شده است. در این مفهوم، یک مدل هوش مصنوعی می‌تواند در فرآیند توسعه و بهبود نسل بعدی خود نقش داشته باشد و در نهایت بخش بیشتری از چرخه توسعه را بدون دخالت مستقیم انسان انجام دهد.

RSI یا خودبهبودی بازگشتی چیست؟

خودبهبودی بازگشتی به فرآیندی گفته می‌شود که در آن هوش مصنوعی به بهبود قابلیت‌های خودش کمک می‌کند؛ برای مثال یک مدل می‌تواند در طراحی، آزمایش، کدنویسی یا ارزیابی نسخه بعدی یک سیستم هوش مصنوعی مشارکت داشته باشد. در شکل کاملاً خودمختار، مدل یک نسخه بهتر از خود را طراحی می‌کند، نسخه جدید نیز همین فرآیند را ادامه می‌دهد و در نتیجه، چرخه‌ای از بهبودهای متوالی شکل می‌گیرد.

البته شرکت‌های مختلف تعریف یکسانی از RSI ندارند. برخی هرگونه استفاده از AI برای توسعه مدل‌های جدید را نوعی خودبهبودی می‌دانند، در حالی که تعریف سخت‌گیرانه‌تر، RSI را به فرآیندی کاملاً خودمختار محدود می‌کند. به گفته برخی پژوهشگران، استفاده از نسل‌های قبلی مدل‌های هوش مصنوعی برای ساخت نسل‌های جدید، سال‌هاست در صنعت وجود دارد. تفاوت مهم امروز این است که مدل‌های جدید توانایی بیشتری برای انجام بخش‌های پیچیده‌تر فرآیند تحقیق و توسعه پیدا کرده‌اند.

پیشرفت Anthropic در توسعه مدل‌های هوش مصنوعی

شرکت Anthropic اخیراً اعلام کرده است که مدل Claude در حال مشارکت جدی‌تر در تحقیقات و توسعه مدل‌های جدید این شرکت است. طبق اعلام Anthropic، Claude اکنون مسئول انجام حدود ۲۶ درصد از فعالیت‌های تحقیق و توسعه مدل‌های این شرکت است. این مدل می‌تواند بخش بزرگی از یک وظیفه مشخص را از یک دستور سطح بالا تا پایان فرآیند انجام دهد، اما همچنان تحت نظارت انسان قرار دارد. بنابراین، این وضعیت هنوز به معنای خودمختاری کامل یا دستیابی به RSI کاملاً مستقل نیست. با این حال، افزایش سهم AI در فرآیند توسعه مدل‌ها نشان می‌دهد که مرز میان «ابزار هوش مصنوعی» و «عامل فعال در توسعه نسل بعدی هوش مصنوعی» در حال کمرنگ‌تر شدن است.

OpenAI و هدف ساخت پژوهشگر هوش مصنوعی

OpenAI نیز اعلام کرده است که روی یک «کارآموز پژوهشی خودکار» کار کرده است؛ سیستمی که می‌تواند برخی وظایف تحقیقاتی مشخص را تحت هدایت انسان انجام دهد. هدف اعلام‌شده این شرکت، حرکت به سمت ساخت یک پژوهشگر خودکار هوش مصنوعی است. OpenAIدر عین حال تأکید کرده که پیشرفت سریع RSI الزاماً هدفی نیست که باید بدون محدودیت دنبال شود. این شرکت معتقد است ادامه مسیر باید به توانایی انسان برای حفظ کنترل بر سیستم‌ها و تصمیم‌گیری آگاهانه درباره مزایا و خطرات آن وابسته باشد.

خطر از دست رفتن کنترل انسان

مهم‌ترین نگرانی درباره RSI احتمال شکل‌گیری چرخه‌ای از بهبود سریع هوش مصنوعی است. اگر یک سیستم بتواند سرعت و کیفیت توسعه نسل‌های بعدی را افزایش دهد، ممکن است فرآیند پیشرفت از توانایی انسان برای نظارت و ارزیابی فاصله بگیرد. با این حال، هنوز مشخص نیست که RSI کاملاً خودمختار چه زمانی محقق خواهد شد یا حتی آیا در نهایت به یک جهش انفجاری در توانایی‌های هوش مصنوعی منجر می‌شود یا خیر.

شرکت‌های مختلف نیز رویکردهای متفاوتی دارند. برخی بر افزایش ایمنی و حفظ کنترل انسانی تأکید می‌کنند و برخی دیگر با سرعت بیشتری به سمت خودکارسازی توسعه مدل‌ها حرکت می‌کنند. در نهایت، مسئله اصلی تنها ساخت هوش مصنوعی قدرتمندتر نیست؛ بلکه این است که آیا می‌توان هم‌زمان با افزایش توانایی AI، سازوکارهای ایمنی، هم‌راستایی و کنترل انسانی را نیز به همان سرعت توسعه داد یا خیر. این موضوع می‌تواند یکی از مهم‌ترین چالش‌های آینده صنعت هوش مصنوعی باشد.

منبع خبر: apnews