سم آلتمن، مدیرعامل OpenAI، درباره آینده هوش مصنوعی هشدار داده و معتقد است دو سناریوی مهم می‌توانند مسیر پیشرفت این فناوری را به شکلی خطرناک تغییر دهند. به گفته او، از دست رفتن کنترل انسان بر سیستم‌های هوش مصنوعی و تمرکز بیش از حد قدرت در اختیار یک کشور یا آزمایشگاه، از مهم‌ترین تهدیدهایی هستند که باید از وقوع آنها جلوگیری کرد. آلتمن در پستی در شبکه اجتماعی X تأکید کرد که OpenAI خود را در کنار انسان‌ها می‌داند و هدف اصلی هوش مصنوعی باید همچنان خدمت به انسان باشد. او معتقد است با افزایش توانایی مدل‌های پیشرفته، روش‌های هم‌ترازی و ایمنی هوش مصنوعی (AI Alignment & Safety) نیز باید با سرعت بیشتری توسعه پیدا کنند.

از دست رفتن کنترل انسان بر هوش مصنوعی

نخستین نگرانی سم آلتمن به مسئله کنترل و هم‌ترازی مدل‌های هوش مصنوعی مربوط می‌شود. با قدرتمندتر شدن مدل‌های AI، اطمینان از اینکه این سیستم‌ها مطابق اهداف و ارزش‌های انسانی عمل می‌کنند، اهمیت بیشتری پیدا می‌کند. آلتمن هشدار داده است که نباید اجازه داد توانایی مدل‌های هوش مصنوعی سریع‌تر از فناوری‌های ایمنی و هم‌ترازی آنها رشد کند. به بیان دیگر، توسعه قابلیت‌های هوش مصنوعی باید همزمان با ایجاد روش‌هایی برای کنترل، ارزیابی و محدود کردن رفتار مدل‌های بسیار قدرتمند پیش برود. این موضوع به‌ویژه با نزدیک شدن صنعت به مدل‌هایی با قابلیت‌های گسترده‌تر و احتمال ظهور ابرهوش مصنوعی (AI Superintelligence) اهمیت بیشتری پیدا کرده است.

خطر تمرکز بیش از حد قدرت

دومین نگرانی مدیرعامل OpenAI، تمرکز قدرت در دست یک کشور، شرکت یا آزمایشگاه هوش مصنوعی است. آلتمن معتقد است اگر یک سیستم هوش مصنوعی فوق‌العاده قدرتمند در اختیار یک فرد یا سازمان قرار گیرد، ممکن است از آن برای تحمیل دیدگاه‌ها و ارزش‌های خود به جامعه استفاده شود. او این وضعیت را بالقوه «ویرانگر» و «آرمان‌شهر معکوس» توصیف کرده و تأکید کرده است که حتی اگر خود فناوری ایمن باشد، تمرکز بیش از حد قدرت می‌تواند پیامدهای خطرناکی داشته باشد. به گفته آلتمن، جهان باید مسیر باریکی میان دو خطر طی کند؛ از یک طرف نباید کنترل آینده به دست سیستم‌های هوش مصنوعی بیفتد و از طرف دیگر نباید قدرت هوش مصنوعی در اختیار یک کشور یا یک آزمایشگاه خاص متمرکز شود.

تأکید OpenAI بر استانداردهای ایمنی

این اظهارات پس از آن مطرح شد که آلتمن درباره ضرورت وجود استانداردهای ایمنی مشترک برای شرکت‌های آمریکایی فعال در حوزه هوش مصنوعی صحبت کرده بود. او اعلام کرده است که OpenAI از ایجاد یک چارچوب فدرال برای تعیین الزامات ایمنی ثابت در حوزه هوش مصنوعی پیشرفته استقبال می‌کند. آلتمن همچنین توضیح داد که OpenAI علاوه بر سیاست‌های توسعه مسئولانه و چارچوب‌های آمادگی، اکنون پیش از اجرای فرایندهای آموزشی پیشرفته‌ای که انتظار می‌رود قابلیت‌های مدل را به میزان قابل توجهی افزایش دهند، سناریوهای ایمنی مشخصی را از قبل تعریف و ارزیابی می‌کند.

ارزیابی مستقل مدل‌های هوش مصنوعی

موضوع دیگری که در این بحث مطرح شده، استفاده از ارزیاب‌های مستقل برای بررسی ایمنی و هم‌ترازی مدل‌های هوش مصنوعی است. داریو آمودی، مدیرعامل Anthropic، پیش‌تر پیشنهاد کرده بود آزمایشگاه‌های هوش مصنوعی از ارزیاب‌های شخص ثالث استفاده کنند؛ ارزیاب‌هایی که بتوانند با سطح دسترسی گسترده، رعایت استانداردهای ایمنی، حوادث احتمالی و وضعیت هم‌ترازی مدل‌ها را بررسی کنند.

آلتمن با این پیشنهاد موافقت کرده و گفته است که OpenAI نیز قصد دارد از ارزیاب‌های مستقل با دسترسی مشابه کارکنان استفاده کند. در مجموع، اظهارات سم آلتمن نشان می‌دهد که با افزایش سرعت توسعه هوش مصنوعی پیشرفته، مسئله ایمنی دیگر تنها به نحوه عملکرد یک مدل محدود نیست و موضوعاتی مانند کنترل انسانی، توزیع قدرت، ارزیابی مستقل و جلوگیری از تمرکز فناوری نیز به بخش مهمی از آینده صنعت AI تبدیل شده‌اند.

منبع خبر: foxbusiness