رقابت برای توسعه هوش مصنوعی در سال‌های اخیر با سرعت بی‌سابقه‌ای ادامه داشته است؛ اما اکنون برخی از شناخته‌شده‌ترین چهره‌های صنعت فناوری درباره پیامدهای این سرعت هشدار داده‌اند. بحث اصلی این است که آیا شرکت‌های فعال در حوزه هوش مصنوعی پیشرفته باید سرعت توسعه مدل‌های جدید را کاهش دهند تا فرصت بیشتری برای ایجاد سازوکارهای ایمنی و نظارت انسانی فراهم شود یا اینکه چنین اقدامی می‌تواند باعث عقب‌ماندن کشورها و شرکت‌ها در رقابت جهانی شود.

هشدار مدیر Anthropic درباره توسعه سریع AI

داریو آمودی (Dario Amodei)، مدیرعامل شرکت Anthropic، از مهم‌ترین افرادی است که اخیراً خواستار مدیریت سرعت توسعه مدل‌های پیشرفته هوش مصنوعی شده است. او معتقد است توانایی مدل‌های جدید AI با سرعت زیادی در حال افزایش است و اگر سازوکارهای ایمنی هم‌زمان با این پیشرفت توسعه پیدا نکنند، کنترل سیستم‌های بسیار قدرتمند در آینده می‌تواند دشوار شود.

یکی از نگرانی‌های اصلی، ظهور عامل‌های هوش مصنوعی (AI Agents) است؛ سیستم‌هایی که برخلاف چت‌بات‌های معمولی می‌توانند مجموعه‌ای از وظایف را به‌صورت نسبتاً مستقل انجام دهند. افزایش استقلال این سیستم‌ها می‌تواند کاربردهای بسیار گسترده‌ای ایجاد کند، اما هم‌زمان ریسک‌هایی مانند سوءاستفاده سایبری، دسترسی غیرمجاز به زیرساخت‌ها و تصمیم‌گیری خارج از کنترل انسان را نیز افزایش می‌دهد.

حمایت سم آلتمن و ایلان ماسک از افزایش نظارت

این هشدار تنها به Anthropic محدود نمانده است. سم آلتمن، مدیرعامل OpenAI و ایلان ماسک نیز از ضرورت افزایش نظارت و توجه جدی‌تر به ایمنی هوش مصنوعی حمایت کرده‌اند. همچنین بحث درباره استفاده از ارزیاب‌های مستقل برای بررسی عملکرد و ایمنی مدل‌های پیشرفته بیشتر مطرح شده است. موضوع مهم این است که این افراد لزوماً خواستار توقف کامل توسعه هوش مصنوعی نیستند؛ بلکه بحث اصلی درباره ایجاد تعادل میان نوآوری، رقابت و ایمنی است. هدف از این رویکرد آن است که توسعه قابلیت‌های جدید AI با ایجاد استانداردهای مناسب برای کنترل و ارزیابی سیستم‌ها همراه باشد.

مخالفت ترامپ با کاهش سرعت توسعه هوش مصنوعی

در سوی دیگر، دونالد ترامپ، رئیس‌جمهور آمریکا، رویکرد محتاطانه‌تری نسبت به پیشنهاد کاهش سرعت توسعه هوش مصنوعی نشان داده است. او ضمن پذیرش امکان ایجاد برخی چارچوب‌های نظارتی، هشدارهای مطرح‌شده درباره خطرات آینده AI را تا حد زیادی اغراق‌آمیز دانسته و بر اهمیت حفظ برتری آمریکا در رقابت هوش مصنوعی با چین تأکید کرده است. ترامپ معتقد است رقابت فناوری میان آمریکا و چین اهمیت استراتژیک بالایی دارد و کاهش سرعت توسعه AI می‌تواند موقعیت آمریکا را در این رقابت تضعیف کند.

آینده هوش مصنوعی؛ سرعت بیشتر یا ایمنی بیشتر؟

این اختلاف‌نظر نشان می‌دهد صنعت هوش مصنوعی وارد مرحله‌ای جدید شده است. مسئله دیگر تنها ساخت مدل‌هایی با عملکرد بهتر نیست؛ بلکه کنترل، ایمنی و نحوه استفاده از سیستم‌های بسیار قدرتمند هوش مصنوعی نیز به یکی از مهم‌ترین موضوعات فناوری تبدیل شده است. از یک سو، توسعه سریع‌تر می‌تواند به پیشرفت در حوزه‌هایی مانند پزشکی، علم، برنامه‌نویسی و اتوماسیون منجر شود. از سوی دیگر، افزایش استقلال و توانایی مدل‌ها بدون ایجاد سازوکارهای نظارتی مناسب می‌تواند خطرات جدیدی به همراه داشته باشد. در نهایت، به نظر می‌رسد بحث اصلی در صنعت AI نه «توقف هوش مصنوعی»، بلکه پیدا کردن راهی برای توسعه مسئولانه هوش مصنوعی است؛ مسیری که در آن نوآوری ادامه داشته باشد، اما هم‌زمان انسان بتواند کنترل مؤثر خود را بر سیستم‌های پیشرفته حفظ کند.

منبع خبر: nytimes