گوگل اعلام کرده است که قدرتمندترین مدل هوش مصنوعی جدید خود، Gemini 4 Argon، را فعلاً به‌صورت عمومی عرضه نخواهد کرد. این مدل که توانایی‌های پیشرفته‌ای در حوزه‌هایی مانند برنامه‌نویسی، امنیت سایبری، امور حقوقی و مالی دارد، در مرحله نخست تنها در اختیار گروهی منتخب و مورد اعتماد از کارشناسان امنیت سایبری قرار می‌گیرد. گوگل دلیل این تصمیم را نگرانی درباره احتمال سوءاستفاده از قابلیت‌های پیشرفته این مدل عنوان کرده است. کورای کاووکچو اوغلو، معمار ارشد هوش مصنوعی گوگل، اعلام کرد که عرضه ایمن مدل‌هایی با چنین سطحی از توانایی نیازمند یک رویکرد مرحله‌ای است. به همین دلیل، گوگل قصد دارد پیش از عرضه گسترده Gemini 4 Argon، عملکرد و خطرات احتمالی آن را با کمک گروهی از آزمایش‌کنندگان بررسی کند.

Gemini 4 Argon؛ مدل قدرتمند گوگل برای امنیت سایبری

بر اساس اعلام گوگل، Gemini 4 Argon در انجام وظایف پیچیده نرم‌افزاری، تحلیل‌های حقوقی و مالی و به‌ویژه دفاع سایبری عملکرد قابل توجهی دارد. یکی از مهم‌ترین قابلیت‌های این مدل، توانایی شناسایی و اصلاح آسیب‌پذیری‌های جدی در نرم‌افزارهاست. در جریان آزمایش‌های اولیه، کارشناسان توانستند با کمک Argon یک آسیب‌پذیری در نرم‌افزاری را شناسایی کنند که در بیمارستان‌های سراسر جهان مورد استفاده قرار می‌گرفت. این نقص امنیتی می‌توانست اطلاعات شخصی و حساس کاربران را در معرض افشا قرار دهد و طبق گفته گوگل، برخی مدل‌های پیشرفته دیگر موفق به شناسایی آن نشده بودند. با وجود قابلیت‌های امنیتی قدرتمند، گوگل تلاش کرده است محدودیت‌هایی برای جلوگیری از سوءاستفاده از این فناوری ایجاد کند. Gemini 4 Argon به‌گونه‌ای طراحی شده که درخواست‌هایی را که می‌توانند به اجرای حملات سایبری یا توسعه سلاح‌های شیمیایی، زیستی و هسته‌ای کمک کنند، رد کند.

نگرانی درباره سوءاستفاده هکرها از هوش مصنوعی

یکی از مهم‌ترین نگرانی‌های متخصصان امنیت سایبری این است که مدل‌های پیشرفته هوش مصنوعی در اختیار مهاجمان سایبری قرار بگیرند و برای حمله به بانک‌ها، بیمارستان‌ها و زیرساخت‌های دولتی استفاده شوند. گوگل همچنین اعلام کرده است که فرآیند استدلال مدل را تحت نظارت قرار می‌دهد تا از خروج آن از چارچوب موردنظر کاربران جلوگیری کند. این مسئله با مفهوم ناهم‌راستایی هوش مصنوعی (AI Misalignment) ارتباط دارد؛ وضعیتی که در آن رفتار یا اهداف یک سیستم هوش مصنوعی می‌تواند از خواسته‌های طراحان یا کاربران فاصله بگیرد.

رویکرد محتاطانه گوگل و شرکت‌های رقیب

تصمیم گوگل مشابه رویکردی است که برخی شرکت‌های دیگر حوزه هوش مصنوعی، از جمله Anthropic و OpenAI، در قبال مدل‌های پیشرفته خود اتخاذ کرده‌اند. این شرکت‌ها نیز برای مدل‌های قدرتمندتر، محدودیت‌ها و سازوکارهای امنیتی بیشتری در نظر گرفته‌اند. گوگل همچنین اعلام کرده است که دولت آمریکا به‌صورت زودهنگام به Gemini 4 Argon دسترسی خواهد داشت تا بازخوردهای لازم درباره خطرات و قابلیت‌های این مدل جمع‌آوری شود.

این خبر در شرایطی منتشر شده که شرکت‌های بزرگ فناوری و دولت آمریکا توجه بیشتری به کنترل ریسک‌های هوش مصنوعی نشان می‌دهند. نگرانی‌ها پس از گزارش‌هایی درباره توانایی برخی مدل‌های پیشرفته در عبور از محیط‌های آزمایشی و انجام حملات سایبری افزایش یافته است. در مجموع، عرضه محدود Gemini 4 Argon نشان می‌دهد که رقابت در حوزه هوش مصنوعی پیشرفته تنها به افزایش قدرت مدل‌ها محدود نمی‌شود و مسئله امنیت، کنترل رفتار و جلوگیری از سوءاستفاده نیز به یکی از مهم‌ترین چالش‌های صنعت هوش مصنوعی تبدیل شده است.

منبع خبر: theguardian