هوش مصنوعی مولد در سال‌های اخیر به یکی از ابزارهای مهم پژوهش‌های علمی تبدیل شده است؛ از طراحی پروتئین و کشف دارو گرفته تا شبیه‌سازی سلول‌ها و تولید داده‌های زیستی مصنوعی. با این حال، یک پژوهش جدید هشدار می‌دهد که خطاهای موسوم به «توهم هوش مصنوعی» می‌توانند در تحقیقات زیستی پیامدهای جدی داشته باشند و حتی باعث شوند دانشمندان تصور کنند یک اثر زیستی وجود دارد، در حالی که چنین اثری در واقعیت وجود ندارد.

توماس بورگر، زیست‌شناس محاسباتی از دانشگاه گرونوبل آلپ فرانسه، در مقاله‌ای در مجله علمی Patterns، خطرات استفاده از هوش مصنوعی مولد در ۱۰ کاربرد مختلف تحقیقات زیستی را بررسی کرده است. به گفته او، همه کاربردهای این فناوری از نظر میزان خطر یکسان نیستند و تفاوت اصلی به نحوه استفاده از خروجی هوش مصنوعی مربوط می‌شود. یکی از کاربردهای نسبتاً کم‌خطر، غربالگری داروها و پروتئین‌های احتمالی است. هوش مصنوعی می‌تواند تعداد بسیار زیادی از ترکیبات را بررسی کرده و گزینه‌های امیدوارکننده را برای آزمایش‌های آزمایشگاهی انتخاب کند. اگر مدل اشتباه کند، ممکن است یک داروی مؤثر کنار گذاشته شود یا پژوهشگران زمان و هزینه خود را صرف بررسی گزینه‌ای ناموفق کنند؛ اما در نهایت نتیجه باید در آزمایش واقعی تأیید شود.

خطر زمانی افزایش پیدا می‌کند که داده‌های تولیدشده توسط هوش مصنوعی جایگزین داده‌های آزمایشگاهی شوند. داده‌های زیستی مصنوعی می‌توانند برای تکمیل داده‌های ناقص، محافظت از حریم خصوصی بیماران، کاهش هزینه تحقیقات یا کاهش استفاده از حیوانات آزمایشگاهی مفید باشند. با این حال، اگر مدل ویژگی‌ای را به داده اضافه کند که در واقعیت وجود نداشته است، دانشمندان ممکن است آن را به‌عنوان یک اثر زیستی واقعی تفسیر کنند.

مشکل مهم‌تر این است که توهم هوش مصنوعی همیشه به شکل یک نتیجه کاملاً ساختگی ظاهر نمی‌شود. در جریان پردازش داده‌های واقعی، ممکن است یک سیگنال زیستی به‌طور نامحسوس تحریف، تقویت یا تغییر کند. چنین تغییری می‌تواند نتیجه نهایی تحلیل را عوض کند، بدون اینکه پژوهشگر متوجه شود داده در چه مرحله‌ای دچار انحراف شده است. نمونه‌ای از این چالش در AlphaFold 3 نیز دیده شده است. توسعه‌دهندگان این مدل در مقاله‌ای که سال ۲۰۲۴ در مجله Nature منتشر شد، به امکان ایجاد ساختارهای «توهم‌شده» در بخش‌های نامنظم پروتئین اشاره کردند. البته امتیازهای اطمینان پایین می‌توانند در شناسایی برخی از این خطاها به پژوهشگران کمک کنند.

از سوی دیگر، توهم هوش مصنوعی همیشه لزوماً مانع کشف علمی نیست. گاهی یک خطای غیرمنتظره ممکن است پژوهشگران را به سمت یک کشف واقعی هدایت کند؛ مشابه اتفاقاتی که در گذشته در نتیجه خطاهای آزمایشگاهی رخ داده‌اند. با این حال، چنین یافته‌ای تنها زمانی می‌تواند یک کشف علمی محسوب شود که به‌صورت مستقل و در آزمایش واقعی تأیید شود.

در نهایت، مسئله اصلی نه صرفاً خطاپذیری هوش مصنوعی مولد، بلکه نحوه استفاده از خروجی آن است. اگر خروجی AI به‌عنوان یک فرضیه یا ایده برای آزمایش در نظر گرفته شود، خطا می‌تواند تنها به یک فرضیه ناموفق تبدیل شود. اما اگر خروجی مصنوعی به‌عنوان مشاهده یا شواهد واقعی پذیرفته شود، ممکن است یک «واقعیت زیستی» جعلی وارد فرایند علمی شود. بنابراین، حتی دقیق‌ترین و قدرتمندترین مدل هوش مصنوعی نیز نمی‌تواند جایگزین اعتبارسنجی آزمایشگاهی و تکرار مستقل نتایج شود. در تحقیقات زیستی، خروجی AI باید نقطه شروع بررسی علمی باشد، نه پایان آن.

منبع خبر: sciencealert