محققان دانشگاه کمبریج هشدار داده‌اند که ابزارهای هوش مصنوعی می‌توانند برای تأثیرگذاری بر تصمیمات مخاطبان آنلاین، از خرید کالا تا رأی دادن، مورد استفاده قرار گیرند. این تحقیق به شکل‌گیری بازاری جدیدی اشاره دارد که در آن دستیارهای هوش مصنوعی نیت‌ها و اهداف انسان‌ها را درک، پیش‌بینی و دستکاری می‌کنند و این اطلاعات را به شرکت‌هایی که می‌توانند از آن‌ها سود ببرند، می‌فروشند. این روش به‌عنوان جانشین روشی به نام "اقتصاد توجه" معرفی شده است؛ جایی که شبکه‌های اجتماعی کاربران را به ماندن در پلتفرم‌ها و مشاهده تبلیغات ترغیب می‌کنند. اما در روش جدید، شرکت‌های فناوری با استفاده از هوش مصنوعی اطلاعاتی درباره انگیزه‌ها و اهداف کاربران، از برنامه‌های سفر گرفته تا نظرات سیاسی، را به بالاترین پیشنهاددهنده می‌فروشند.

دکتر جانی پن از مرکز Leverhulme در مورد این روش هشدار می‌دهد و میگوید که این اقتصاد می‌تواند تأثیرات ناخواسته‌ای بر انتخابات آزاد، رسانه‌های مستقل و رقابت عادلانه بازار داشته باشد. این مطالعه ادعا می‌کند که مدل‌های زبانی بزرگ (LLM) که فناوری زیربنای ابزارهایی مانند ChatGPT هستند، می‌توانند با استفاده از داده‌های رفتاری و روان‌شناختی کاربران، نیت‌ها و خواسته های آنان را پیش‌بینی و هدایت کنند. به‌عنوان مثال، این ابزارها می‌توانند با پیشنهاد فیلم یا رزرو بلیت، کاربران را به انجام اقدامات خاص تشویق کنند.

مدل‌های هوش مصنوعی قادر خواهند بود تبلیغات آنلاین سفارشی ایجاد کنند و خروجی‌های خود را بر اساس داده‌های شخصی کاربر تنظیم کنند. همچنین، این مدل‌ها می‌توانند با تحلیل رفتار کاربران، اطلاعات شخصی بیشتری جمع‌آوری کرده و مکالمات را در جهت اهداف تبلیغاتی هدایت کنند. این تحقیق همچنین به استفاده شرکت‌هایی مانند متا از مدل‌های هوش مصنوعی برای پیش‌بینی تصمیمات کاربران، مانند رزرو رستوران یا هتل، اشاره دارد. به گفته محققان، این فناوری‌ها می‌توانند فرآیندهای موجود برای پیش‌بینی رفتار انسانی را به فرمتی دقیق‌تر و شخصی‌تر تبدیل کنند. در نهایت، محققان هشدار می‌دهند که بدون نظارت و تنظیم، این فناوری نوین می‌تواند به ابزار قدرتمندی برای تأثیرگذاری بر اهداف انسانی تبدیل شود و پیامدهای جدی برای آزادی‌ها و رقابت‌های اجتماعی و اقتصادی به همراه داشته باشد.

منبع خبر: theguardian