• مجمع جهانی اقتصاد هشدار می دهد که اطلاعات نادرست مبتنی بر هوش مصنوعی اکنون بزرگترین خطر جهانی است.

مجمع جهانی اقتصاد (WEF) اطلاعات نادرست ارائه شده توسط هوش مصنوعی را به عنوان مهمترین خطرات کوتاه مدت برای برای انسان ها میداند و هوش مصنوعی را مستقیما مسئول این موضوع معرفی میکند. بر اساس گزارش جهانی که پیش از رویداد داووس 2024 منتشر شد، مدل‌های هوش مصنوعی در حال حاضر امکان انتشار اطلاعات نادرست از طریق شبیه‌سازی صوتی به وب‌سایت‌های تقلبی را فراهم می‌کنند و قرار است وضعیت بدتر از این هم شود. محتوای تولید شده توسط هوش مصنوعی، یا همانطور که گزارش WEF آن را نامیده است، محتوای «مصنوعی» «در طی دو سال آینده افراد را تحت تاثیر قرار خواهد داد. به اقتصادها آسیب می‌زند و جوامع را به روش‌های متعددی متلاشی می‌کند». این گزارش ادعا می کند که اطلاعات نادرست ایجاد شده استفاده از هوش مصنوعی می تواند وضعیت را بدتر کند یا منجر به دستکاری بازار سهام شود.

برخی از نهادها قبلاً تلاش هایی را برای توافق با قوانین حاکم بر هوش مصنوعی انجام داده اند، از جمله قانون هوش مصنوعی اتحادیه اروپا که پس از سال ها تلاش سیاسی در حال تکمیل است. گزارش WEF به الزامات در چین اشاره می‌کند که در آن محتوای تولید شده توسط هوش مصنوعی باید مجهز به ویژگی واترمارک شود و می‌گوید چنین رویکردی می‌تواند به شناسایی اطلاعات نادرست، از جمله اطلاعات نادرست ناخواسته از طریق محتوای توهم‌آمیز هوش مصنوعی کمک کند. این گزارش از رهبران می‌خواهد تا در اقدامی برای مقابله با خطرات جهانی هوش مصنوعی تجدید نظر کنند. با این حال، این گزارش اذعان می کند که سرعت و اثربخشی مقررات "بعید است که با سرعت توسعه مطابقت داشته باشد." برای مثال، قانون هوش مصنوعی اتحادیه اروپا باید اصلاحاتی را برای پوشش مدل های بنیادی مانند ChatGPT ایجاد می کرد. گزارش WEF همکاری جهانی بیشتر در زمینه مقابله با خطرات نوظهور مانند هوش مصنوعی را توصیه می کند. سعدیه زاهدی، مدیر عامل WEF، گفت: "رهبران جهان باید برای رسیدگی به بحران های کوتاه مدت و همچنین بسترسازی برای آینده ای انعطاف پذیرتر، پایدارتر و فراگیرتر گرد هم آیند."