شرکت OpenAI اعلام کرده است که راهکاری برای تشخیص متن‌های تولید شده توسط ChatGPT توسعه داده است، اما هنوز در مورد انتشار آن تصمیم‌گیری نکرده است. این اقدام پس از عملکرد ضعیف سیستم AI Text Classifier شرکت انجام شده است. روش جدیدی که می‌توانست متون تولید شده باهوش مصنوعی را تشخیص دهد، اما این ابزار قابل دور زدن بود، مثلاً با استفاده از سیستم‌های ترجمه یا دیگر مدل‌های هوش مصنوعی به راحتی می‌شد عملکرد آن را تحت تأثیر قرار داد.OpenAI  همچنین در حال آزمایش استفاده از متادیتا برای تشخیص متن‌های تولید شده توسط هوش مصنوعی است. برخلاف نشانه‌گذاری متنی، متادیتا به صورت رمزنگاری کار می‌کند و احتمال نتایج مثبت کاذب را از بین می‌برد. OpenAI به جای تمرکز بر تشخیص متون، ابزارهای تشخیص محتواهای صوتی و تصویری را در اولویت قرار داده است.

شرکت اعلام کرد که قصد دارد متادیتا C2PA را به تصاویر تولید شده توسط DALL-E و ویدئوهای تولید شده توسط مدل Sora اضافه کند. این متادیتا به محتوای تولید شده پیوست می‌شود و قابل ردیابی به منبع اصلی است، حتی اگر تصویر بعداً ویرایش شود. این اقدام به منظور افزایش اعتماد به محتوای دیجیتال صورت می‌گیرد. OpenAI همچنین ابزار نشانه‌گذاری را برای تصاویر آزمایش می‌کند که غیر قابل دست‌کار است. این شرکت از مراکز تحقیقاتی و سازمان‌های خبری خواسته تا بازخورد خود را در رابطه با این ابزار نشانه گذاری تصویر را ارائه دهند. این ابزار توانسته است ۹۸٪ از تصاویر تولید شده توسط DALL-E 3 را به درستی تشخیص دهد و تنها ۰.۵٪ از تصاویر غیر هوش مصنوعی را به اشتباه برچسب‌گذاری کرده است. 

در زمینه صدا نیز OpenAI در حال توسعه راهکارهای تشخیص صداهای تولید شده توسط هوش مصنوعی است. مدل جدید تولید صدای OpenAI به نام Voice Engine که قادر به تولید صداهای احساسی و واقع‌گرایانه است، با ویژگی نشانه‌گذاری صوتی عرضه شده است. OpenAI اعلام کرد که به تحقیق و توسعه در این زمینه‌ها ادامه خواهد داد تا فناوری‌های صوتی شفاف و امن‌تری ارائه دهد. این شرکت همچنین بیان کرد که ابزارهای تشخیص محتواهای صوتی و تصویری تولید شده با هوش مصنوعی، در اولویت قرار دارند. TikTok، Adobe و Microsoft از جمله شرکت‌های بزرگی هستند که از فناوری نشانه گذاری محتوای تولید شده با هوش مصنوعی استفاده می‌کنند. این فناوری توسط ائتلاف برای اعتبار و اصالت محتوا (C2PA) توسعه یافته و به محتوای تولید شده توسط هوش مصنوعی متادیتا اضافه می‌کند که حتی پس از ویرایش، قابل ردیابی باشد.

منبع خبر: AI business