با پیشرفت هوش مصنوعی و برنامه‌های و اپلیکیشن‌های صوتی و تصویری مبتنی بر هوش مصنوعی در محیط شبکه‌های مجازی مثل اینستاگرام، یوتیوب و غیره، شاهد ظهور تصاویر و ویدئوها از افراد سلبریتی و سرشناسیم هستیم که این تصاویر در واقع متعلق به آنها نیست. این موضوع شاید کمی گیج کننده باشد. شاید برای شما هم این موضوع پیش آمده باشد که چهره دوستان یا آشنایان خود را به صورت بسیار حرفه‌ای در یک فیلم هالیوودی دیده باشید، به‌طوری که تشخیص ساختگی بودن آن تقریباً غیر ممکن باشد. با دیدن این تصاویر اولین سؤالی که برای مخاطب پیش می‌آید این است که این تصاویر و ویدئوها چه هستند و چگونه ساخته می‌شوند. در پاسخ به این سؤال باید گفت که این نوع تصاویر و ویدئوها به کمک علم هوش مصنوعی و تکنولوژی deep fake ساخته می‌شود. در توضیح کوتاه این تکنولوژی می‌تواند گفت که با استفاده از این تکنولوژی می‌توان با تغییر در محتوای اصلی یک ویدئو یا تصویر، تصویر شخص مورد نظر به شکلی بسیار حرفه‌ای در تصویر شخصت موجود در ویدئو جای گذاری کرد. deep fake همان فناوری است که می‌توان این کار برای شما انجام دهد. مسئله قابل توجه در مورد این تکنولوژی این است که به کمک علم هوش مصنوعی کار می‌کند. در ادامه قصد داریم بیشتر در مورد این تکنولوژی بحث کنیم و در مورد اینکه این تکنولوژی چگونه کار می‌کند صحبت کنیم و مزایا و معایب دردسترس‌بودن چنین تکنولوژی را بررسی کنیم. در ادامه با آرتیجنسهمراه باشید.

deep fake چیست؟

اخیراً در محیط شبکه‌های اجتماعی شاهد ظهور ویدئوها و تصاویری هستیم که واقعی نیست و به صورت جعلی ساخته شده‌اند. موضوع جالب توجه در مورد این ویدئوها واقعی جلوه دادن آنهاست. این ویدئوها به شکل بسیار دقیق و حرفه‌ای ساخته و می‌شوند به‌طوری که تشخیص آن‌ها از ویدئو واقعی به شدت دشوار است. ساخت ویدئو ها و تصاویر از چهره افراد سرشناس و یا جایگزین کردن تصویر خود با صورت یک شخصیت بازیگر در یک فیلم محبوب، همه این ها بخشی از تکنولوژی به اسم Deep Fake است. تکنولوژی Deep Fake یک فناوری جدید در زمینه هوش مصنوعی است که با استفاده از شبکه‌های عصبی عمیق و تکنیک‌های هوش مصنوعی مثل یادگیری ماشین و یادگیری عمیق که از زیرشاخه های علم هوش مصنوعی در کنار زیر شاخه هایی دیگر مثل سیستم های خبره میباشد، می‌تواند آموزش ببیند تا صورت یا یک شخص را در یک ویدئو با صورت شخص دیگر به شکل کاملاً حرفه‌ای جایگزین کند. سال‌ها پیش با استفاده از این تکنولوژی موفق شده بودند تا تصویر یک سیاست مدار مشهور در یک ویدئو و در حال سخنرانی را جوری جعل کنند که تا سال‌های سال کسی پی به جعلی بودن آن نبرد. 

deep fake چگونه کار میکند؟

پس از یک آشنایی کوتاه با تکنولوژی Deep Fake در این قسمت از مقاله قصد داریم با توضیح دادن روش کاری تکنولوژی Deep Fake شما را بیشتر با این تکنولوژی آشنا کنیم. چگونگی کارکرد Deep Fake می‌تواند در مراحل زیر خلاصه شود:

جمع آوری داده ها:

اولین مرحله کاری یک مدل Deep Fake جمع آوری داده می‌باشد. مثل هر مدل یادگیری ماشین و یادگیری عمیق دیگری جمع آوری داده‌های مورد نیاز برای آموزش مدل اولین مرحله برای پیاده سازی یک مدل Deep Fake است. برای آموزش این نوع مدل‌ها نیاز به حجم انبوهی از تصاویر و ویدئوهای مربوط به چهره افراد مختلف خواهیم داشت. 

آموزش مدل:

پس جمع آوری و پردازش داده‌های مورد نیاز برای آموزش مدل، نوبت به آموزش مدل می‌رسد. معمولاً برای آموزش مدل‌هایی از این دست، از مدل‌های عصبی عمیق مانند  GANاستفاده می‌شود. در یک شبکه GAN دو بخش به نام‌های تولید کننده یا Generator و تمییز دهنده یا Discriminator وجود دارد. روش کار این دو بخش به این صورت است که بخش تولید کننده سعی می‌کند ویدئوهایی بسازد که به نظر واقعی و مطابق داده‌های آموزشی باشد. در کنار این بخش تمییز کننده تصاویر تولید شده را با تصاویر واقعی مقایسه می‌کند تا میزان شباهت را بسنجد و نسبت به آن پارامترها را تنظیم کند. این مراحل تا جایی که یک نتیجه مطلوب حاصل شود ادامه پیدا می‌کند تا تمییز کننده نتواند تصویر تولید شده را از تصویر واقعی تشخیص دهد.

اعمال تغییرات:

در این مرحله پس از آموزش کامل مدل می‌توان با دادن تصویر یا ویدئو مورد نظر به آن به راحتی آن را جعل کرد.

مزایا و معایب deep fake:

هر تکنولوژی مزایا و معایب مربوط به خود را دارد. تکنولوژی Deep Fake هم از این قاعده مستثنا نیست. در ادامه این مقاله حول محور مزایا و معایبی که متوجه این تکنولوژی است بحث خواهیم کرد.

مزایا:

استفاده از این تکنولوژی می‌تواند در صنعت سینما متحول کننده باشد. از این تکنولوژی می‌توان برای تولید ویدئوکلیپ‌ها، انیمیشن‌ها، صحنه‌های فانتزی  و یا حتی جلوه‌های ویژه استفاده کرد. یکی دیگر از کاربردها و مزیت‌های استفاده از این تکنولوژی بهبود روند آموزش مدل‌های تشخیص چهره می‌باشد. با استفاده از این نوع مدل‌ها می‌توان در پیاده سازی مدل‌های پردازش تصویر و تشخیص چهره و یا حتی سیستم‌های تشخیص پزشکی به نقطه عطفی رسید. تکنولوژی Deepfake نمونه‌های پیچیده از چهره و صدا را تولید می‌کند که می‌توان از این تولیدات در تحقیقات مرتبط با یادگیری عمیق و هوش مصنوعی استفاده کرد.

معایب:

یکی از مهم‌ترین معایب استفاده از این تکنولوژی را می‌توان نقض حریم خصوصی در نظر گرفت. افراد می‌توانند با استفاده از این تکنولوژی چهره اشخاص معروف و سرشناس را علی‌رغم میل باطنی این افراد جعل کنند و همین امر باعث به وجود آمدن مشکلات برای آن افراد شود. یکی از مسائلی که به کارگیری این تکنولوژی هدف گرفته، تضعیف اعتماد اجتماعی است. استفاده از این تکنولوژی باعث خواهد شد مردم دیگر نتواند به راحتی به اخبار و اطلاعیه‌های منتشر شده حتی از منابع موثق هم اعتماد کنند. همچنین Deepfake می‌تواند برای ایجاد تصاویر یا ویدئوهای جعلی برای اهداف غیراخلاقی، سیاسی یا تبلیغاتی کذب به کار گرفته شود. این امر می‌تواند به تهدید امنیتی و افزایش اختلاف نظرها دامن بزند.

نتیجه گیری:
مزیا و معایبی که در بالا ذکر آن گذشت فقط گوشه‌ای از تأثیرات به کار گیری این تکنولوژی است. قرار گیری این تکنولوژی در مسیر اشتباه ممکن است منجر به فجایع جبران ناپذیری در تمام حوزه‌ها شود. لذا همین موضوع نظارت قانونی بر استفاده از این تکنولوژی را به امری مهم و حیاتی تبدیل می‌کند. شاید بتوان تکنولوژی Deep Fake را هم یک تکنولوژی خوب و مفید و هم یک تکنولوژی مضر و آسیب زا در نظر گرفتن. ابزاری که بتواند در حد بسیار حرفه‌ای ویدئو ها و تصاویری بسازد که تشخیص تقلبی و ساختگی بودن آنها بسیار سخت و در مواردی غیر ممکن باشد. می‌تواند از طرفی زمینه انحراف، سئو تفاهم و سوء استفاده را فراهم کند. از طرفی هم به کار گیری این تکنولوژی در عرصه‌هایی مثل سینما و تلویزیون و جلوه‌های ویژه بسیار کارآمد و مفید باشد. همین موضوع باعث می‌شود که تصمیم گیری در مورد خوب و یا بد بودن این تکنولوژی بسیار سخت باشد. ولی با این همه با در نظر گرفتن این موضوع که هر تکنولوژی نقاط قوت و ضعف مختص خود را دارد، می‌توان این تکنولوژی مبتنی بر هوش مصنوعی را هم در چارچوب برخی قوانین با آغوش باز پذیرفت.