تاریخچه و نحوه‌ی کار دیپ‌فیک بسیاری از مردم منشأ دیپ‌فیک را به برنامه‌هایی مانند فتوشاپ بازمی‌گردانند. تکنولوژی GAN ابتدا در سال ۲۰۱۴ در دانشگاه مونترال توسط محققی به نام Ian Goodfellow توسعه یافت، اما اولین بار که یک کاربر ناشناس با عنوان “Deepfake” در سال ۲۰۱۷ از این تکنولوژی استفاده کرد و ویدیوهای جعلی از سلبریتی‌ها را در وب‌سایت Reddit منتشر کرد، آن زمان بود.
دیپ فیک چیست؟ معرفی تکنولوژی Deepfakes
دیپ‌فیک و نحوه‌ی کار آن دیپ‌فیک یک الگوریتم است که براساس داده‌های ماشین لرنینگ، دیپ لرنینگ و شبکه‌های عصبی، با هدف ایجاد محتوای جعلی شامل صدا و تصویر افراد برای بیان مطالب دلخواه به کار می‌رود. این محتواها به اعتبار چهره و صدای افراد واقعی و قابل‌اعتماد معرفی می‌شوند. اهداف پنهان پشت این فایل‌های دیجیتال عموما شامل کلاهبرداری، اخاذی، تحریف اطلاعات عمومی با انگیزه‌های سیاسی، مالی و حتی شخصی می‌باشد.
الگوریتم‌های دیپ‌فیک تکنولوژی Deepfakes از دو الگوریتم به نام‌های مولد (Generator) و تمییزدهنده (Discriminator) برای ایجاد و بهبود محتوای تقلبی استفاده می‌کند. الگوریتم مولد مسئول تولید فایل اولیه بر اساس مجموعه‌ای از داده‌های آموزشی دیجیتال است، سپس الگوریتم تمییزدهنده با مقایسه نسخه‌ی اولیه با نمونه‌های واقعی، محتوای تولیدی را بهبود می‌بخشد.
شبکه متخاصم GAN هر خروجی تمیزدهنده به داده‌های مولد ارسال می‌شود
این مکانیزم باعث ایجاد شبکه متخاصم مولد یا GAN می‌شود که از Deep Learning برای تشخیص الگوها در تصویر و صوت واقعی استفاده می‌کند. به‌عنوان مثال، شبکه GAN یک ویدیوی واقعی از فرد موردنظر را از زوایای مختلف مشاهده می‌کند، سپس با استفاده از یک رمزگذار خودکار (Autoencoder) بر پایه‌ی شبکه‌های عصبی، حالات چهره، زبان بدن و ژست‌های او را شناسایی یا رمزگذاری می‌کند. در ادامه، ویژگی‌های جمع‌آوری‌شده به ویدیوی جعلی با استفاده از Decoder اعمال می‌شود.
الگوریتم‌های Deepfake تکنولوژی Deepfake از دو الگوریتم به نام‌های مولد (Generator) و تمییزدهنده (Discriminator) برای تولید و بهبود محتوای جعلی استفاده می‌کند. الگوریتم مولد مسئول تولید فایل اولیه بر اساس مجموعه‌ای از داده‌های آموزشی دیجیتال است. پس از آن، الگوریتم تمییزدهنده با مقایسه نسخه‌ی اولیه با نمونه‌های واقعی، محتوای تولیدی را بهبود می‌بخشد.
شبکه متخاصم GAN هر خروجی الگوریتم تمییزدهنده به داده‌های تغذیه‌کننده‌ی مولد اضافه می‌شود تا دوباره به‌عنوان داده‌ی اولیه استفاده شود. این سازوکار باعث ایجاد یک شبکه متخاصم مولد یا GAN می‌شود که از Deep Learning برای تشخیص الگوها در تصویر و صوت واقعی استفاده می‌کند.
خطرات Deepfakes و موارد استفاده غیرقانونی از آن تکنولوژی Deepfake تاکنون مورد سوءاستفاده‌ی بسیاری از افراد سودجو، کلاهبرداران سازمانی و حتی قدرت‌های سیاسی قرار گرفته است. از جمله مهم‌ترین خطرات این فناوری می‌توان به موارد زیر اشاره کرد:
- نقض کپی‌رایت: Deepfakes فرصتی برای تولیدکنندگان غیراخلاقی در عرصه‌هایی مانند موسیقی، نقاشی‌های دیجیتال و ویدیوآرت فراهم می‌کند که با قراردادن اثرهای هنری افراد دیگر، آثار تقلبی تولید کنند و برای خود سود ببرند.
- خطرات برای بازارهای مالی: تکنولوژی Deepfake برای استفاده‌های خرابکارانه مانند اخاذی، انتقام‌گیری دیجیتال و سوءاستفاده از اعتبار افراد مورد استفاده قرار می‌گیرد. از جمله این خطرات، احراز هویت در ارزهای دیجیتال و تلاش برای جعل هویت افراد واقعی است.
- تولید مدارک جعلی: Deepfakes می‌تواند به‌عنوان مدارک جعلی برای ادعای بی‌گناهی یا گناه‌کاری افراد مورد استفاده قرار گیرد و سبب تصمیم‌گیری‌های نادرست از سوی قضات یا مقامات قانونی شود.
تیغ دو لبه هوش مصنوعی
دیپ فیک چیست؟ معرفی تکنولوژی Deepfakes در حال حاضر تنها روش مصون ماندن از مخاطرات محتواهای جعلی، افزایش هشیاری و پرهیز از تصمیم‌گیری عجولانه در برابر فایل‌های دیجیتالی است که حتی ظاهرشان بسیار صادقانه و اصیل به‌نظر می‌رسد. در مورد خطرات دیپ فیک، امکان استفاده از این تکنولوژی برای ترویج اخبار جعلی، تحریف اذهان عمومی، و از دست دادن اعتماد عمومی را به همراه دارد. اما هوش مصنوعی نیز می‌تواند بخشی از راه‌حل باشد.
