دیپ فیک جعل عمیق / معایب مضرات هوش مصنوعی

آیا فناوری دیپ فیک Deep Fake فقط به تهیه ویدیوهای جعلی مرتبط است؟!

شاید در چند سال اخیر انتشار ویدیوهای جعلی از بازیگران، بازیکنان فوتبال و شخصیت های برجسته سیاسی را بیشتر از هر چیز دیگری دیده باشید؛ با این حال دیپ فیک فقط به فیلم های جعلی محدود نمی شود. از این فناوری می توان در ساخت تصاویر و حتی صوت های جعلی هم استفاده کرد. این موضوع باعث شده نگرانی های بسیاری در رابطه با سو استفاده از فناوری دیپ فیک ایجاد شود. به عنوان مثال در مارس 2020 یک کلاهبرداری، صدای رئیس یک شرکت انگلیسی را با استفاده از این فناوری جعل کرد و توانست 200 هزار پوند کلاهبرداری کند. کلاهبرداری های مشابه این نمونه هم در پیام رسان واتساپ کم اتفاق نیفتاده اند.

معایب تکنولوژی دیپ فیک (Deepfake)

متاسفانه، ویدیوهای Deepfake برای اهداف نامناسبی نیز استفاده شده اند. که می تواند شکایات ساختگی از سمت مشتری، نقدهای جعلی محصول و کاهش اعتماد مشتری را برای بازاریاب ها، به همراه داشته باشد.

عدم اعتماد

آشکارترین مشکل تکنولوژی Deepfake این است که از آنها برای ایجاد ویدیوهای جعلی استفاده می شود. به این معنی که تأیید صحت ویدیوهای، چالش برانگیز تر می شود. اگر کاربران احساس کنند که کمپین ها دستکاری شده اند، ویدیوهای DeepFake اصول اخلاقی را نقض خواهند کرد. به عنوان مثال، اگر بازاریاب ها از Deepfake برای ایجاد نظرات مثبت جعلی استفاده کنند، این عمل غیر اخلاقی تلقی می‌شود.

افزایش کلاهبرداری

فناوری DeepFake (جعل عمیق) می تواند کلاهبرداری های احتمالی، مانند ایجاد اتهامات دروغین علیه شرکت ها را افزایش دهد. این ویدیوهای با ضبط تصاویر حوادث واقعی و سپس تغییر صدا و افزودن دیالوگ جدید، ساخته می شوند تا عادی به نظر برسند. علاوه بر این، تولید کنندگان می توانند از این نوع فناوری DeepFake برای ایجاد رضایت جعلی مشتری یا نقد محصول استفاده کنند. که باعث می شود محصولات آنها از آنچه که است، جذاب تر به نظر برسد.

دیپ فیک چگونه کار می‌کند؟

در فرایند ساخت نرم‌افزارهای دیپ فیک ابتدا حجم بسیار گسترده‌ای از اطلاعات در اختیار آن‌ها قرار می‌گیرد. و نرم‌افزار از این اطلاعات برای ساخت محتوا بر مبنای اطلاعات جدیدی که خودش ایجاد کرده است، استفاده می‌کند. این اطلاعات عمدتاً بر پایه Autoencoder (شبکه‌های عصبی مصنوعی خودرمزگذار) و گاهی اوقات هم بر پایه Generative Adversarial Networks یا به‌اختصار GAN (شبکه زایای دشمن‌گونه) ایجاد می‌شوند.

Autoencoder

انواع مختلفی از شبکه‌های عصبی خودرمزگذار وجود دارد که از میان آن‌ها می‌توان به شبکه‌های خودرمزگذار حذف نویز (Convolutional Autoencoders)، شبکه خودرمزگذار عمیق (Deep Autoencoders)، شبکه خودرمزگذار عمیق (Deep Autoencoders) شبکه خود رمز گذار انقباضی (Contractive Autoencoders) و شبکه خود رمزگذار هم‌ گشتی یا کانولوشنال (Convolutional Autoencoders) و سایر موارد می‌شود.

شبکه زایای دشمن‌ گونه

شبکه‌ های زایای دشمن‌ گونه برای ایجاد مدل از مجموعه داده‌ های ورودی استفاده می‌ شوند. این شبکه‌ ها اطلاعاتی را از داده‌ های ورودی فرا می‌ گیرند که از آن‌ ها برای ایجاد داده‌ های جدید استفاده می‌ کنند. این شبکه که در واقع یک سیستم محسوب می‌ شود، توسط دو شبکه عصبی مجزا آموزش می‌ بیند که شامل یک ایجادکننده (Generator) و یک تشخیص‌ دهنده (Discriminator) می‌ شود.

مزایای DeepFake (دیپ فیک)

این نوع فناوری، از سه جهت برای بازاریاب ها مفید است:

• هزینه کمپین های ویدیویی را کاهش می دهد.
• کمپین های چند کاناله بهتری ایجاد می کند.
• می تواند یک تجربه کاربری مفید برای مشتری فراهم نماید.

چگونه از مضرات تکنولوژی دیپ‌ فیک در امان بمانیم؟

نکته مهم این است که در دنیای مجازی بهتر است کمی شکاک عمل کنیم. در چنین فضایی که روزانه میلیون‌ ها محتوا تولید شده و به راحتی به اشتراک گذاشته می‌شود، مطمئنا محتوای غیر واقعی نیز بسیار است. فناوری همواره در حال به روز شدن است و در این مسیر ما نیز باید اطلاعاتمان را روز به روز جدیدتر کنیم.

البته، نکته مهم این است که وب سایت‌ها و سرویسهای مرجع ویدیویی و تصویری فیلترهای قدرتمندی دارند. که به سرعت این گونه محتوا را تشخیص داده و آن را حذف خواهند کرد؛ یا در نهایت کاربر را از غیر واقعی بودن محتوا با خبر می‌کنند.