آی تی گیم اخبار فناوری، تکنولوژی و بازی
دیپفیکها دیگر فقط تصاویر عجیبوغریب یا ویدئوهای سرگرمکنندهای نیستند که بتوان با یک نگاه آنها را تشخیص داد. ابزارهای هوش مصنوعی بهسرعت پیشرفت کردهاند و اکنون میتوانند چهره، صدا و حتی نحوه صحبت کردن افراد را با دقت قابلتوجهی شبیهسازی کنند.
از تصاویر جعلی افراد مشهور گرفته تا تماس تلفنی با صدای اعضای خانواده و ویدئوهایی که ظاهراً یک مقام یا مدیر شرکت را نشان میدهند، محتوای ساختگی میتواند برای انتشار اطلاعات نادرست، جعل هویت، کلاهبرداری و سرقت اطلاعات استفاده شود.
به همین دلیل، تشخیص دیپفیک دیگر صرفاً به پیدا کردن یک دست غیرطبیعی یا لبهای ناهماهنگ محدود نمیشود. بهترین روش، ترکیبی از بررسی خود محتوا، منبع انتشار، زمینه اتفاق و تأیید مستقل اطلاعات است.
در این راهنما با دیپفیک، روشهای تشخیص آن، ابزارهای شناسایی و مهمتر از همه، روش مقابله با کلاهبرداریهای مبتنی بر دیپفیک آشنا میشویم.
دیپفیک چیست؟
دیپفیک به محتوای صوتی، تصویری یا ویدئویی گفته میشود که با استفاده از روشهای هوش مصنوعی تولید یا دستکاری شده تا یک فرد واقعی را در حال انجام کاری نشان دهد یا حرفی را به او نسبت دهد که در واقع انجام نداده یا نگفته است.
این فناوری میتواند در قالبهای مختلف ظاهر شود:
- تصویر جعلی از یک فرد واقعی
- تعویض چهره در ویدئو
- شبیهسازی صدای افراد
- تولید ویدئو با چهره و صدای مصنوعی
- تغییر حرکت لبها برای هماهنگ کردن آن با یک صدای جدید
- تولید محتوایی که فردی واقعی را در موقعیتی ساختگی نشان میدهد
البته هر محتوای تولیدشده با هوش مصنوعی الزاماً دیپفیک نیست. اصطلاح دیپفیک بیشتر زمانی استفاده میشود که محتوای مصنوعی یا دستکاریشده برای جعل هویت یا ارائه تصویری گمراهکننده از یک فرد واقعی به کار میرود.
چرا تشخیص دیپفیک سخت شده است؟
چرا تشخیص دیپفیک سخت شده است؟نسلهای قدیمیتر محتوای جعلی معمولاً اشتباهات واضحی داشتند؛ مثلاً چهره مصنوعی بود، حرکت لب با صدا هماهنگ نمیشد یا جزئیات تصویر کیفیت بسیار پایینی داشت.
اما مدلهای جدید هوش مصنوعی میتوانند جزئیات بسیار بیشتری تولید کنند.
در نتیجه، نشانههایی که زمانی برای تشخیص دیپفیک قابل اتکا بودند، دیگر همیشه کافی نیستند.
برای مثال، وجود یا نبود فیلمگرین، کیفیت تصویر یا طبیعی بودن چهره بهتنهایی نمیتواند واقعی بودن یک محتوا را ثابت کند.
حتی اگر یک ویدئو کاملاً طبیعی به نظر برسد، ممکن است ساختگی باشد.
بنابراین مهمترین اصل این است:
طبیعی به نظر رسیدن یک محتوا، به معنی واقعی بودن آن نیست.
دیپفیک چه خطراتی دارد؟
دیپفیک میتواند برای سرگرمی و تولید آثار خلاقانه استفاده شود، اما در صورت سوءاستفاده میتواند پیامدهای جدی داشته باشد.
کلاهبرداری مالی
یکی از خطرناکترین کاربردها، جعل صدای مدیر، اعضای خانواده، دوست یا افراد مشهور برای درخواست پول است.
برای مثال ممکن است فردی با صدای آشنای یکی از نزدیکان شما تماس بگیرد و ادعا کند که در شرایط اضطراری قرار دارد و فوراً به پول نیاز دارد.
اگر فقط بر اساس صدای فرد تصمیم بگیرید، احتمال فریب وجود دارد.
جعل هویت
مهاجمان میتوانند با استفاده از تصاویر، ویدئوها و صداهای عمومی یک فرد، هویت او را جعل کنند.
این موضوع میتواند در شبکههای اجتماعی، پیامرسانها، تماسهای تلفنی و حتی فرآیندهای کاری مورد سوءاستفاده قرار گیرد.
انتشار اطلاعات نادرست
یک ویدئوی جعلی میتواند فردی را در حال گفتن یا انجام کاری نشان دهد که هرگز اتفاق نیفتاده است.
اگر چنین محتوایی بدون بررسی منتشر شود، میتواند بهسرعت در شبکههای اجتماعی گسترش پیدا کند.
اخاذی و تهدید
تصاویر یا ویدئوهای جعلی ممکن است برای ایجاد محتوای خصوصی یا حساس درباره یک فرد استفاده شوند و سپس مهاجم برای حذف یا منتشر نکردن آنها درخواست پول یا اطلاعات کند.
حملات مهندسی اجتماعی
دیپفیک میتواند بخشی از یک حمله بزرگتر باشد.
برای مثال مهاجم ممکن است ابتدا با یک صدای جعلی اعتماد قربانی را جلب کند، سپس لینک یک سایت جعلی را بفرستد و در نهایت اطلاعات حساب یا کد احراز هویت را درخواست کند.
چگونه یک تصویر دیپفیک را تشخیص دهیم؟
چگونه یک تصویر دیپفیک را تشخیص دهیم؟هیچ نشانه منفردی نمیتواند واقعی یا جعلی بودن تصویر را با اطمینان ثابت کند، اما بررسی چند مورد میتواند احتمال تشخیص را افزایش دهد.
۱. به جزئیات چهره دقت کنید
به مواردی مانند:
- شکل غیرطبیعی چشمها
- اندازه نامتناسب گوشها
- دندانهای عجیب
- پوست بیش از حد صاف
- مرز غیرطبیعی مو و صورت
- تقارن غیرمعمول چهره
- تغییر ناگهانی جزئیات صورت
دقت کنید.
با این حال، این موارد را نباید بهعنوان مدرک قطعی در نظر گرفت؛ مدلهای جدید ممکن است بسیاری از این خطاها را نداشته باشند.
۲. دستها و انگشتها را بررسی کنید
دستها یکی از قسمتهایی بودند که مدلهای تولید تصویر در گذشته اغلب در آنها اشتباه میکردند.
تعداد غیرطبیعی انگشتها، اتصال عجیب انگشتان، فرم غیرواقعی دست یا ترکیب نامتناسب دست با اشیای اطراف میتواند یک نشانه باشد.
اما مانند سایر نشانههای بصری، این مورد نیز بهتنهایی کافی نیست.
۳. نوشتههای داخل تصویر را بررسی کنید
متن روی تابلو، لباس، صفحه نمایش، بستهبندی محصولات یا تابلوهای خیابانی را با دقت نگاه کنید.
هوش مصنوعی ممکن است در تولید حروف و کلمات دچار خطا شود.
برای مثال ممکن است:
- حروف بههمریخته باشند.
- کلمات معنای مشخصی نداشته باشند.
- یک نوشته در بخشهای مختلف تصویر شکل متفاوتی داشته باشد.
۴. نور و سایهها را بررسی کنید
منبع نور باید با سایههای موجود در تصویر سازگار باشد.
اگر چهره، بدن و اشیای اطراف هرکدام سایهای با جهت متفاوت داشته باشند، احتمال دستکاری وجود دارد.
البته تصاویر واقعی نیز میتوانند نورپردازی پیچیده داشته باشند، بنابراین این مورد نیز تنها یکی از چند معیار بررسی است.
۵. انعکاسها را بررسی کنید
انعکاس در آینه، شیشه، عینک یا سطوح براق میتواند اطلاعات مفیدی ارائه کند.
اگر فرد در مقابل آینه ایستاده باشد اما انعکاس او با وضعیت بدن یا محیط هماهنگ نباشد، میتواند نشانهای از دستکاری باشد.
چگونه ویدئوی دیپفیک را تشخیص دهیم؟
ویدئو نسبت به تصویر ثابت اطلاعات بیشتری در اختیار ما قرار میدهد، اما تشخیص آن نیز پیچیدهتر شده است.
حرکت غیرطبیعی لبها
اگر صدا و حرکت لبها کاملاً هماهنگ نباشند، باید به اصالت ویدئو شک کرد.
اما حتی این نشانه نیز قطعی نیست؛ مشکلات فشردهسازی، تأخیر شبکه یا کیفیت پایین ویدئو نیز میتوانند باعث ناهماهنگی شوند.
پلک زدن و حرکات چشم
در برخی دیپفیکها حرکات چشم یا پلک زدن غیرطبیعی است.
به دنبال تغییرات ناگهانی یا حرکتهایی باشید که با رفتار طبیعی فرد سازگار نیستند.
مرز چهره و مو
در هنگام حرکت سریع سر، ممکن است مرز بین صورت و مو یا صورت و پسزمینه دچار تغییر شود.
این مشکل بهخصوص در ویدئوهایی با کیفیت پایین بیشتر قابل مشاهده است.
حرکات غیرطبیعی صورت
به هماهنگی میان:
چشمها ← ابروها ← دهان ← عضلات صورت
توجه کنید.
اگر بخشی از صورت حرکت کند اما بخشهای دیگر واکنش طبیعی نشان ندهند، احتمال دستکاری وجود دارد.
صدا و تصویر
صدای تولیدشده با هوش مصنوعی ممکن است بسیار واقعی باشد، اما گاهی در مواردی مانند:
- لحن
- مکث
- تنفس
- تأکید روی کلمات
- تغییر احساسات
- سرعت صحبت کردن
نشانههایی غیرعادی دیده یا شنیده میشود.
با این حال، فناوری شبیهسازی صدا نیز بسیار پیشرفت کرده و تشخیص صرفاً از روی صدا دشوار است.
چگونه صدای دیپفیک را تشخیص دهیم؟
جعل صدا یکی از خطرناکترین کاربردهای دیپفیک است، زیرا انسانها معمولاً به صدای افراد آشنا اعتماد زیادی دارند.
ممکن است صدای مصنوعی در یک تماس تلفنی کاملاً شبیه صدای فرد موردنظر باشد.
به همین دلیل اگر فردی از طریق تماس یا پیام صوتی درخواست غیرعادی مانند انتقال پول، ارسال اطلاعات حساس یا ارائه کد ورود کرد، نباید فقط بر اساس صدا هویت او را تأیید کنید.
به جای آن، از یک مسیر ارتباطی مستقل با فرد تماس بگیرید.
برای مثال:
تماس مشکوک ← قطع تماس ← تماس با شماره قبلی و معتبر فرد ← تأیید هویت
این روش بسیار قابلاعتمادتر از تلاش برای تشخیص مصنوعی بودن صدا است.
یک تماس با صدای آشنا؛ چه کار کنیم؟
فرض کنید شخصی با صدای یکی از اعضای خانواده تماس میگیرد و میگوید:
«گوشیام خراب شده، این شماره جدید من است. سریع برایم پول بفرست.»
در چنین شرایطی نباید صرفاً به دلیل آشنا بودن صدا اعتماد کنید.
چند کار ساده انجام دهید:
- تماس را قطع کنید.
- با شمارهای که قبلاً برای آن فرد داشتهاید تماس بگیرید.
- از یک روش ارتباطی دیگر هویت او را تأیید کنید.
- درباره موضوعی که فقط خود فرد واقعی میداند سؤال کنید.
- تا زمان تأیید مستقل، پول یا اطلاعات حساس ارسال نکنید.
حتی میتوانید با اعضای خانواده یک کلمه یا عبارت محرمانه تعیین کنید که در شرایط اضطراری برای تأیید هویت استفاده شود.
به ویدئوی منتشرشده در شبکههای اجتماعی اعتماد نکنیم؟
به ویدئوی منتشرشده در شبکههای اجتماعی اعتماد نکنیم؟صرف انتشار یک ویدئو در یک حساب معتبر یا دریافت تعداد زیادی بازدید، اصالت آن را ثابت نمیکند.
محتوای جعلی میتواند در مدت کوتاهی هزاران یا میلیونها بازدید دریافت کند.
به جای سؤال «این ویدئو واقعی به نظر میرسد؟» بهتر است بپرسید:
«آیا منبع مستقل و قابل اعتمادی وجود دارد که وقوع این اتفاق را تأیید کند؟»
این تغییر رویکرد بسیار مهم است.
منبع اصلی تصویر یا ویدئو را پیدا کنید
یکی از روشهای مفید، جستوجوی معکوس تصویر است.
اگر تصویری را در شبکههای اجتماعی دیدید، میتوانید نسخههای دیگر آن را جستوجو کنید تا مشخص شود:
- اولین بار کجا منتشر شده است؟
- آیا تصویر قدیمی است؟
- آیا تصویر مربوط به اتفاق دیگری بوده؟
- آیا نسخه اصلی بدون دستکاری وجود دارد؟
- آیا رسانههای معتبر درباره آن گزارش دادهاند؟
گاهی یک تصویر واقعی از سالها قبل با توضیحی کاملاً متفاوت در شبکههای اجتماعی منتشر میشود.
این نوع محتوا لزوماً دیپفیک نیست؛ ممکن است یک تصویر واقعی خارج از زمینه اصلی باشد.
دیپفیک تنها نوع محتوای جعلی نیست
این نکته بسیار مهم است.
هر محتوای گمراهکنندهای دیپفیک نیست.
گاهی یک عکس واقعی بریده یا ویرایش میشود.
گاهی ویدئو با سرعت متفاوت پخش میشود.
گاهی یک بخش از یک مصاحبه حذف میشود و جملهای که در زمینه اصلی معنای دیگری داشته، به شکل متفاوتی ارائه میشود.
گاهی نیز یک تصویر واقعی مربوط به یک اتفاق قدیمی بهعنوان اتفاقی جدید معرفی میشود.
به همین دلیل هنگام بررسی محتوا باید علاوه بر اصالت فایل، زمینه و زمان انتشار را نیز بررسی کرد.
آیا ابزارهای تشخیص دیپفیک قابل اعتماد هستند؟
ابزارهای خودکار تشخیص محتوای مصنوعی میتوانند مفید باشند، اما نباید نتیجه آنها را حقیقت قطعی در نظر گرفت.
مدلهای تولید محتوا دائماً تغییر میکنند و ابزارهای تشخیص نیز باید با نمونههای جدید سازگار شوند.
در واقع، تشخیص محتوای مصنوعی خودش یک حوزه پژوهشی فعال است و سازمانهایی مانند NIST نیز عملکرد سامانههای تشخیص محتوای تولیدشده با هوش مصنوعی را ارزیابی میکنند.
بنابراین بهتر است نتیجه ابزارهای تشخیص را در کنار سایر شواهد قرار دهید، نه اینکه فقط بر اساس یک درصد یا برچسب «AI-generated» تصمیم بگیرید.
متادیتای عکس میتواند کمک کند؟
گاهی اطلاعاتی مانند دوربین، زمان ثبت تصویر یا نرمافزار ویرایش در متادیتای فایل وجود دارد.
این اطلاعات میتوانند سرنخ مفیدی باشند، اما قابل اتکا بهعنوان مدرک قطعی نیستند.
متادیتا ممکن است هنگام ارسال فایل در شبکههای اجتماعی حذف شود یا با نرمافزارهای مختلف تغییر کند.
بنابراین:
نبود متادیتا ≠ جعلی بودن تصویر
و
وجود متادیتای دوربین ≠ واقعی بودن قطعی تصویر
چگونه محتوای مشکوک را بررسی کنیم؟
یک روش ساده میتواند این باشد:
منبع ← تاریخ ← زمینه ← نسخه اصلی ← منابع مستقل ← بررسی جزئیات
منبع
چه کسی محتوا را منتشر کرده است؟
آیا حساب کاربری معتبر است یا یک حساب ناشناس؟
تاریخ
محتوا چه زمانی منتشر شده است؟
آیا اتفاق ادعاشده واقعاً در همان زمان رخ داده است؟
زمینه
آیا ویدئو یا تصویر کامل است یا فقط یک بخش کوتاه از آن منتشر شده؟
نسخه اصلی
آیا نسخه باکیفیتتر یا طولانیتری از محتوا وجود دارد؟
منابع مستقل
آیا منابع معتبر و مستقل نیز همان اتفاق را گزارش کردهاند؟
جزئیات
آیا چهره، صدا، نور، نوشتهها و حرکات با یکدیگر سازگار هستند؟
اگر یک مقام، مدیر یا فرد مشهور در ویدئو چیزی گفت چه کنیم؟
در مورد افراد شناختهشده، اصل مهم این است که ویدئو را با منبع رسمی تطبیق دهید.
برای مثال اگر ویدئویی ادعا میکند یک مدیرعامل یا مقام رسمی تصمیم مهمی گرفته است، به جای اعتماد به نسخه منتشرشده در شبکههای اجتماعی، کانال رسمی سازمان یا منابع معتبر خبری را بررسی کنید.
این روش حتی زمانی که ویدئو از نظر بصری کاملاً طبیعی باشد نیز اهمیت دارد.
چگونه در برابر کلاهبرداریهای دیپفیک از خودمان محافظت کنیم؟
برای درخواستهای مالی، تأیید دومرحلهای انسانی داشته باشید
اگر فردی درخواست انتقال پول کرد، یک مسیر ارتباطی مستقل برای تأیید هویت ایجاد کنید.
اطلاعات حساس را در اختیار تماس مشکوک قرار ندهید
اطلاعاتی مانند:
- رمز عبور
- کد یکبارمصرف
- اطلاعات بانکی
- کلیدهای بازیابی
- اطلاعات هویتی
- کدهای ورود
نباید صرفاً به دلیل اینکه تماسگیرنده صدای فرد آشنا را دارد، در اختیار او قرار گیرد.
کد احراز هویت را به هیچکس ندهید
حتی اگر فرد پشت تماس ادعا کند از طرف بانک، شرکت یا یکی از اعضای خانواده شماست، کد احراز هویت را برای او ارسال نکنید.
احراز هویت دومرحلهای را فعال کنید
استفاده از MFA یا 2FA باعث میشود سرقت رمز عبور بهتنهایی برای ورود به بسیاری از حسابها کافی نباشد.
روی لینکهای مشکوک کلیک نکنید
ممکن است مهاجم از یک تماس صوتی یا ویدئوی جعلی برای جلب اعتماد شما استفاده کند و سپس لینک یک سایت فیشینگ را ارسال کند.
اگر با یک دیپفیک کلاهبرداری مواجه شدیم چه کنیم؟
اگر متوجه شدید محتوایی جعلی است یا احتمال میدهید قربانی یک کلاهبرداری شدهاید:
اول ارتباط را متوقف کنید.
سپس:
- پول بیشتری ارسال نکنید.
- اطلاعات بیشتری در اختیار مهاجم قرار ندهید.
- لینکهای ارسالشده را باز نکنید.
- در صورت افشای رمز عبور، آن را تغییر دهید.
- احراز هویت دومرحلهای را فعال کنید.
- شواهد مانند پیامها، شماره تلفن، آدرس حساب و فایلها را نگه دارید.
- در صورت خسارت مالی، موضوع را سریعاً به بانک یا سرویس مالی مربوط اطلاع دهید.
- کلاهبرداری را به مراجع قانونی و پلتفرم مربوط گزارش کنید.
هرچه سریعتر واکنش نشان دهید، احتمال کاهش خسارت بیشتر است.
آیا باید هر تصویر یا ویدئوی عجیب را دیپفیک بدانیم؟
خیر.
یکی از اشتباهات رایج این است که هر محتوای عجیب یا غیرعادی را به هوش مصنوعی نسبت دهیم.
ممکن است یک تصویر واقعی باشد اما:
- با لنز خاصی ثبت شده باشد.
- با نرمافزار ویرایش شده باشد.
- فشرده شده باشد.
- نورپردازی غیرمعمول داشته باشد.
- از زاویهای متفاوت گرفته شده باشد.
بنابراین بهتر است به جای نتیجهگیری سریع، چند نشانه را در کنار هم بررسی کنیم.
چکلیست سریع تشخیص دیپفیک
اگر با یک تصویر، ویدئو یا صدای مشکوک روبهرو شدید، این موارد را بررسی کنید:
- آیا منبع محتوا مشخص است؟
- آیا نسخه اصلی را پیدا کردهاید؟
- تاریخ انتشار با اتفاق ادعاشده مطابقت دارد؟
- آیا رسانهها یا منابع مستقل آن را تأیید کردهاند؟
- آیا چهره یا دستها نشانههای غیرطبیعی دارند؟
- آیا حرکت لب و صدا هماهنگ است؟
- آیا نور، سایه و انعکاسها منطقی هستند؟
- آیا نوشتههای تصویر طبیعی هستند؟
- آیا فرد در محتوا درخواست پول یا اطلاعات حساس دارد؟
- آیا درخواست از یک شماره یا حساب جدید ارسال شده است؟
- آیا میتوانید هویت فرد را از یک مسیر مستقل تأیید کنید؟
اگر پاسخ چند مورد منفی است، بهتر است قبل از هر اقدامی محتوا را مشکوک در نظر بگیرید.
مهمترین قانون مقابله با دیپفیک
امروزه شاید مهمترین مهارت در مواجهه با دیپفیک این نباشد که بتوانیم با چشم غیرمسلح هر محتوای جعلی را شناسایی کنیم.
چنین انتظاری واقعبینانه نیست؛ فناوری تولید محتوای مصنوعی بهاندازهای پیشرفت کرده که تشخیص برخی نمونهها برای انسان دشوار است.
روش مطمئنتر این است که هیچ محتوای صوتی یا تصویری را بهتنهایی بهعنوان مدرک هویت یا حقیقت یک اتفاق در نظر نگیریم.
اگر یک ویدئو ادعای مهمی دارد، منبع آن را بررسی کنید. اگر یک صدای آشنا درخواست پول دارد، هویت فرد را از مسیر دیگری تأیید کنید. اگر تصویری ادعای خبری مهمی را مطرح میکند، دنبال نسخه اصلی و منابع مستقل بگردید.
به بیان ساده:
مشاهده محتوا ← بررسی منبع ← بررسی زمینه ← تأیید مستقل ← اقدام
نه اینکه:
دیدن محتوا ← باور کردن ← انتشار یا پرداخت پول
جمعبندی
دیپفیک یکی از مهمترین چالشهای عصر هوش مصنوعی است، زیرا مرز میان محتوای واقعی و ساختگی را کمرنگتر کرده است. تصاویر، ویدئوها و صداهای تولیدشده با هوش مصنوعی میتوانند برای سرگرمی استفاده شوند، اما همزمان در جعل هویت، کلاهبرداری، انتشار اطلاعات نادرست و حملات مهندسی اجتماعی نیز کاربرد دارند.
تشخیص دیپفیک تنها با نگاه کردن به چشمها، دستها یا حرکت لبها همیشه امکانپذیر نیست. بهترین رویکرد، بررسی همزمان منبع، زمان، زمینه، نسخه اصلی و منابع مستقل است.
در برابر تماسها و پیامهای مشکوک نیز مهمترین کار، تأیید هویت از یک مسیر مستقل است. صدای آشنای یک فرد یا تصویر طبیعی او بهتنهایی نباید مجوز انتقال پول، ارائه رمز عبور یا ارسال کد احراز هویت باشد.
در دنیایی که ساخت محتوای جعلی هر روز سادهتر میشود، مهمترین ابزار دفاعی کاربر نه یک نرمافزار خاص، بلکه عادت به راستیآزمایی قبل از اعتماد و اقدام است.
