آمریکاییها در تشخیص دیپفیک شکست میخورند
هوش مصنوعیخلاصهٔ کاملتر
شرکت احراز هویت Veriff یک گزارش جامع درباره وضعیت تشخیص دیپفیک در آمریکا منتشر کرده. دیپفیک به محتوای ویدیویی یا تصویری گفته میشه که با هوش مصنوعی ساخته یا دستکاری شده و چهره یا صدای افراد رو جعل میکنه. این تحقیق با همکاری Kantar روی ۱۰۰۰ بزرگسال آمریکایی انجام شده و نتایجش خواب رو از سر سازمانهای امنیتی میپرونه.
مهمترین یافته اینه که دقت تشخیص دیپفیک توسط انسانها در آمریکا تنها ۰.۰۷ از ۱ هست؛ یعنی عملاً همونقدر که یک سکه پرتاب کنی نتیجه میگیری. جالبتر اینکه آمریکا با وجود پیشتازی در نوآوری هوش مصنوعی، کمترین آشنایی با دیپفیک رو در بین بازارهای بررسیشده داره؛ آگاهی در آمریکا ۶۳٪ هست، در حالی که این عدد در انگلیس ۷۴٪ و در برزیل ۶۷٪ گزارش شده.
گزارش نشون میده که ۷٪ از کاربران بهعنوان «پرخطر» شناسایی شدن: کسایی که در تشخیص دیپفیک ضعیفاند، ولی به توانایی خودشون اطمینان بالایی دارن و محتوای مشکوک رو هم تقریباً هیچوقت بررسی نمیکنن. این ترکیب خطرناک — اعتماد بالا، دقت پایین — اونا رو آسیبپذیرترین گروه در برابر کلاهبرداری میکنه.
حتی تجربه با ابزارهای هوش مصنوعی هم کمک چندانی نمیکنه؛ کاربران باتجربه فقط حدود ۵٪ بهتر از بقیه دیپفیک تشخیص میدن. دلیل این ناتوانی اینه که مدلهای جدید هوش مصنوعی میتونن جزئیاتی مثل بافت پوست و حرکات چهره رو بهقدری دقیق شبیهسازی کنن که چشم و حس انسان دیگه قادر به تمیز دادنشون نیست.
از نظر پیامدها، ۷۹٪ از آمریکاییها نگران کلاهبرداری و جعل هویت با کمک دیپفیک هستند. این نگرانی بیدلیل نیست؛ رسانههای مصنوعی در فرایندهای احراز هویت دیجیتال (مثل onboarding آنلاین) بهطور رو به رشدی استفاده میشن. گزارش Veriff اعلام میکنه که حجم رسانههای مصنوعی ارائهشده در فرایندهای احراز هویت در یک سال گذشته رشد قابلتوجهی داشته.
نتیجهگیری گزارش اینه که بررسی دستی هویت دیگه کافی نیست و کسبوکارها باید به سمت احراز هویت بیومتریک (مثل اثر انگشت یا تشخیص چهره با الگوریتم) و تأیید هویت مبتنی بر هوش مصنوعی حرکت کنن تا چیزهایی رو بگیرن که چشم انسان از دیدنشان عاجزه.
نکات کلیدی:
- دقت تشخیص دیپفیک در آمریکا ۰.۰۷ از ۱ است؛ تقریباً برابر با شانس
- آمریکا کمترین آگاهی از دیپفیک را در بین بازارهای بررسیشده دارد (۶۳٪)
- ۷٪ کاربران «پرخطر» هستند: اعتماد به نفس بالا، دقت پایین
- تجربه با ابزارهای هوش مصنوعی تنها ۵٪ بهبود در تشخیص ایجاد میکند
- ۷۹٪ آمریکاییها از کلاهبرداری مبتنی بر دیپفیک میترسند
- راهحل پیشنهادی: احراز هویت بیومتریک و تأیید هویت مبتنی بر هوش مصنوعی
