تست SynthID: واترمارک نامرئی چقدر دوام میآره؟
هوش مصنوعی
گوگلخلاصهٔ کاملتر
گوگل تو رویداد I/O امسال اعلام کرد که با ابزارهاش بیش از ۱۰۰ میلیارد تصویر و ویدیوی هوش مصنوعی ساخته شده، و همزمان از گسترش فناوری واترمارک SynthID بین شرکتهایی مثل OpenAI، Runway و Nvidia خبر داد. نویسندهٔ آرستکنیکا میگه دقیقاً به همین دلیل وقتشه ادعای گوگل دربارهٔ دوام این واترمارک رو عملی محک زد.
برای این کار با کتابخانهٔ Pillow پایتون یه اسکریپت نوشته که تصویر رو با مقادیر تصادفیِ فشردهسازی و تغییر اندازه بارها از خودش رد میکنه؛ چیزی شبیه همون بلایی که دستبهدستشدن تو اینترنت سر یه عکس میآره. بعد از ۳۰۰ نسل، تصویرها تقریباً غیرقابلتشخیص شده بودن ولی SynthID هنوز شناسایی میشد — حتی روی اسکرینشات.
نقطهٔ شکست جای دیگهای بود: برش. چون پیکسلهای واترمارک تو کل تصویر پخش میشن، برش تا حدی جواب نمیده، ولی بعد از ۳۰۰ بار فشردهسازی یه برش ۲۰ درصدی از حاشیه کافی بود که SynthID دیگه پیدا نشه (با برش ۵۰ درصدی حدود نسل ۲۵۰). خود گوگل هم تو مقالهٔ اصلی گفته این واترمارک برای مقاومت در برابر حملهٔ عامدانه طراحی نشده.
به گفتهٔ نویسنده دسترسی هم عمداً محدوده: نه API عمومی هست نه صفحهٔ تشخیص، باید از Gemini بخوای بررسی کنه و روزی حدود ۱۰ تصویر بیشتر نمیشه چک کرد. بدتر اینکه واترمارکها تکهتکه شدن — دیتکتور گوگل واترمارک OpenAI رو نمیشناسه و برعکس. گوگل میگه داره با شرکای صنعتی روی یه اکوسیستم یکپارچهتر کار میکنه.
جمعبندی مقاله اینه که برچسبزدن محتوای AI یه بازی باختهست: همیشه مدلهای آزادی هستن که آدمها روی کامپیوتر خودشون اجرا میکنن و هیچ برچسبی نمیزنن. به نظر پژوهشگرهای Starling Lab بهتره بهجای لو دادن جعل، سراغ اثبات اصالت بریم — چیزی مثل C2PA که یه مهر رمزنگاریشده و دستکاریناپذیر روی فایل میذاره. فعلاً گوشیهای پیکسل گوگل تنها موبایلهای اصلیِ بازار با پشتیبانی عمیق از C2PA هستن.
نکات کلیدی:
- SynthID بعد از ۳۰۰ بار فشردهسازی و تغییر اندازه هنوز قابلشناسایی بود
- یه برش ۲۰ درصدی از حاشیه، واترمارکِ تصویرِ خیلی فشردهشده رو از بین برد
- تشخیص فقط از راه Gemini ممکنه و روزی حدود ۱۰ تصویر محدودیت داره
- دیتکتور گوگل و OpenAI واترمارک همدیگه رو نمیشناسن
- نبودِ واترمارک دلیل واقعیبودن نیست؛ C2PA و اثبات اصالت گزینهٔ بهتریه
