شاتداونِ Fable و Mythos؛ نقدِ یک مدیرِ موزیلا
هوش مصنوعیخلاصهٔ کاملتر
این یادداشت، مطلبی نظری به قلمِ رافی کریکوریان، مدیرِ فناوریِ موزیلاست که به ماجرای خاموش شدنِ دو مدلِ قدرتمندِ آنتروپیک — Fable 5 و Mythos 5 — میپردازه. به گفتهٔ او، جمعه دولت به آنتروپیک دستور داد دسترسیِ این دو مدل رو برای همهٔ اتباعِ خارجی قطع کنه، و آنتروپیک گفت تنها راهِ اجرای بهموقعش این بوده که دسترسی رو برای همهٔ کاربرها ببنده.
کریکوریان میگه دعوای عمومی روی «نحوهٔ» خاموش کردنِ Fable متمرکز شده، ولی سؤالِ مهمتر اینه که اصلاً چه قاعدهای برای چنین خاموشکردنی وجود داره و چرا کسی نمیپذیره که این مدلها شاید ما رو امنتر کنن، نه ناامنتر. به گفتهٔ او ده روز قبلش کاخ سفید یه چارچوبِ داوطلبانه برای بازبینیِ مدلها انتخاب کرده بود، ولی بعد دولت سراغِ اختیارِ کنترلِ صادرات رفت — به گفتهٔ رویترز، اولین باری که وزارتِ بازرگانی از این اختیار استفاده کرده.
استدلالِ محوریِ نویسنده اینه که کنترلِ صادرات فقط روی چیزی جواب میده که «یک جا» باشه، در حالی که تواناییهای مشابهِ Mythos دارن جای دیگه هم در دسترس قرار میگیرن. به گفتهٔ او مؤسسهٔ امنیتِ AIِ بریتانیا نشون داده مدلهایی مثل GPT-5.5 در شبیهسازیِ حملهٔ سایبریِ چندمرحلهای نتایجِ نزدیکی داشتن، و همون هفته آزمایشگاههای چینی مدلهای قابلمقایسهای رو با وزنهای باز منتشر کردن. نتیجهگیریِ او: کنترلِ صادرات کمی «اصطکاک و زمان» میخره، ولی اصطکاک مساویِ امنیت نیست.
به گفتهٔ کریکوریان، چیزی که واقعاً نگرانکنندهست یه ابزارِ تازهٔ قدرتِ دولتیه: توانِ خاموش کردنِ یکبارهٔ یه سیستمِ مستقر، بدونِ اینکه چیزی دربارهٔ روندِ تصمیمگیریاش ثبت شده باشه. او میگه آنتروپیک اعلام کرده تنها مدرکِ ارائهشده یه شرحِ شفاهی از یه jailbreakِ محدود بوده که مدلهای عمومیِ دیگه هم دارنش، در حالی که دیوید سکس میگه آنتروپیک از وصلهٔ اون سر باز زده — و به گفتهٔ نویسنده هیچ سندِ عمومیای نیست که معلوم کنه کدوم درسته.
به گفتهٔ نویسنده، هدفِ این واکنش هم اشتباه بوده: مشکلِ واقعی نه jailbreak شدنِ مدلِ پرچمدار، که کدهای آسیبپذیرِ زیرِ سیستمهای سراسرِ دنیاست که میشه با خودِ Mythos تعمیرشون کرد. او مثال میزنه که تیمِ فایرفاکس با دسترسیِ زودهنگام به Mythos Preview در یک نسخه ۲۷۱ باگ رو رفع کرده و شمارشِ آنتروپیک تا اواخر مه به ۱۵۹۶ موردِ افشاشده رسیده. بیش از ۸۰ رهبرِ امنیتی به رهبریِ الکس استاموس هم این خاموشی رو «بیپروا» خوندن، چون به گفتهٔ اونها ابزار رو از دستِ مدافعها گرفته، بیاینکه خطر رو کم کنه.
جمعبندیِ کریکوریان اینه که یه راهحلِ درست به داربستِ یه اقدامِ قاعدهمند نیاز داره: یه آستانهٔ اعلامشده، دلیلی مکتوب، راهی برای اعتراض و بازبینیِ مستقل. به گفتهٔ او ما یه دستگاهِ مفصل برای «روشن» کردنِ امنِ مدلها ساختیم — بازبینی، رِدتیم، ارزیابی — ولی برای «خاموش» کردنشون فقط یه نامه کافی بوده که سرِ محتواش هم دو طرف اختلاف دارن. حرفِ آخرش: چیزی که باید حکمرانی میشد، خودِ مدل نبود؛ همون «کلید» بود، و روی اون هنوز یه کلمه هم ننوشتیم.
نکات کلیدی:
- به گفتهٔ نویسنده، دولت با اختیارِ کنترلِ صادرات آنتروپیک رو وادار به قطعِ دسترسیِ Fable 5 و Mythos 5 کرد
- استدلالِ او: چون تواناییهای مشابه جای دیگه هم هست، این کار امنیت نمیآره و فقط اصطکاک میخره
- کریکوریان میگه خاموش کردنِ یکبارهٔ یه سیستمِ مستقر بدونِ روندِ شفاف، خودش یه خطرِ تازهست
- به گفتهٔ او همین مدلها میتونن باگهای امنیتیِ نرمافزارها رو پیدا و به رفعشون کمک کنن
- نتیجهگیریِ او: چیزی که به حکمرانی نیاز داشت خودِ مدل نبود، بلکه «کلیدِ خاموشی» بود
