گوگل از امنیت هوش مصنوعی حرف میزنه، ولی خودش چطور؟
هوش مصنوعیخلاصهٔ کاملتر
فرانسیس دِ سوزا، COO گوگل کلود، در یک رویداد اخیر در لسآنجلس گفت که شرکتها باید امنیت رو بهعنوان بخش جداییناپذیر استراتژی هوش مصنوعیشون ببینن، نه چیزی که بعداً بهش فکر میکنن. پیام اصلیش این بود: «هیچ استراتژی هوش مصنوعی بدون استراتژی داده و استراتژی امنیتی معنا نداره.»
یکی از نگرانیهای مشخصی که مطرح کرد، Shadow AI بود — یعنی وقتی کارمندان بدون نظارت سازمانی از ابزارهای مصرفکننده استفاده میکنن. به نظرش شرکتها باید از همون اول از پلتفرمهاشون امنیت، حاکمیت داده، و قابلیت حسابرسی (auditability) بخوان.
دِ سوزا همچنین گفت چشمانداز تهدیدات بهشدت عوض شده. میانگین زمان بین اولین نفوذ تا مرحله بعدی حمله از ۸ ساعت به ۲۲ ثانیه رسیده. سطح حمله هم دیگه فقط شبکهی داخلی سازمان نیست — مدلهای هوش مصنوعی، پایپلاینهای آموزشی، ایجنتها، و پرامپتها همه هدف بالقوه هستن.
یه نکتهی جالب که اشاره کرد: ایجنتهایی که داخل سیستمهای یک شرکت میچرخن، میتونن مخازن دادهی فراموششدهای رو پیدا کنن که سالهاست کسی بهشون فکر نکرده. «خیلی از سازمانها سرورهای قدیمی SharePoint دارن که کنترل دسترسیشون آپدیت نشده — ولی مشکلی نبود چون کسی نمیدونست کجان. حالا ایجنتها اونها رو پیدا میکنن.»
راهحل پیشنهادیاش استفاده از دفاع تمامایجنتی (fully agentic defense) بود — یعنی بهجای اینکه انسانها مستقیم دفاع رو مدیریت کنن، نظارت کنن بر سیستمهایی که خودشون با سرعت ماشین عمل میکنن. و تأکید کرد این دیگه فقط یه مسئلهی تیم امنیت نیست — مسئلهی هیئت مدیره و تیم اجرایی هم هست.
اما اینجاست که ماجرا پیچیده میشه. همزمان با این توصیهها، The Register گزارش داد که موجی از توسعهدهندگان گوگل کلود با صورتحسابهای چند دههزار دلاری روبهرو شدن — کلیدهای API که برای Google Maps ساخته شده بودن، بعد از اینکه گوگل بدون اطلاعرسانی واضح دسترسیشون رو گسترش داد، برای فراخوانی مدلهای Gemini هم قابل استفاده شدن. گوگل گفته قصد ندارد سیاست ارتقاء خودکار سطح صورتحساب رو تغییر بده.
بدتر از اون، پژوهشی از شرکت امنیتی Aikido نشون داد که حتی اگر توسعهدهندهای کلید لو رفتهاش رو فوری حذف کنه، مهاجم میتونه تا ۲۳ دقیقه بعد از اون کلید استفاده کنه — چون ابطال در زیرساخت گوگل بهتدریج اعمال میشه. جالبتر اینکه فرمتهای جدیدتر credential گوگل این مشکل رو ندارن: service account API در حدود ۵ ثانیه ابطال میشه. طبق گفته محقق Aikido، این ۲۳ دقیقه یه محدودیت فنی نیست، بلکه مسئلهی اولویتبندیه.
نکات کلیدی:
- امنیت باید از همون ابتدا در دل استراتژی هوش مصنوعی باشه، نه بعداً بهش اضافه بشه
- سطح تهدیدات گسترش پیدا کرده: مدلها، ایجنتها، پایپلاینهای داده همه نیاز به حفاظت دارن
- ایجنتهای داخلی میتونن مخازن دادهی فراموششده و ناامن رو کشف کنن
- کلیدهای API گوگل (Maps) بدون اطلاعرسانی شفاف به Gemini دسترسی پیدا کردن
- حذف یک کلید API لزوماً بلافاصله مؤثر نیست — پنجره ۲۳ دقیقهای برای سوءاستفاده وجود داره
- فاصله بین توصیههای پلتفرمها و سرعت اصلاح مشکلات خودشون قابل توجهه
