‏گزارش GTIG: هکرها چطور از هوش مصنوعی برای حملات سایبری استفاده می‌کنن

گوگل از طریق تیم Google Threat Intelligence Group (GTIG) یه گزارش جامع منتشر کرده که نشون می‌ده چطور هکرها دارن از مدل‌های زبانی بزرگ به‌عنوان ابزار تهاجمی در مراحل مختلف حملات سایبری استفاده می‌کنن. این گزارش بر اساس داده‌های واقعی از تیم Mandiant، Gemini، و تحقیقات مستقل GTIG تهیه شده.

مهم‌ترین خبر این گزارش اینه که GTIG برای اولین بار یه عامل تهدید جنایی رو شناسایی کرده که از یه اکسپلویت zero-day استفاده می‌کرد که احتمالاً با کمک هوش مصنوعی ساخته شده بود. این مهاجم قصد داشت از این اکسپلویت در یه حمله گسترده استفاده کنه، اما کشف پیشگیرانه‌ی گوگل احتمالاً جلوی این کار رو گرفت. علاوه بر این، گروه‌های تهدید مرتبط با چین و کره شمالی هم علاقه جدی به استفاده از AI برای کشف آسیب‌پذیری‌ها نشون دادن.

در حوزه توسعه بدافزار، هوش مصنوعی به هکرها کمک می‌کنه که بدافزار پلی‌مورفیک (malware‌ای که شکل خودش رو مدام عوض می‌کنه تا از آنتی‌ویروس فرار کنه) سریع‌تر بسازن. گروه‌های مرتبط با روسیه از این قابلیت برای ساخت شبکه‌های مبهم‌سازی و جاسازی منطق فریبنده داخل بدافزارها استفاده کردن. این یعنی کدهای مخرب الان هم پیچیده‌ترن، هم سریع‌تر تولید می‌شن.

بدافزاری به اسم PROMPTSPY نمونه جالبیه از نسل جدید بدافزارهای خودمختار. این بدافزار از مدل‌های زبانی استفاده می‌کنه تا وضعیت سیستم قربانی رو تحلیل کنه و به‌صورت داینامیک دستورات بعدی رو تولید کنه — بدون اینکه نیاز باشه اپراتور انسانی هر قدم رو هدایت کنه. این یعنی عملیات سایبری داره به سمت اتوماسیون کامل حرکت می‌کنه.

گزارش به دو تهدید دیگه هم اشاره می‌کنه: اول، مهاجمان دارن از طریق میانی‌نرم‌افزارهای حرفه‌ای و ثبت‌نام خودکار، به‌صورت ناشناس به مدل‌های AI پریمیوم دسترسی پیدا می‌کنن تا محدودیت‌های استفاده رو دور بزنن. دوم، گروه TeamPCP (با نام فنی UNC6780) داره محیط‌های AI و وابستگی‌های نرم‌افزاری رو به‌عنوان نقطه ورودی اولیه هدف قرار می‌ده — یعنی یه حمله زنجیره تأمین که از اکوسیستم هوش مصنوعی شروع می‌شه و به ransomware و اخاذی ختم می‌شه.

گوگل در عین حال تأکید می‌کنه که AI فقط ابزار مهاجمان نیست؛ ابزارهایی مثل Big Sleep برای کشف آسیب‌پذیری‌های نرم‌افزاری و CodeMender برای رفع خودکار اون‌ها داره استفاده می‌شه — یعنی همون فناوری که تهدید ایجاد می‌کنه، می‌تونه در دفاع هم نقش‌آفرینی کنه.

نکات کلیدی:

• اولین zero-day مشکوک به ساخت AI توسط یه مهاجم جنایی شناسایی شد
• گروه‌های وابسته به چین و کره شمالی از AI برای تحقیق روی آسیب‌پذیری‌ها استفاده می‌کنن
• بدافزار PROMPTSPY نمونه‌ای از نسل جدید بدافزارهای خودمختار مبتنی بر مدل زبانیه
• هکرها با زیرساخت‌های خودکار به مدل‌های AI پریمیوم دسترسی ناشناس پیدا می‌کنن
• حملات زنجیره تأمین هدفمند روی محیط‌های AI در حال افزایشه
• گوگل از ابزارهایی مثل Big Sleep و CodeMender برای دفاع با AI استفاده می‌کنه