‏بدافزارِ مکی که تحلیل‌گرهای هوش مصنوعی رو گیج می‌کنه

به گفتهٔ SentinelOne، بدافزارِ macOS.Gaslight برای دورزدنِ سندباکس ساخته نشده، بلکه سراغِ چیزِ دیگه‌ای رفته: حالا که محقق‌های امنیتی بیشتر و بیشتر از ابزارهای مبتنی بر هوش مصنوعی برای تحلیل و مهندسیِ معکوسِ بدافزار استفاده می‌کنن، این بدافزار سعی می‌کنه همون ابزارها رو فریب بده. خودش یه باینریِ Rust با قابلیتِ بک‌دور و سرقتِ اطلاعاته که در نوعِ خودش معمولیه. چیزی که Gaslight رو خاص می‌کنه یه بستهٔ حدوداً ۳٫۵ کیلوبایتیه که مستقیم داخلِ باینری جاسازی شده و توش ۳۸ پیامِ «سیستمیِ» ساختگی هست. این پیام‌ها خودشون رو جای لاگِ توسعه‌دهنده، گزارشِ کرش، خروجیِ دیباگ و هشدارِ برنامه جا می‌زنن و با قالبِ Markdown و جای‌گیرهای قالب‌مانند طوری چیده شدن که شبیهِ دادهٔ واقعیِ تحلیل به‌نظر برسن. نمونهٔ این پیام‌های جعلی شاملِ دامپ‌های حافظهٔ ساختگی، هشدارِ منقضی‌شدنِ توکن، خطای اتصالِ Redis، خطای خطِ لولهٔ بیلد و هشدارِ آسیب‌پذیریِ تزریقِ SQL‌ه — همه بی‌ربط به رفتارِ واقعیِ خودِ بدافزار. به گفتهٔ محقق‌ها اینا محتوای تزریقِ پرامپت‌ان که هدفشون اینه یه خطِ لولهٔ تحلیلِ مبتنی بر LLM به اعتبارِ سشنِ خودش شک کنه یا از ادامهٔ تحلیل سر باز بزنه. SentinelOne می‌گه این خانواده «به‌جای سندباکسی که توش اجرا می‌شه، به ادراکِ ایجنت حمله می‌کنه» و برای همین اسمش رو Gaslight گذاشتن. این داربستِ پیام‌های جعلی دربارهٔ انقضای توکن، کشته‌شدنِ فرایند به‌خاطرِ کمبودِ حافظه، پرشدنِ دیسک و شکستِ مکررِ عملیات صحبت می‌کنه، تا یه ایجنتِ LLM رو به سمتِ متوقف‌کردن، بریدن یا رد‌کردنِ تحلیل هل بده. خودِ محقق‌ها تأکید می‌کنن که نشون ندادن این تکنیک واقعاً می‌تونه سکوهای تحلیلِ بدافزارِ هوش مصنوعی رو دور بزنه؛ ولی همین یافته‌ها نشون می‌ده مهاجم‌ها دارن روی روش‌های ضدِتحلیلی آزمایش می‌کنن که مشخصاً برای فریبِ ابزارهای امنیتیِ مبتنی بر هوش مصنوعی طراحی شدن. این بدافزار با اطمینانِ بالا به یه عاملِ تهدیدِ مرتبط با کرهٔ شمالی نسبت داده شده. نکات کلیدی:

• Gaslight یه باینریِ Rust با بک‌دور و سرقتِ اطلاعات روی macOS‌ه
• یه بستهٔ ۳٫۵ کیلوبایتی با ۳۸ پیامِ سیستمیِ جعلی داخلِ باینری جاسازی شده
• هدف، شک‌انداختنِ ایجنتِ تحلیلِ مبتنی بر LLM و نیمه‌کاره‌ول‌کردنِ تحلیله
• حمله به ادراکِ ایجنته، نه به سندباکس؛ نسبت‌داده‌شده به عاملِ مرتبط با کرهٔ شمالی