هوش مصنوعی؛ هم سپر، هم تهدید در امنیت سایبری
هوش مصنوعیخلاصهٔ کاملتر
دو پژوهش مستقل از Hack The Box و ISC2 تصویر جالبی از وضعیت امنیت سایبری در عصر هوش مصنوعی ارائه میدن. نتیجه مشترک هر دو گزارش اینه که AI دیگه فقط یه ابزار کمکی نیست — هم میتونه دفاع سایبری رو قویتر کنه، هم میتونه دست مهاجمان رو پر کنه.
گزارش Hack The Box بر اساس دادههای익익 익anonymized بیش از ۷۰۲ هزار متخصص امنیتی از ۲۵۱ کشور تهیه شده. بر اساس این دادهها، ۲۹٪ از چالشهای امنیتی مرتبط با AI که روی پلتفرم حل شدن، مربوط به prompt injection بودن — یعنی حملاتی که سعی میکنن با دستکاری ورودیها، یه مدل هوش مصنوعی رو فریب بدن. بعد از اون، بهرهبرداری از مدلهای یادگیری ماشین با ۲۴٪ و ربودن کنترل agentic AI (سیستمهای خودمختار هوش مصنوعی) با ۱۲٪ قرار دارن.
از نظر آموزش، تست نفوذ (penetration testing) با تمرکز بر AI در رتبه چهارم علایق آموزشی جهانی قرار گرفته. نرخ تکمیل دورههای آموزش امنیت AI در بخش سازمانی هم به ۶۴٪ در اواخر ۲۰۲۵ رسیده. یه تغییر ساختاری مهم هم دیده میشه: تیمهای دفاعی داره وارد تمرینهای تهاجمی میشن و برعکس — مرز بین offensive و defensive security داره کمرنگ میشه.
گزارش ISC2 که از نظرسنجی ۱۶ هزار و ۲۹ متخصص امنیتی به دست اومده، نتایج مشابهی داره. ۵۱٪ از پاسخدهندهها گفتن مهندسی اجتماعی مبتنی بر AI — مثل فیشینگ هوشمند و جعل هویت — بزرگترین چالش امنیتیشونه. این عدد برای دو سال آینده به ۵۷٪ میرسه. فناوریهایی که بیشترین تأثیر مثبت رو خواهند داشت به این ترتیبن:
- AI: 41%
- اتوماسیون در امنیت سایبری: 35%
- Zero Trust: 33%
- احراز هویت بدون رمز عبور: 22%
- Agentic AI: 21%
جالب اینجاست که وقتی همین سؤال برای تأثیر منفی پرسیده میشه، AI با ۵۲٪ باز هم اول لیسته. این دوگانگی نشون میده که متخصصان امنیت، AI رو نه یه ابزار ساده بلکه یه نیروی دوسویه میبینن که هم سرعت دفاع رو بالا میبره، هم قدرت مهاجم رو.
برای CISOها و مدیران امنیتی، پیام این دو گزارش روشنه: سرمایهگذاری روی مهارتهای امنیت AI، برنامههای آموزش مداوم و عملی، و گسترش استخر نیروی انسانی برای پوشش شکافهای مهارتی دیگه یه انتخاب نیست، بلکه ضرورته.
نکات کلیدی:
- Prompt injection با ۲۹٪ رایجترین حمله AI-محور در چالشهای امنیتی بوده
- ۵۲٪ از متخصصان، AI رو بزرگترین تهدید امنیتی میدونن؛ ۴۱٪ هم اون رو بزرگترین فرصت
- مهندسی اجتماعی مبتنی بر AI (فیشینگ و جعل هویت هوشمند) نگرانی شماره یک متخصصانه
- Agentic AI برای اولین بار همزمان در لیست مثبت و منفی تأثیرگذار آینده قرار گرفته
- مرز بین تیمهای تهاجمی و دفاعی داره محو میشه و مهارتها با هم تلاقی پیدا میکنن
