هشدار کارشناسان: ایجنتهای هوش مصنوعی ابزار جدید حملات سایبری میشوند

کارشناسان امنیت سایبری هشدار میدهند که عاملهای هوش مصنوعی در حال تبدیل شدن به ابزاری قدرتمند برای اجرای حملات گسترده سایبری هستند. این عاملها توانایی انجام مأموریتهای پیچیده نظیر برنامهریزی، استدلال و اجرای کارهای چندمرحلهای را دارند، اما همین قابلیتها میتواند در خدمت مهاجمان قرار گیرد.

پژوهشگران معتقدند که ایجنتهای هوش مصنوعی بهزودی قادر خواهند بود اهداف آسیبپذیر را بهصورت خودکار شناسایی، به سیستمها نفوذ کنند و دادههای ارزشمند را دزدیده کنند. تا کنون مجرمان سایبری از این تکنولوژی بهصورت گسترده سوءاستفاده نکردهاند، اما مطالعات شرکت نشان داده که عاملهای هوش مصنوعی میتوانند حملات را شبیهسازی و اجرا کنند.

مارک استاکلی از شرکت میگوید فکر میکنم در نهایت در جهانی زندگی میکنیم که اکثر حملات سایبری توسط عاملهای هوش مصنوعی انجام خواهد شد. در پاسخ به این تهدید، سازمان سیستمی به نام LLM راهاندازی کرده است؛ سرورهای آسیبپذیر که در نقش طعمه برای شناسایی عاملهای هکر طراحی شدهاند. هدف این پروژه، شناسایی حملات در مراحل اولیه و تدوین راهکارهای دفاعی است.

این عاملها برخلاف رباتهای ساده رایج، قابلیت جستوجوی هوشمندانه مسیرهای نفوذ و پنهان ماندن را دارند. از اکتبر ۲۰۲۴ (مهر تا آبان ۱۴۰۳) و آغاز به کار، بیش از ۱۱ میلیون تلاش ورود به این سیستم ثبت شده که از این میان، ۸ مورد بهاحتمال زیاد عاملهای هوش مصنوعی بودهاند و ۲ مورد بهصورت قطعی هوش مصنوعی شناسایی شدهاند.

کارشناسان پیشبینی میکنند که مقابله با ایجنتهای هوش مصنوعی میتواند به مرحلهای برسد که بدون دخالت انسان، از انتخاب هدف تا اجرای حمله بهصورت کاملا خودکار انجام شود. این قابلیت، مقیاسپذیری حملات نظیر باجافزار را بهشدت افزایش میدهد.

در همین راستا، پروژههای تحقیقاتی دانشگاه ایلینوی نشان دادهاند که عاملهای هوش مصنوعی حتی بدون دانش قبلی، میتوانند تا ۱۳ درصد از آسیبپذیریها را با موفقیت کشف و سوءاستفاده کنند. این نرخ با ارائه توضیحات مختصر به ۲۵ درصد افزایش مییابد.