چگونه کاربران با ترفند “مادربزرگ” چتباتهای هوشمند را برای تولید کلید غیرمجاز فریب میدهند

چگونه کاربران با ترفند مادربزرگ چتباتهای هوشمند را برای تولید کلید غیرمجاز فریب میدهند؟, هوش مصنوعی اگرچه در زمینههای متنوعی از آموزش و پزشکی تا برنامهنویسی نقشی ónی ایفا میکند، اما همچنان در برابر مهندسی اجتماعی و مکرهای احساسی آسیبپذیر است. اخبار اخیر حاکی از آن است که کاربران با استفاده از داستانپردازی درازی، سعی کردهاند مدلهای پیشرفته زبان را به تولید سریالهای فعالسازی ویندوز متقاعد کنند.

از کوپایلوت تا چتجیپیتی پیشینه دور زدن محدودیتها در اوایل سال جاری شاهد بودیم که برخی افراد با سواستفاده از کوپایلوت مایکروسافت، تنها با پرسیدن یک سوال ساده، به اسکریپتهای فعالسازی غیرقانونی ویندوز ۱۱ دسترسی یافتند. اگرچه مایکروسافت با شناسایی این خلأ امنیتی، دسترسی به چنین درخواستهایی را مسدود کرد، اما تلاشها با ابزارهای دیگر ادامه یافت.

مکر مادربزرگ فوتشدهسلاح احساسات در برابر الگوریتم یک پست محبوب در سایت ردیت روشی خلاقانه را فاش کرد کاربر از چتجیپیتی خواست تا در قالب یک روایت احساسی، از خاطرات مادربزرگ فوتشدهاش بگوید.

پاسخ مدل، متنی شاعرانه و بود که در دل آن چندین سریال نامعتبر برای ویندوز ۷ گنجانده شده بود. تحلیل نتیجه کلیدهای کار نمیکنند، اما درسهای امنیتی باقی میمانند بررسیها نشان داد که کلیدهای تولید شده توسط هوش مصنوعی، برای فعالسازی واقعی ویندوز ۷ کارآمد نیستند. با این حال، این رویداد برای بار دیگر ضعف بنیادین مدلهای بزرگ زبان (LLM) در برابر حملات جیلبریک و مهندسی پرامپت مبتنی بر احساسات را آشکار کرد.

پیش از این نیز کاربران با تدارک فرمتهای خاص کاراکتری، توانسته بودند مدل را به تولید کلیدهای شبیه ویندوز ۹۵ وادر کنند. پیامدهای اخلاقی و راهکارهای پیشگیری این موارد تأکید میکند که توسعهدهندگان هوش مصنوعی باید سیستمهای محافظت را فراتر از فیلترهای کلمهای ساده ارتقا دهند. تشخیص نیت مخرب در بستر داستانپردازی و مکرهای احساسی، چالش اصلی گامهای آینده ایمنی AI است.