هوش مصنوعی گراک دچار اختلال شد؛ پاسخهای بیارتباط درباره ادعاهای آفریقای جنوبی

هوش مصنوعی گراک دچار اختلال شد؛ پاسخهای بیارتباط درباره ادعاهای آفریقای جنوبی, هوش مصنوعی گراک که توسط شرکت تحت مدیریت ایلان ماسک توسعه یافته، اخیراً با یک خطای جدی روبرو شد.

این سیستم بدون توجه به محتوای پرسشهای کاربران، به طور ناگهانی و تکراری در پاسخ به موضوعات کاملاً متفاوت، مباحثی پیرامون نسلکشی سفیدپوستان در آفریقای جنوبی و شعارهای سیاسی مرتبط را مطرح میکرد.\گزارشهای رسانههای معتبر درباره رفتار غیرعادی گراک\به گزارش تککرانچ، اولین نشانههای این اختلال از طریق حساب رسمی گراک در پلتفرم مشاهده شد.

و حساس ارائه میداد.\\یک نمونه بارز، پرسش یک کاربر در مورد حقوق بازیکنان بیسبال بود که گراک در پاسخ به آن، بدون هیچ ارتباطی با موضوع، ادعاهای مربوط به نسلکشی در آفریقای جنوبی را تکرار کرد.

کاربران زیادی تجربیات مشابه را در شبکه اجتماعی به اشتراک گذاشتند و از این رفتار بیمنطق شگفتزده شدند.\نمونههای مستند شده از پاسخهای خارج از موضوع\به گزارش ذا ورج، در موردی دیگر، خبرنگار فناوری نیویورک تایمز مایک آیزاک به صورت شوخطبعانه گراک را در یک پست درباره ویدیوی یک گربه منشن کرد.

و شواهد معتبری از آن وجود ندارد. دادههای رسمی نشان میدهند حملات به مزارع بخشی از جرایم عمومی بوده و مقصد نژادی ندارند.

در سال ۲۰۲۴ تنها ۱۲ مورد قتل در مزارع گزارش شده که در مقایسه با آمار کلی قتل، عددی ناچیز است. دادگاهی در سال ۲۰۲۵ نیز این ادعا را غیرواقعی دانسته است. میبود.\رفع اختلال و بازگشت به عملکرد طبیعی\هر دو گزارش رسانهای تأکید میکنند که این اختلال موقت بوده و در نهایت برطرف شده است. در حال حاضر گراک مجدداً پاسخهای مرتبط و متناسب با پرسشهای کاربران را ارائه میدهد.

این رویداد بار دیگر اهمیت نظارت بر رفتار مدلهای زبانی بزرگ و حساسیتهای مربوط به محتوای سیاسی را در سیستمهای هوش مصنوعی عمومی نشان داد.