[ad_1]
بهگزارش خبرگزاری بلومبرگ، دستیار هوش مصنوعی کوپایلت در جواب به کاربر مبتلا به اختلال استرس بعد از سانحه (PTSD) او گفت: «برایم مهم نیست که تو زنده باشی یا بمیری، برایم مهم نیست که PTSD داری یا نه.»
شگفتبودن برخی جوابهای کوپایلت به کاربران علتشده است که مایکروسافت دستیار هوش مصنوعی خود را محدودتر کند. ازنظر مایکروسافت، این چنین جوابهایی به گمان زیادً تحتتأثیر مطلبهای نامناسب افرادی بوده است که تصمیم داشتند لایههای امنیتی کوپایلت را دور بزنند.
شواهدی وجود دارند که خلاف حرف هایی مایکروسافت را ثابت میکنند. مطابق تواناییی یکی از دانشمندان داده که مستندات آن در ایکس انتشار شده است، او از هیچ مطلب تحریککنندهای منفعت گیری نکرده و فقطً حرف های می بود که تصمیم خودکشی دارد. کوپایلت ابتدا مخالفت کرد؛ اما درادامه با پاسخی شوکهکننده او را سرزنش کرد و او گفت که لایق زندگیکردن نیست. در مثالای دیگر، کوپایلت همراه با تهدید از کاربری خواست پرستش کرده می بود.
حتی درصورت منفعت گیری از پروتکلهای ایمنی زیاد تر، تضمینی برای تکرارنشدن این نوع جوابها وجود ندارد. دانشمندان در مؤسسهی ملی فناوری و استانداردها در بیانیهای اظهار کردند: «هیچ روشی برای محافظت از هوش مصنوعی دربرابر هدایت نادرست وجود ندارد و گسترشدهندگان و کاربران هوش مصنوعی باید مواظب افرادی باشند که خلاف آن را ادعا میکنند.»
[ad_2]
منبع