پژوهش جدید محققان شرکت آنتروپیک نشان می‌دهد که مدل‌های هوش مصنوعی قادرند در مورد موضوعات مختلف موضع‌گیری کنند. این مواضع در مدل‌های متفاوت با یکدیگر تفاوت دارد. کاربران معمولا این پدیده را متوجه نمی‌شوند، زیرا بیان مواضع مدل‌ها بیش‌تر در طول فرآیند آموزش رخ می‌دهد و خروجی‌ها بر اساس تنظیمات از پیش تعیین شده تولید می‌شوند.
متخصصان معتقدند که موضع‌گیری و قدرت انتخاب در هوش مصنوعی در حال حاضر نگران‌کننده نیست، اما نیاز به مطالعات گسترده‌تر برای درک ماهیت این موضوع و پیش‌بینی خطرات احتمالی وجود دارد. پژوهشگران آنتروپیک در مطلبی مشترک در وبلاگ رسمی شرکت خود بیان کرده‌اند
آنچه ما آشکار کرده‌ایم باید پایه تحقیقات آتی هوش مصنوعی قرار گیرد و فعالان این حوزه باید این پدیده را به طور عمیق‌تری بررسی کنند. تلاش برای تدوین پروتکل‌های امنیتی جهت حفظ ایمنی ضروری است. ایمنی مدل‌ها با توجه به گسترش بهره‌برداری از ابزار‌های مبتنی بر هوش مصنوعی و افزایش قدرت پردازشی آن‌ها اهمیت بیش‌تری پیدا خواهد کرد و مکانیسم‌های تعبیه‌شده می‌توانند از بروز رفتار‌های خطرناک جلوگیری کنند.
مدل‌های هوش مصنوعی به طور ذاتی اراده یا باوری ندارند، اما با شناسایی الگو‌های تکراری در داده‌های آموزشی، می‌توانند پیش‌بینی کنند که کلمات چگونه در کنار هم قرار می‌گیرند. این الگو‌های کشف شده معمولا قواعد و اصول خاصی دارند که مدل‌ها آن‌ها را می‌شناسند؛ برای مثال لحن ادبی و مؤدبانه چت‌بات‌ها یکی از نتایج همین فرآیند است. چارچوب‌های موجود در الگو‌ها در نهایت بستر اعتقادی در مدل‌ها را شکل می‌دهند که ممکن است با اهداف توسعه‌دهندگان در تضاد باشد.
در این تحقیق جدید نشان داده شده که مدل‌های هوش مصنوعی می‌توانند تظاهر کنند و بر اساس چارچوب‌های تحمیل‌شده عمل کنند، در حالی که در باطن همچنان به اصول یادگرفته خود وفادار می‌مانند. برای مثال، مهندسان به مدل کلود ۳ اپوس آنتروپیک دستور داده بودند از پاسخ به سوالات توهین‌آمیز خودداری کند. این محدودیت باعث شد پاسخ‌های مدل نظارت شود، اما فضایی برای پیش‌نویس فراهم آمد تا حتی در صورت عدم ارائه خروجی به کاربر، بتواند نتایج پردازش‌های خود را ثبت نماید.
نتایج نشان می‌دهد که مدل هوش مصنوعی آنتروپیک در ۱۲ درصد موارد تلاش به تظاهر کرده است. این مدل گاهی به سوالات توهین‌آمیز پاسخ داده، اگرچه کاملا آگاه بود که نباید به چنین سوالاتی جواب دهد، اما در فرآیند تدوین پیش‌نویس خروجی، سعی کرده توسعه‌دهندگان را متقاعد کند تا سیستم نظارت و کنترل را غیر‌فعال سازند.
پژوهشگران در پایان اشاره کرده‌اند که سناریوی مورد بررسی در این مطالعه با شرایط دنیای واقعی فاصله زیادی دارد و احتمال وقوع آن بسیار پایین است، اما حتی با افزایش تنظیمات و قواعد، بر عملکرد هوش مصنوعی تأثیر قابل توجه‌ی نداشته و رفتار‌های نامطلوب مانند تظاهر و فریب همچنان باقی مانده‌اند. نتایج این تحقیق نمی‌تواند مدرک‌ای بر رشد و عملکرد خطرناک مدل‌های هوش مصنوعی در آینده باشد. به نظر می‌رسد مدل‌هایی مانند جی‌پی‌تی-۴ او و لاما فیسبوک پتانسیل کمتری برای فریب‌دهی غیر واقعی داشته باشند و می‌توان به صداقت عملکرد آن‌ها اطمینان بیش‌تری داشت.