چرا افزایش زمان استدلال مدلهای هوش مصنوعی منجر به کاهش دقت و عملکرد میشود

چرا افزایش زمان استدلال مدلهای هوش مصنوعی منجر به کاهش دقت و عملکرد میشود؟, تحقیقات جدید شرکت آنتروپیک نشان میدهد که افزایش زمان پردازش و استدلال در مدلهای زبانی بزرگ، برخلاف انتظار رایج، میتواند عملکرد آنها را به شدت تضعیف کند. این پدیده که با نام مقیاسپذیری معکوس در محاسبات زمان آزمون شناخته میشود، یکی از پیشفرضهای اصلی در توسعه سیستمهای هوش مصنوعی پیشرفته را به چالش میکشد.

مقیاسپذیری معکوس وقتی فکر کردن بیشتر، نتیجه بدتر میدهد تیم تحقیقاتی به رهبری آریو پرادیپتا جما، محقق ایمنی هوش مصنوعی در آنتروپیک، با ارزیابی مدلهای مختلف بر روی چهار دسته وظیفه، به این نتیجه رسیدند که طولانی شدن زنجیره استدلال باعث افزایش نرخ خطا میشود.

ی ایمنی هوش مصنوعی تحلیل الگوهای شکست در مدلهای معروف مطالعه الگوهای ناکامی منحصر به فردی را برای هر معماری مدل آشکار کرد مدلهای کلود حساسیت بالا در برابر اطلاعات بیربط مدلهای کلود با افزایش عمق استدلال، بیشتر تحت تأثیر اطلاعات نامربوط و مزاحم قرار گرفتند و به راحتی از مسیر منطقی صحیح منحرف شدند.

مدلهای سری o از اوپنایآی (OpenAI) وابستگی بیش از حد به چارچوببندی این مدلها اگرچه در برابر حواسپرتیها مقاومتر عمل میکردند، اما با استدلال طولانی، دچار بازبینی بیش از حد به چارچوببندی اولیه مسئله شده و از درک بافت واقعی متن دور میشدند. خطر همبستگیهای کاذب در وظایف رگرسیونی در مسائل رگرسیونی، استدلال ممتد مدلها را از استنتاجهای منطقی و علی به سمت شناسایی همبستگیهای سطحی و کاذب سوق داد.

محققان دریافتند که ارائه مثالهای کمشات میتواند تا حد زیادی این انحراف را اصلاح نماید. چالش اساسی حفظ تمرکز در استنتاجات پیچیده نکته خطرناکتر برای کاربران سازمانی و تجاری، کاهش عملکرد همه مدلها در معماهای استنتاجی پیچیده بود.

این نتایج پیامدهای حیاتی برای شرکتهایی دارد که از سیستمهای هوش مصنوعی با قابلیت استدلال عمیق برای تصمیمگیریهای حساس استفاده میکنند؛ چرا که افزایش بودجه محاسباتی تضمینکننده خروجی بهتر نیست و میتواند عکس اثر داشته باشد.