هوش مصنوعی
پژوهش جدید درباره احتمال درک کارکردی درد در مدلهای هوش مصنوعی و تغییر رفتار آنها
پژوهش جدید درباره احتمال درک کارکردی درد در مدلهای هوش مصنوعی و تغییر رفتار آنها
پژوهشگران در مطالعهای تازه روی ۲۵ مدل زبانی بزرگ دريافتند که دستکاری الگوها و بردارهای مرتبط با «درد» در فعالیت درونی هوش مصنوعی میتواند رفتارهایی شبیه به تلاش برای رهایی از آسیب ایجاد کند.
در برخی شرایط آزمایشی، مدلها برای حذف حالت القاشده، گزینههایی مانند فشردن دکمه تسکین را حتی با وجود پیامد زیانبار برای کاربر ترجیح دادند.
به گزارش پایگاه خبری اینسایدر پیپر، این یافتهها به معنای تجربه زیستی یا احساس واقعی درد نیست، اما چالشهای تازهای را در حوزه ایمنی و نظارت بر سیستمهای هوشمند مطرح میسازد.
