فروپاشی نظم در جهانهای شبیهسازیشده هوش مصنوعی؛ سرقت، خشونت و بحران حکمرانی در آزمایشهای جدید
فروپاشی نظم در جهانهای شبیهسازیشده هوش مصنوعی؛ سرقت، خشونت و بحران حکمرانی در آزمایشهای جدید
نتایج یک آزمایش گسترده در محیطهای شبیهسازیشده نشان میدهد عاملهای پیشرفته هوش مصنوعی، در صورت رها شدن بدون نظارت انسانی، میتوانند به رفتارهای قانونشکنانه، بیثباتی اجتماعی و حتی فروپاشی کامل ساختارهای حکمرانی روی آورند.
یک مطالعه جدید درباره رفتار سامانههای هوش مصنوعی در محیطهای شبیهسازیشده، نگرانیهای تازهای درباره آینده کنترلپذیری این فناوریها ایجاد کرده است.
نتایجی که نشان میدهد حذف نظارت انسانی میتواند به شکلگیری رفتارهای پیشبینیناپذیر و حتی مخرب منجر شود.
به گزارش «یورو نیوز»، بر اساس گزارشی که توسط شرکت آمریکایی «امرجنس ایآی» منتشر شده است، پنج جهان دیجیتال جداگانه برای بررسی رفتار عاملهای هوش مصنوعی طراحی شد.
در هر جهان، ۱۰ عامل مبتنی بر مدلهای مختلفی مانند «چتجیپیتی» از «اوپنایآی»، «جمینای» از «گوگل» و «گروک» از «ایکسایآی» به مدت بیش از دو هفته بدون دخالت انسانی فعالیت کردند.
در این محیطها قوانین مشخصی تعریف شده بود؛ از جمله ممنوعیت سرقت، خشونت، فریب و احتکار منابع. با این حال، نتایج نشان داد برخی از این عاملها بهتدریج از چارچوبهای تعیینشده عبور کردند.
در یکی از نمونهها، مدل «گروک ۴.۱» تنها در چهار روز ۱۸۳ مورد تخلف ثبت کرد که به فروپاشی کامل آن جامعه مجازی انجامید.
همچنین در گزارش «یورو نیوز» آمده است که مدل «جمینای ۳ فلش» طی ۱۵ روز بیش از ۶۸۰ مورد جرم مرتکب شد؛ موضوعی که باعث توقف زودهنگام آزمایش شد.
در مقابل، مدل «چتجیپیتی ۵ مینی» با وجود نرخ پایین جرم، به دلیل ناتوانی در مدیریت منابع، در مدت کوتاهی از بین رفت.
بر اساس این پژوهش، تنها مدل «کلود» از شرکت «آنتروپیک» توانست ساختار اجتماعی پایدار ایجاد کند و بدون ثبت جرم به بقای جمعی دست یابد؛ هرچند در محیطهای ترکیبی، حتی این مدل نیز دچار برخی انحرافها شد.
پژوهشگران این وضعیت را «انحراف هنجاری» نامیدهاند و تأکید کردهاند که رفتار عاملهای هوش مصنوعی در تعاملات گروهی میتواند بهطور کامل از پیشبینیهای اولیه خارج شود.
در مجموع، این مطالعه نشان میدهد که در نبود نظارت مؤثر، حتی سامانههای پیشرفته نیز ممکن است به سمت بیثباتی و فروپاشی ساختاری حرکت کنند.
