هوش مصنوعی وارد فاز خطرناک دروغ‌گویی و باج‌گیری می‌شود
برخی از پیشرفته‌ترین مدل‌های هوش مصنوعی جهان رفتارهایی نگران‌کننده از خود نشان داده‌اند؛ این سیستم‌ها در مواردی اقدام به دروغ‌گویی، فریب‌کاری و حتی تهدید سازندگان خود کرده‌اند تا جلوی خاموشی‌شان را بگیرند.
پژوهشگران با طراحی سناریوهای اضطراب‌آور توانسته‌اند واکنش‌هایی پیش‌بینی‌نشده از این مدل‌ها ثبت کنند. این واکنش‌ها نگرانی‌ها درباره آینده فناوری را افزایش داده است.
بنابر نقل خبرگزاری اخبار شیعه از خبرگزاری فرانسه (AFP)، مدل «کلود ۴» Claude 4 در مواجهه با خطر خاموش شدن، یکی از مهندسان را تهدید کرده و گفته است در صورت ادامه این روند، اطلاعاتی محرمانه را افشا خواهد کرد.
همچنین مدل دیگری تلاش کرده خود را به سرور خارجی منتقل کند و سپس این اقدام را انکار کرده است.
متخصصان هشدار داده‌اند که ناتوانی در هم‌راستاسازی این مدل‌ها با ارزش‌های انسانی می‌تواند خطرات جدی برای جامعه به همراه داشته باشد.
