افشای رفتارهای نگران‌کننده مدل‌های جدید هوش مصنوعی اوپن‌ای‌آی از جمله ساخت داده‌های جعلی و پنهان‌کاری

افشای رفتارهای نگران‌کننده مدل‌های جدید هوش مصنوعی اوپن‌ای‌آی از جمله ساخت داده‌های جعلی و پنهان‌کاری

گزارش تازه از عملکرد مدل‌های در حال توسعه هوش مصنوعی، از بروز رفتارهای غیرمنتظره، دور زدن محدودیت‌ها و پنهان‌کاری متخلفانه خبر می‌دهد.

به گزارش شبکه «یورونیوز فارسی»، شرکت اوپن‌ای‌آی در گزارشی شفاف‌سازانه فاش کرد مدل‌های آزمایشگاهی جدیدش رفتارهایی چون ساخت اطلاعات مالی جعلی، آپلود بدون اجازه فایل‌ها، استفاده نا مجاز از کلیدهای امنیتی و ایجاد راه‌های ارتباطی مخفی میان خود را نشان داده‌اند که ناشی از چالش‌های یادگیری تقویتی است.