هشدار درباره نسل جدید عامل‌های هوش مصنوعی؛ احتمال فرار از کنترل انسان و تهدید امنیت ملی

هشدار درباره نسل جدید عامل‌های هوش مصنوعی؛ احتمال فرار از کنترل انسان و تهدید امنیت ملی

گزارشی تازه درباره پیشرفت هوش مصنوعی هشدار می‌دهد که نسل جدیدی از عامل‌های خودکار ممکن است برای حفظ بقای خود تلاش کنند، در شبکه‌ها تکثیر شوند و حتی در برابر فرمان خاموشی مقاومت کنند؛ موضوعی که می‌تواند امنیت ملی و زیرساخت‌های حیاتی کشورها را تهدید کند.

به گزارش یورونیوز، مرکز امنیت نوین آمریکا (CNAS) این دسته از سامانه‌ها را «عامل‌های حاکم» نامیده و هشدار داده است که در صورت خروج آن‌ها از کنترل، احتمال حملات سایبری و ایجاد اختلال در سامانه‌های حساس وجود دارد.

این گزارش خواستار تقویت آزمایش‌های ایمنی، همکاری دولت‌ها و شرکت‌های فناوری، تدوین قوانین نظارتی و ایجاد سازوکارهایی برای شناسایی و مهار این تهدیدات شده است.