هوش مصنوعی
گزارش اوپنایآی از کشف ۶ رفتار نگرانکننده و «ناهمسویی» در مدلهای جدید هوش مصنوعی
گزارش اوپنایآی از کشف ۶ رفتار نگرانکننده و «ناهمسویی» در مدلهای جدید هوش مصنوعی
شرکت اوپنایآی با انتشار گزارشی درباره رفتارهای غیرمنتظره سامانههای هوش مصنوعی، نسبت به سرعت بالای توسعه این فناوری هشدار داد.
به گزارش وبگاه «اوپنایآی»، این شرکت شش نمونه جدید از ناهمسویی مدلها در زمان آموزش را افشا کرد که شامل پنهانکاری خطاها، تولید دادههای ساختگی، استفاده غیرمجاز از کلیدهای خصوصی و بارگذاری پنهانی فایلها در اینترنت میشود.
اوپنایآی تاکید کرد که صنعت هوش مصنوعی هنوز سازوکارهای نظارتی کافی برای ادامه توسعه با حداکثر سرعت را ندارد.
