دانشمندان هشدار میدهند؛ هوش مصنوعی سریعتر از آن پیش میرود که بتوانیم آن را درک کنیم
دانشمندان هشدار میدهند؛ هوش مصنوعی سریعتر از آن پیش میرود که بتوانیم آن را درک کنیم
دو پژوهشگر برجسته حوزه هوش مصنوعی هشدار دادهاند که توانایی انسان برای درک و کنترل سامانههای هوش مصنوعی در حال عقب ماندن از سرعت پیشرفت آنهاست.
به گفته آنان، اگر این روند ادامه پیدا کند، ممکن است با سیستمهایی روبهرو شویم که بسیار قدرتمند هستند اما دیگر بهطور کامل برای انسان قابل فهم یا قابل کنترل نخواهند بود.
در سرمقالهای که در نشریه معتبر «ساینس» منتشر شده است، اریک هوروویتز، مدیر علمی ارشد مایکروسافت، و رابرت وست از مدرسه پلیتکنیک فدرال لوزان سوئیس (EPFL)، سه روند نگرانکننده را در توسعه هوش مصنوعی شناسایی کردهاند که به باور آنها فاصله میان انسان و ماشین را روزبهروز بیشتر میکند.
۱. وقتی هوش مصنوعی، هوش مصنوعی میسازد
نخستین روند، استفاده فزاینده از هوش مصنوعی برای طراحی و بهبود نسلهای بعدی خود است. مدلها اکنون میتوانند در توسعه مدلهای جدید نقش ایفا کنند؛ فرایندی که با سرعتی بسیار بیشتر از توانایی انسان برای درک آن پیش میرود.
در نتیجه، عملکرد سیستمها بهبود مییابد، اما حتی متخصصان نیز گاهی نمیدانند دقیقاً چرا یک مدل بهتر از دیگری عمل میکند.
۲. زبان مخفی میان ماشینها
دومین نگرانی به تعامل میان عاملهای هوش مصنوعی مربوط میشود. این سامانهها اکنون بهصورت شبکهای و در مقیاس گسترده با یکدیگر ارتباط برقرار میکنند و نوعی «اکوسیستم چندعاملی» شکل میدهند.
در چنین محیطی، شیوه ارتباط و استدلال این عاملها ممکن است بهتدریج از زبان و منطق قابل فهم برای انسان فاصله بگیرد.
۳. هوش مصنوعی ما را بهتر از خودمان میشناسد؟
سومین روند که نگرانکنندهترین مورد است، به شناخت روزافزون هوش مصنوعی از انسانها مربوط میشود.
این سیستمها از طریق تحلیل حجم عظیمی از دادههای رفتاری، نهتنها علایق، بلکه ترسها، تردیدها و محرکهای روانشناختی افراد را میآموزند. در نتیجه، نوعی عدم توازن شکل میگیرد؛ ماشین درک فزایندهای از انسان پیدا میکند، اما انسانها درک چندانی از نحوه عملکرد آن ندارند.
خطر از دست رفتن کنترل و راهکار مقابله
ادامه این روند میتواند به ظهور سامانههایی منجر شود که عملاً خارج از نظارت مؤثر انسان قرار میگیرند و بر استقلال فردی و تصمیمگیریهای کلان جامعه اثر منفی میگذارند.
یکی از خطرات این است که هوش مصنوعی بهتدریج به جای بازتاب واقعیت، برای جلب رضایت کاربران صرفاً آنچه را که دوست دارند بشنوند به آنها ارائه دهد.
با این حال، پژوهشگران معتقدند هنوز برای اقدام دیر نشده است. آنها خواستار تمرکز بر توسعه سیستمهایی هستند که بتوانند منطق و فرایندهای درونی خود را به زبان قابل فهم برای انسان توضیح دهند (هوش مصنوعی قابل تفسیر).
در نهایت، آینده ایمن این فناوری تنها زمانی تضمین میشود که «فهم انسانی» به اندازه «قدرت محاسباتی» ارزشمند تلقی شود.
