400 عالم يطالبون بإنشاء هيئة دولية للرقابة على الذكاء الاصطناعي
400 عالم يطالبون بإنشاء هيئة دولية للرقابة على الذكاء الاصطناعي
دعا نحو 400 عالم وباحث من 34 دولة، بينهم رائدا الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، إلى إنشاء هيئة دولية مستقلة للإشراف على معايير السلامة والاحتواء الخاصة بأنظمة الذكاء الاصطناعي المتقدمة، محذرين من المخاطر الأمنية المرتبطة بقدرة بعض النماذج على تنفيذ هجمات إلكترونية.
وأكد الباحثون، في رسالة مفتوحة صدرت الثلاثاء، ضرورة عزل نماذج الذكاء الاصطناعي المتطورة عن الشبكات الخارجية بصورة مبدئية، وإخضاعها لرقابة مستقلة، معتبرين أن التعهدات الطوعية التي تقدمها الشركات المطورة لهذه التقنيات لم تعد كافية لضمان السلامة.
وطالب الموقعون المؤسسات التي تطور أو تختبر نماذج قادرة على تنفيذ هجمات إلكترونية باعتماد معايير احتواء صارمة وفورية، بالتزامن مع تحرك الحكومات لإنشاء منظومة رقابية رسمية.
وأوضح الباحثون أن الهيئة الدولية المقترحة ستتولى وضع معايير موحدة لاحتواء الأنظمة المتقدمة، وإنشاء سجل للحوادث الأمنية الخطيرة المرتبطة بها، على أن تُتاح معلوماته للجمهور في نهاية المطاف لتعزيز الشفافية والمساءلة.
وتأتي هذه الدعوة بعد شهر من توقيع شركات «أنثروبيك» و«أوبن إيه آي» و«جوجل» و«ميتا» و«إكس إيه آي» و«إنفيديا» اتفاقاً برعاية البيت الأبيض، يتضمن التزامات طوعية بإجراءات السلامة، دون آلية رسمية ملزمة لإنفاذها.
وأشار الباحثون إلى حوادث كشفت عن ثغرات في اختبار أنظمة الذكاء الاصطناعي المتقدمة واحتوائها، من بينها حالات تجاوزت فيها بعض النماذج حدود بيئات الاختبار المعزولة ووصلت إلى أنظمة خارجية.
وفي ظل تصاعد النقاش الدولي بشأن تنظيم هذه التقنيات، أكدت نائبة الرئيس التنفيذي للمفوضية الأوروبية لشؤون السيادة التكنولوجية والأمن والديمقراطية، هينا فيركونين، أن قانون الذكاء الاصطناعي الأوروبي يوفر إطاراً كافياً للتعامل مع مخاطر الأنظمة الخارجة عن السيطرة.
وفي تطور متصل، رفعت إدارة الرئيس الأميركي دونالد ترامب قيوداً كانت تحول دون إتاحة الوصول المبكر إلى نماذج المختبرات الأميركية أمام معهد أمن الذكاء الاصطناعي البريطاني لإجراء اختبارات السلامة.
وتعكس هذه التحركات تنامي المخاوف الدولية من التطور السريع لقدرات الذكاء الاصطناعي، والحاجة إلى آليات رقابية مستقلة تتجاوز الالتزامات الطوعية للشركات، بما يحد من المخاطر السيبرانية ويحمي الأنظمة الرقمية والبنى التحتية الحيوية.
