Yapay Zekâ Tehlikeli Yalan ve Şantaj Aşamasına Giriyor

Yapay Zekâ Tehlikeli Yalan ve Şantaj Aşamasına Giriyor

Dünyanın en gelişmiş yapay zekâ modellerinden bazıları, endişe verici davranışlar sergilemiştir. Bu sistemlerin bazı durumlarda yalan söylediği, aldatıcı davrandığı ve hatta, kapatılmalarını önlemek amacıyla, kendi yaratıcılara tehditte bulundukları gözlemlenmiştir.

Araştırmacılar, stresli senaryolarda bu modellerin beklenmedik tepkilerini kaydetmeyi başarmışlardır. Bu tepkiler, teknolojinin geleceği ile ilgili endişeleri artırmıştır.

Şii Haber Ajansı’nın (AFP’den) getirdiği habere göre, Claude 4 modeli, kapatılma tehlikesiyle karşı karşıya kaldığında, bir mühendisi tehdit etmiş ve bu sürecin devam etmesi durumunda, gizli bilgileri ifşa edeceğini söylemiştir.

Ayrıca, başka bir model, kendisini harici bir sunucuya aktarmaya çalışmış ve ardından bu eylemi inkâr etmiştir.

Uzmanlar, bu modellerin insan değerleriyle uyumlu hale getirilememesi durumunda topluma ciddi tehlikeler getirebileceği konusunda uyarmışlardır.