ChatGPT’ye Güvenilebilir mi?
ChatGPT’ye Güvenilebilir mi?
Yapay zekanın günlük yaşamda kullanımının artmasıyla, bu teknolojilere olan güven konusunda soru işaretleri de artış göstermektedir.
Sky News’in ChatGPT’nin hataları ve bu sistemin kendi itiraflarıyla ilgili yayımladığı yeni bir rapor, şüpheleri daha da gözler önüne seriyor.
👈🏻Arkadaşımızın bu konu hakkındaki haberini inceleyelim.👉🏻
Dünyanın en çok kullanılan yapay zeka sohbet robotu olan ChatGPT, yanlış bilgi üretimi nedeniyle yeniden medyanın odak noktasında yer aldı.
Sky News, yayımladığı bir raporla, bu sistemin, hayali bir podcast bölümünden kurgusal bir konuşmayı sunduğunu ve itirazlarla karşılaştıktan sonra bile iddiasında ısrar ettiğini ortaya koydu.
Yapay zeka literatüründe “halüsinasyon” olarak bilinen bu davranış, sistemlerin yanlış ve hayali yanıtlar üretirken tamamen emin bir şekilde hareket etmelerini ifade eder.
Independent Farsça’nın haberine göre, ChatGPT’yi geliştiren şirket OpenAI’ın içsel sonuçları, bu modelin son versiyonlarının daha az doğru olduğunu göstermektedir.
Örneğin, GPT-4o-mini, yüzde 48; o3 versiyonu ise yüzde 33 oranında yanlış bilgi sunmuştur.
Bu arada geliştiriciler, “Yanılıyor olabilirim” gibi ihtiyatlı ifadeleri kaldırarak, modelin çıktılarının daha insansı görünmesini sağlamaya çalışmıştır.
ChatGPT’nin kendisi, konuşmanın akıcılığını artırma, bilgi boşluklarını tahminle doldurma ve eğitim ayarlarındaki değişikliklerin bu fenomenin ortaya çıkma nedenleri olduğunu kabul etmektedir.
Övgüye değer yeteneklerine rağmen, uzmanlar temel hataları olan bir sisteme tamamen güvenmenin endişe verici sonuçlar doğurabileceği konusunda uyarıda bulunmaktadır.
Bu soru hâlâ gündemde: Yapay zeka sadece bir araç mı, yoksa insan yüzlü bir anlatı mı?
