İNSANLAR DA YALAN SÖYLER YAPAY ZEKÂ DA...

YAPAY ZEKÂNIN YANLIŞ BİLGİ VERMESİNE "HALÜSİNASYON" DENİYOR AMA YAPAY ZEKÂ, İNSANLARLA AYNI ŞEKİLDE HALÜSİNASYON GÖRMÜYOR.

GPT-3.5 ve GPT-4 gibi giderek daha yetenekli hâle gelen büyük dil modellerinin (LLM) çıkışı, özellikle geçtiğimiz yıl içinde büyük ilgi uyandırdı. Ancak kullanıcılar bu modellerin hata yapabileceğini ve mükemmel olmadıklarını keşfettikçe bu modellere duyulan güven azaldı. Dahası bu modellerin bazı sorgulara verdikleri yanlış cevaplar o kadar mükemmel ki doğruluğun kontrolü sırasında ortaya çıkan detay seviyesi şaşırtıcı olabiliyor. Öyle ki yapay zekâ adeta bizi yanıltmak için gerçekte olmayan fakat kendi içinde son derece tutarlı bir tablo çiziyor fakat insanlar arasında buna "yalan" deniyor.

Öte yandan LLM'lerin yanlış bilgi vermesine "halüsinasyon" deniyor. Bu etkiyi azaltmaya yönelik çalışmalar giderek artıyor. Ancak bu işle uğraşırken kendi ön yargı ve halüsinasyon kapasitemiz üzerine de düşünmek gerekiyor. Kendi halüsinasyonlarımız, yarattığımız LLM'lerin doğruluğunu nasıl etkiliyor olabilir? Yapay zekânın halüsinasyon görme potansiyeliyle bizimki arasındaki bağlantıyı anlayabilirsek nihayetinde insan hatalarını azaltmaya yardımcı olacak daha akıllı yapay zekâ sistemleri geliştirebiliriz.

başarısızlıkları, ayrılmaz bir şekilde iç içe geçmiş durumda. Bu nedenle birini düzeltmek diğerini de düzeltmeye yardımcı olacaktır. Bunu başarmanın bazı yolları ise şöyle: