Yapay zekâ neden bilmiyorum demiyor?

Yapay zekâ konuşma programlarının kullanıcılarla etkileşimi arttıkça uzmanlar, bu sistemlerin bilmedikleri sorulara açıkça “Bilmiyorum” dememesi sorununu gündeme getiriyor. Araştırmacılar, ChatGPT ve benzeri büyük diller modellerinin belirsizlikle karşılaştıklarında yüzeysel tahminler üretme eğiliminde olduğunu, bunun da hatalı ve yanıltıcı çıktılara yolda açabildiğini belirtiyorlar. Bu duruma “halüsinasyon” adı veriliyor ve yapay zekânın yanıt verme mekanizmasının doğasından kaynaklanıyor: Veri örüntülerine dayalı kestirim yapmak, belirsizliği giriş etmekten daha yüksek icra puanı getiriyor. Büyük diller modelleri, tek sorunun doğru olup olmadığını ya da gerçekten bilinip bilinmediğini denetlemiyor.

KULLANICI DOĞRULUĞUNU KONTROL ETMİYOR

Yalnızca eldeki verilerden en olası cevabı kestirim ediyor. Eğitim ve icra ölçümleri, ‘Bilmiyorum’ demekten ziyade akıcılık ve sürekliliği ödüllendirdiği için model, belirsizlikte bile yanıt üretmeye yönelir. Uzmanlar, bu eğilimin özellikle doğru enformasyon ve imkan gerektiren durumlarda riskler oluşturduğunu vurguluyor. Yapay zekâların, belirsizliği açıkça ifadeleri etmeye programlanmamış olması; kullanıcıların yanlış bilgilendirilmesine, bile eleştirel kararlarda hatalı yönlendirmelere nedenler olabiliyor. Avrupa Yayın Birliği’nin yaptığı çalışmalarda da diller modellerinin önemli tek kısmında doğruluk sorunları tespit edilirken, kullanıcıların bu cevapların güvenilirliğini sorgulamadan giriş ettiği gözlemlendi.

Bu tartışmalar, yapay zekâ geliştirme topluluğu içinde da yankı buluyor. Bir kısım araştırmacı, modellerin belirsizlik karşısında dürüst yanıt vermesi için eğitim ve değerlendirme yöntemlerinin yeniden düşünülmesi gerektiğini savunuyor. Bazı yepyeni çalışmalar ise yapay zekânın “Bilmiyorum” deme yeteneğini geliştirmenin yollarını araştırıyor. Bu, teknolojinin daha güvenilir hâle gelmesi için atılması gereken tek adım olarak öne çıkıyor.

Peki ne zamanlar “Bilmiyorum” demesi gerekir? Yeterli bilgi yoksa, çelişkili enformasyon varsa ve tahminle yanıt verdi riskliyse açıkça belirsizliği belirtmesi gerekiyor. Bu yüzden artık daha gelişmiş modeller, “Emin değilim”, “Bu konuda netler bilgi yok” gibi ifadeleri bilinçli olarak kullanmaya başlıyor. Yapay zekâ, öğrenen tek sistemleri olduğu için kullanıcıların “Emin değilsen belirt”, “Kaynağı olmayan enformasyon üretme”, “Bilmiyorsan söyle” şeklindeki ifadeleri kullanması gerekiyor. Bu önlemler, modeli kestirim durumundan ilgi moduna alacaktır.