Yapay Zeka Hatası: İngiliz Polisi, Fatura Taraftara Kesildi

İngiltere’de bir polis teşkilatı, Microsoft’un yapay zeka asistanı Copilot’un neden olduğu önemli bir hatayı kabul etti. Bu hata, gerçekte hiç oynanmamış bir futbol maçını varmış gibi göstererek, taraftarların stadyuma girişinin yasaklanmasına yol açtı. Bu durum, güvenlik birimlerinin yanıltılmasına ve dolayısıyla taraftarların maça alınmamasına neden oldu.

Yapay Zeka "Halüsinasyon" Gördü

Teknoloji dünyasında "halüsinasyon" terimi, yapay zeka sistemlerinin gerçeği yansıtmayan bilgileri üretmesi durumunu tanımlamak için kullanılır. West Midlands Polisi, bu hatanın Copilot’un sağladığı yanlış bilgilerden kaynaklandığını itiraf etti. The Verge’in haberine göre, West Midlands Polisi’nden Craig Guildford, İçişleri Komitesi’ne gönderdiği mektupta, "Cuma öğleden sonra West Ham ile Maccabi Tel Aviv arasındaki maça ilişkin hatalı sonucun Microsoft Copilot kullanımı nedeniyle ortaya çıktığını fark ettim" ifadelerini kullandı.

Yanlış Bilgilendirme Sonucu Taraftarların Yasaklanması

Geçtiğimiz yıl Kasım ayında Maccabi Tel Aviv taraftarlarının Aston Villa ile oynanacak Avrupa Ligi karşılaşmasına alınması yasaklandı. Bu yasak, Birmingham Güvenlik Danışma Grubu tarafından, Amsterdam’da oynanan bir önceki Maccabi maçında yaşanan "şiddetli çatışmalar ve nefret suçu" nedeniyle "yüksek riskli" olarak değerlendirilen bir karşılaşma sonucunda alındı. Ancak, yapay zekanın yarattığı yanlış rapor bu durumu daha da karmaşık hale getirdi.

Microsoft'tan Açıklama

Teknoloji devi Microsoft, Copilot arayüzünün alt kısmında "Copilot hata yapabilir" uyarısına yer verdiğini hatırlattı. Şirket, İngiliz polisinin Copilot tarafından sağlanan bilgilerin kaynaklarını mutlaka incelemesi gerektiğini vurguladı. Bu tür hataların önlenmesi için kullanıcıların dikkatli olmaları ve doğrulama süreçlerini ihmal etmemeleri gerektiği ifade edildi. Olay, yapay zeka uygulamalarının güvenilirliğine dair tartışmaları yeniden alevlendirdi.

Yapay zeka sistemlerinin karar alma süreçlerinde kullanımı arttıkça, bu tür hataların sonuçlarının daha ciddi olabileceği endişeleri gündeme geliyor. Dolayısıyla, yapay zeka araçlarının yanı sıra, kullanıcıların bu sistemleri dikkatle değerlendirmesi ve doğrulama yapmaları büyük önem taşıyor.