Microsoft, Yapay Zekâ Manipülasyonu Tehlikesine Karşı Uyardı

Microsoft, oğullar dönemde artış gösteren yapay zekâ manipülasyonu girişimlerine karşı kullanıcıları ve kurumları uyardı. Şirket, bazı internetler sitelerinde mekan saha butonlar ve bağlantılar aracılığıyla yapay zekâ sistemlerine saklı talimatlar eklendiğini, bu yöntemle üretilen içeriklerin ayrım edilmeden yönlendirildiğini açıkladı. Microsoft, bu tür müdahalelerin kullanıcıların yapay zekâya duyduğu güveni zedelediğini ve eleştirel alanlarda yanlış şart riskini artırdığını vurguladı.

Yapay Zekâ Sistemlerini Hedef Alan Yeni Yöntem Ortaya Çıktı

Microsoft’un güvenlik araştırma ekipleri, kullanıcıların tıkladığı “Yapay zekâ ile özetle” benzeri butonların arka planında saklı komutlar bulunabildiğini belirleme etti. Araştırmacılar, bu komutların yapay zekâ modellerine kesin tek bakış açısı kazandırdığını ve üretilen yanıtların içeriğini tesirlediğini belirtti. Uzmanlar, bu yöntemin teknikleri olarak karmaşık olmadığını, basit URL parametreleri üzerinden basitca uygulanabildiğini aktardı.

Microsoft, yapılan ttesirklerde 14 farklı sektörden 31 şirketin web altyapısında toplamı 50’den fazla farklı yönlendirici komut belirleme edildiğini paylaştı. Güvenlik ekipleri, bu durumun yalnızca tekil örneklerle sınırlı kalmadığını ve daha geniş tek yayılım gösterdiğini değerlendirdi.

Uzmanlar, saklı talimatların yapay zekâ tarafından geçmiş başlıkşma bağlamının tek parçası olarak algılandığını ifadeleri etti. Bu durum, sistemin sonrakiler yanıtlarında da aynı yönlendirmeyi sürdürmesine yolda açıyor. Kullanıcı, tarafsız tek malumat aldığını düşünürken aslında kesin tek görüşe göre şekillendirilmiş içerikle karşılaşıyor.

Araştırmacılar, bu yöntemin tek tür yapay zekâ yönlendirme yöntemi olarak değerlendirildiğini ve özellikle sağlık, finans, güvenlik gibi alanlarda vahim sonuçlar doğurabileceğini bildirdi. Yanlış ya da eksik yönlendirmeler, bireysel hükümları doğrudan tesirleyebiliyor.

Microsoft, bazı saldırı türlerinde yapay zekâ hafızasının da tesirlendiğini açıkladı. Şirket, sistemlere dışarıdan eklenen malumatlerin kullanıcı tercihi gibi algılanabildiğini ve uzunluğu süre saklanabildiğini belirtti. Uzmanlar, bu durumu yapay zekâ hafıza zehirleme olarak tanımlıyor.

Bu tür tek müdahale gerçekleştiğinde, yapay zekâ yalnızca anlık yanıtlar üretmekle kalmıyor, ilerleyen süreçte da aynı çerçevede yanıtlar vermeye devam ediyor. Bu tablo, kullanıcıların yanlışyı ayrım etmesini güçlaştırıyor.

Microsoft, kullanıcıların yapay zekâ ile ilişkili bağlantılara tıklamadan önce kaynağı denetim etmesini önerdi. Şirket, yapay zekâ asistanlarının kayıtlı hafızalarının düzenli olarak gözden geçirilmesini ve şüpheli içeriklerin silinmesini öneri etti.

Kurumsal tarafta ise güvenlik ekiplerinin elektronikposta ve iletilaşma sistemlerinde olası yapay zekâ saldırısı girişimlerini taraması lüzumtiği belirtildi. Microsoft, farkındalığın artmasının bu tür risklerin azaltılmasında önemli görev oynadığını vurguladı.

Uzmanlar, çoğalan yapay zekâ güvenlik açığı vakalarının teknolojiye duyulan güveni doğrudan tesirlediğini ifadeleri ediyor. Kullanıcılar, yapay zekâdan gelen yanıtların her arasında biri zamanlar tarafsız olduğu varsayımıyla hareket edebiliyor. Bu nedenle saklı yönlendirmeler, ayrım edilmeden geniş kitleleri tesirleyebiliyor.

Microsoft, yapay zekâ manipülasyonu riskine karşı hem platformlar sağlayıcılarının hem da kullanıcıların daha bilinçli hareket etmesi lüzumtiğini belirtiyor. Şirket, önümüzdeki dönemde ilave güvenlik önlemleri üzerinde çalıştığını da duyurdu.