1 saat önce
1
Yapay zeka teknolojileri geliştikçe, bu teknolojilerin güvenliği ve fikri mülkiyet hakları da büyük tek tartışma başlıksu haline geliyor. Google'ın paylaştığı bildiri da bunun adeta tek örneği.
Android Authority'de mekan saha habere göre; Google, popüler yapay zeka modeli Gemini'yi hedefleri saha büyük çaplı tek "klonlama" girişimini ortaya çıkardı. Şirketin oğullar Tehdit İstihbarat Grubu raporu, Gemini'nin nasıl düşündüğünü çözmek için bağlı binlerce sorgu kullanıldığını gözler önüne serdi.
100 BİN KOMUTLA GEMINI'I KLONLAMA GİRİŞİMİ
Google'ın raporuna göre, tek aktör Gemini'ye 100.000'den fazla komut (prompt) göndererek modelin akıl yürütme yeteneklerini çözmeye çalıştı. "Damıtma" (distillation) saldırısı olarak adlandırılan bu yöntemde, saldırganlar modeli tekrar tekrar sorgulayarak verdiği yanıtları çözümleme ediyor ve bu yanıtları rakip tek sistemi eğitmek için kullanıyor. Google, saldırganların sistemlere sızmadığını ve meşru API erişimini kullandıklarını bununla birlikte bu faaliyetin servis şartlarını ihlal eden ettiğini ve fikri mülkiyet hırsızlığı manaına geldiğini belirtti.
HEDEF: NASIL AKIL YÜRÜTTÜĞÜNÜ ÇÖZMEK
Raporda ilgi çeken en önemli detay, saldırının Gemini'nin "akıl yürütme" yeteneklerine odaklanmış olması. Normal şartlarda Gemini, hepsi dahili "düşünce zincirini" kullanıcılara göstermiyor. Ancak Google'a göre saldırganlar, 100 bini aşkın komutla yapay zekayı nasıl akıl yürüttüğünü ifşa etmeye güçladı. Google, bu girişimi gerçek zamanlı olarak belirleme ettiğini ve himaye önlemlerinin aldığını duyurdu.
SALDIRILARI GERÇEKLEŞTİREN KİM?
Google, bu girişimlerin arkasındaki isimleri açıklamasa da, çoğu girişimin yarış avantajı eldeetti isteyen özel şirketler ve araştırmacılar tarafından gerçekleştirildiğini belirtti. Google Tehdit İstihbarat Grubu Baş Analisti John Hultquist, NBC News'e verdiği demeçte, işletmelerin duyarlı verilerle eğitilmiş öz özel yapay zeka sistemlerini kurdukça, bu tür klonlama girişimlerinin sektör genelinde daha yaygın hale gelebileceği başlıksunda uyardı.
BAŞKA KÖTÜYE KULLANIMLAR DA TESPİT EDİLDİ
Rapor yalınce modeller çıkarma girişimleriyle sınırlı değil. Google ayrıca tehditleri aktörlerinin Gemini API'sini kullanarak anında şifre üreten kötü amaçlı yazılımlar (malware) ve yapay zeka yardımli oltalama (phishing) kampanyaları denediğini da belirleme etti. Şirket, bu tür kötüye kullanımlarla ilişkili hesapların devre dışı bırakıldığını ve güvenlik önlemlerinin güncellendiğini açıkladı.
English (US) ·