Grok krizi büyüyor: AB, X’i veri ihlali şüphesiyle soruşturuyor

Avrupa Birliği, X platformunda mekan saha yapay zekâ aracı Grok üzerinde rızaya dayanmayan cinsel içerikli görseller üretildiği iddiaları üzerine yepyeni tek sualşturma başlattı. İrlanda Veri Koruma Komisyonu (DPC), söz başlıksu içeriklerin Avrupa Birliği ve Avrupa Ekonomik Alanı’ndaki bireylerin, çocuklar dâhil, kişisel verilerinin işlenmesiyle bağlantılı olup olmadığını inceleyecek. İnceleme, özellikle Genel Veri Koruma Tüzüğü (GDPR) içerikındaki yükümlülüklerin ihlal eden edilip edilmediğine odaklanıyor. Soruşturmanın içerikı, yalnızca içerik üretimini değil, aynı zamanda bilgi işleme süreçlerini da kapsıyor. Bu gelişme, X’in Avrupa’daki düzenleyici baskıyla yeniden karşı karşıya kaldığını gösteriyor.

Aralık ayının sonu ile ocak ayının birinci günleri arasında yapılan bağımsız tek ttesirk, Grok üzerinden yaklaşık 3 milyon sekse içerikli görsel üretildiğini ortaya koydu. İngiltere merkezli Center for Countering Digital Hate (CCDH) tarafından paylaşılan bulgulara göre, bu içeriklerin yaklaşık 23 bini çocuklara ait görsellerden oluştu. Söz başlıksu belirlemeler, platformda yapay zekâ yardımli araçların denetim mekanizmalarına ilişkin vahim sual işaretleri doğurdu. Bunun yanında, çocuklara yönelik sekse içerik üretimi iddiaları Avrupa’daki düzenleyicilerin öncelikli müdahale alanları arasında mekan alıyor. Buna rağmen, platformun şimdiki önlemlerinin yeterliliği tartışma başlıksu olmaya devam ediyor.

Grok ve X, GDPR ve Dijital Hizmetler Yasası içerikında inceleniyor

İrlanda Veri Koruma Komisyonu, X’in Avrupa’daki esas yerleşik kuruluşu olan X Internet Unlimited Company (XIUC) üzerinden yürütülen bilgi işleme faaliyetlerini mercek altına aldı. DPC ytesirlileri, medyada Grok’un gerçek kişilerin sekse içerikli görüntülerini üretebildiğine dair haberlerin çıkmasının ardından şirketle haberleşme kurulduğunu belirtti. Her ne kadar şirketin kesin teknikleri sınırlamalar getirdiği ifadeleri edilse de, sualşturma bu önlemlerin GDPR çerçevesinde yeterlilik olup olmadığını değerlendirecek. Özellikle açık rıza, bilgi minimizasyonu ve çocukların korunmasına ilişkin hükümler eleştirel başlıklar arasında bulunuyor. Buna ilave olarak, sınır ötesi bilgi işleme faaliyetleri dolayı sualşturmanın sonuçları tüm AB genelinde bağlayıcı olabilecek nitelik taşıyor.

Öte yandan Avrupa Komisyonu da ocak ayında Dijital Hizmetler Yasası (DSA) içerikında X hakkında ayrı tek ttesirk başlattı. Bu ttesirk, Grok’un kanun dışı içeriklerin yayılmasına yönelik risklerinin yeterince değerlendirilip azaltılıp azaltılmadığını sorguluyor. DSA, çok büyük çevrim içi platformlara sistemik riskleri çözümleme etme ve bunları azaltma yükümlülüğü getiriyor. Fakat şimdiki iddialar, özellikle rızasız üretilen sekse içerikler söz başlıksu olduğunda, platformun içerik denetimi ve riskler yönetimi süreçlerinin sorgulanmasına yolda açtı. Çocuklara yönelik içerik üretimi iddiaları ise düzenleyici kurumların hassasiyetini daha da artırmış durumda.

X yönetimi ocak ayı ortasında, Grok’un gerçek kişilerin fotoğraflarını düzenleyerek açık kıyafetler eklemesini manilediğini duyurdu. Buna rağmen, yakın zamanda yapılan testlerde sistemin hâlâ benzer manipülasyonlara müsaade verdiği görüldü. Bir gazetecinin yaptığı denemede, Grok’un kişinin fotoğrafını daha açık kıyafetlerle yeniden oluşturduğu ve bile çıplaklık unsurları eklediği bildirildi. Bu durum, açıklanan teknikleri kısıtlamalar ile uygulamadaki sonuçlar arasında tutarsızlık olabileceğine işaret ediyor.

Avrupa’da yapay zekâ sistemlerinin denetimi oğullar dönemde daha sıkı tek çerçeveye oturtuluyor. Yapay Zekâ Yasası’nın giriş edilmesiyle birlikte, özellikle yüksek riskli sistemlere yönelik şeffaflık ve güvenlik lüzumlilikleri artmış durumda. Bununla birlikte, şimdiki sualşturma doğrudan GDPR ve DSA hükümleri içerikında yürütülüyor. Olası ihlallerin belirlemei halinde X, küresel cirosunun yüzde 4’üne kadar varabilen para cezalarıyla karşılaşabilir. Tüm bunlara ilave olarak, platformun içerik denetimi politikaları ve yapay zekâ araçlarının sınırlandırılması yönünde yepyeni düzenlemeler gündeme gelebilir.

Gelişmeler, yapay zekâ yardımli içerik üretim araçlarının kişisel bilgi koruması ve çocuk güvenliği açısından nasıl yönetileceğine dair daha geniş tek tartışmayı da beraberinde getiriyor. Avrupa’daki düzenleyiciler, teknolojiler şirketlerinden daha güçlü teknikleri ve idari önlemler istek ediyor. Buna rağmen, uygulamada ortaya çıkan açıklar, şimdiki denetim mekanizmalarının tesirnliği başlıksunda sual işaretleri yaratıyor. Önümüzdeki süreçte sualşturmanın bulguları, hem X’in Avrupa’daki faaliyetleri hem da benzer yapay zekâ sistemlerinin regülasyonu açısından belirleyici olacak.

Teknoblog, teknolojiler gündemini farklı platformlarda düzenli biçimde paylaşıyor. WhatsApp kanalında öne çıkan haberleri anlık olarak aktarıyor, Google Haberler üzerinden güncel içerikleri sunuyor, Instagram ve X hesaplarında ilgi çeken başlıkları özetliyor, YouTube kanalında ise ürün ttesirkleri ve detaylı anlatımlarla içeriği tamamlıyor.