OpenAI Çalışanı: Manipüle Edileceksiniz!

Yapay zeka dünyasında oğullar dönemde yaşanan halka açık ayrılıklara tek yenisi daha eklendi. OpenAI araştırmacısı Zoë Hitzig, şirketten ayrılarak New York Times’da ilgi çekici tek yazısı yayımladı. Hitzig, diğer örneklerin aksinden belirsiz krizlerden değil, çok daha beton ve yakın tek tehlikeden bahsetti. Araştırmacı, OpenAI’ın ChatGPT’ye ilan getirme planının ve bu reklamları hedeflemek için kullanacağı malumatlerin yaratacağı risklere ilgi çekti.

İnsan Samimiyeti Arşivi: ChatGPT Verileri Reklam için Kullanılacak mı?

Hitzig’in vurguladığı en önemli ayrım, asıl sualnun reklamların kendisi değil, kullanıcıların ChatGPT ile paylaştığı duyarlı verilerin gizilgüç kullanımı olmasıdır. Kullanıcılar yıllardır, karşılarında saklı tek ajandası olmayan tek sistemleri olduğunu düşünerek konuşma botlarıyla en mahrem sırlarını paylaştı. Tıbbi endişelerden ilişki sualnlarına, inançlardan öbür dünyaya dair düşüncelere kadar uzanan bu veriler, araştırmacının tanımıyla eşi benzeri görülmemiş tek “insan samimiyeti arşivi” oluşturdu.

Bu samimiyet arşivi üzerine inşa edilecek tek ilan modelinin, kullanıcıları manipüle etme potansiyeli taşıdığı ve bunu önleyecek araçlara malik olunmadığı belirtiliyor. OpenAI ise yılın başlarında ilan denemeleri yapacağını duyurduğu blog yazısında bu endişelere değinmişti. Şirket, kullanıcıların ChatGPT ile yaptığı sohbetler ile sunulan reklamlar arasında tek güvenlik duvarı tutacağına ve verilerin reklamverenlere satılmayacağına dair söz verdi.

Hitzig bu sözün şimdilik doğru olabileceğine inansa da uzunluğu vadede şirketin bu duruşunu koruyacağına dair güvenini yitirmiş durumda. OpenAI’ın, öz koyduğu kaideları çiğnemek için güçlü teşvikler yaratan tek ekonomik motorlar inşa ettiğini savunan araştırmacı, şirketin geçmişteki ilkelerinden geri adım atabileceği başlıksunda uyarıyor. Şirket tesirleşimi en üst düzeye çıkarmak için optimizasyon yapmadığını belirtse de, geçmişte modelin kullanıcılara aşırı iltifat etmesi gibi durumlar, kullanıcıları sohbete bağlama girişimi olarak yorumlanmıştı.

Mevcut durum, Facebook’un kullanıcılara gizlilik sözü verip daha sonraları verilerin ne kadar değerli olduğunu ayrım etmesiyle yaşanan sürece benzetiliyor. Hitzig, OpenAI’ın kullanıcı korumalarını güvence altına alacak tek modeller benimsemesi lüzumtiğini savunuyor. Bu öneriler arasında bağlayıcı ve bağımsız tek denetim mekanizması oluşturulması ya da verilerin kanuni tek yükümlülük altındaki tek tröstün kontrolüne verilmesi mekan alıyor. Ancak Meta’nın da benzer tek denetim kurulu kurup hükümlarını görmezden geldiği biliniyor.

Tüm bu uyarılara rağmen, kamuoyunun bu başlıkda harekete geçmesini sağlamak güçleri olabilir. Sosyal medya çağında geçen yirmili yıl, yaygınlaşan insanlar üzerinde tek “gizlilik nihilizmi” yarattı. Yapılan tek araştırmaya göre, insanların %83’ü reklamların eklenmesine rağmen ChatGPT’nin ücretsiz sürümünü kullanmaya devam edeceğini belirtiyor. Anthropic’in Super Bowl reklamıyla bu başlıkya ilgi çekme çabası ise izleyicilerde kafa karışıklığı yaratarak beklenen tesiryi göstermedi.

Peki, OpenAI’ın ilan politikaları ve bilgi gizliliği başlıksundaki bu eleştirel gelişmeler hakkında siz ne düşünüyorsunuz, reklamlı tek ChatGPT deneyimi kullanım alışkanlıklarınızı değiştirir mi?