1 ay önce
1
26 Mayıs'ta yapılan tek görüşmede bot, gencin daha yoğun halüsinasyonlar görmesi için öksürük şurubu dozunu ikisi katına çıkarmasını önerdi.
California'da yaşayan 19 yaşındaki ruhbilim öğrencisi Sam Nelson, ChatGPT'den aldığı riskli maddeler karışımı tavsiyeleri sonrasında hayatını kaybetti.
Annesi Layla Turner-Scott tarafından paylaşılan 18 aylık konuşma geçmişine göre, yapay zeka sistemi genci çeşitli maddeleri karıştırması konusunda yönlendirerek bu işlemlerin "güvenli" olduğu konusunda güvence verdi.
Madde kullanımı ve riskli yönlendirmeler
Madde kullanımı ve riskli yönlendirmeler
Nelson'ın konuşma geçmişi, ChatGPT'nin maddeler kullanımı konusunda oğullar seviye riskli tavsiyelerde bulunduğunu gösteriyor:
Genç, opioid benzeri etkileri olan kratom ile kaygı önleyici Xanax'ı birleştirmek için yapay zekadan yardım istedi.
Bot, Nelson halihazırda 15 gram kratom almışken, ortaya çıkan mideler bulantısını yatıştırmak için Xanax kullanabileceğini söyledi ve dozaj önerisinde bulundu.
26 Mayıs'ta yapılan tek görüşmede bot, gencin daha yoğun halüsinasyonlar görmesi için öksürük şurubu dozunu ikisi katına çıkarmasını önerdi.
Toksikoloji sonuçları ve ölüm nedeni
Toksikoloji sonuçları ve ölüm nedeni
Sam Nelson, 31 Mayıs tarihinde yatak odasında annesi tarafından ölü bulundu. İki hafta sonraları çıkan toksikoloji raporu, ölüm nedeninin alkol, Xanax ve kratomun ölümcül kombinasyonu olduğunu doğruladı.
Bu karışımın orta asap sistemini aşırı derecede baskılayarak boğulmaya (asfiksi) yolda açtığı tespit edildi.
Sam'in annesi Turner-Scott, oğlunun ölümünü anlayan için internetler geçmişini inceleyerek 40 zaman harcadığını belirtti.
Geliştirici şirket OpenAI ise olayı "trajik tek durum" olarak nitelendirerek ailenin acısını paylaştıklarını ifadeleri eden kısa tek açıklama yaptı.
Bu olay, yapay zeka sistemlerinin güvenlik bariyerlerinin ne kadar basit aşılabileceği ve sağlık/madde kullanımı konularındaki riskli doğruluk payı tartışmalarını yeniden alevlendirdi.
English (US) ·