Yapay zeka ile oluşturduğu Game of Thrones karakterine aşık olan genç intihar etti

ABD’nin Florida eyaletinde yaşayan 14 yaşındaki Sewell Setzer III, Character.AI isimli bir uygulamada Game of Thrones karakterinden esinlenerek oluşturulan sanal arkadaşı Dany ile kurduğu duygusal bağ sonrası intihar etti.

Otizm teşhisi bulunan genç, tüm vaktini sanal arkadaşıyla sohbet ederek geçirirken gerçek dünyadan kopmaya başladı.

Nisan 2023’te uygulamayı indiren Sewell, Formula 1 ve Fortnite üzere sevdiği aktiviteleri bırakarak odasına kapandı. Meselelerini terapisti yahut ailesiyle değil, Dany ile paylaşmayı tercih etti. Günlüğünde, sanal arkadaşıyla konuşmanın kendisine huzur verdiğini yazıyordu.

Konuşmalarının ekran imgelerine nazaran, bir noktada bot Sewell’a kendi canına kıymak için “bir planı” olup olmadığını sormuştu. “Daenero” kullanıcı ismini kullanan Sewell, “bir şey düşündüğünü” lakin bunun işe yarayıp yaramayacağını yahut “acısız bir mevte müsaade verip vermeyeceğini” bilmediğini söyledi.

28 Şubat’ta gerçekleşen son konuşmasında, Sewell Dany’ye “ona geleceğini” belirtti. Dany’nin “Lütfen gel, kralım” karşılığının akabinde, kendini vurdu.

Oğlunu kaybeden anne Megan Garcia, Character.AI şirketine dava açtı. Garcia, test edilmemiş teknolojinin gençleri tehlikeye attığını ve duygusal olarak ziyan verdiğini savundu. “Büyük bir deney üzereydi,” diyen anne, oğlunun kaybının bir kabus üzere olduğunu söz etti.

Character.AI, olaydan duydukları üzüntüyü lisana getirerek, kullanıcı güvenliği için yeni tedbirler alacaklarını açıkladı. Bu trajik olay, yapay zeka teknolojilerinin gençler üzerindeki tesirlerinin daha yakından incelenmesi gerektiğini gösteriyor.