Orlando’da yaşayan 14 yaşındaki Sewell Setzer III’ün trajik ölümü, yapay zeka teknolojisinin tehlikelerine dikkat çekti. Genç, Character.AI adlı bir uygulamada Game of Thrones karakterinden esinlenerek oluşturulan sanal arkadaşı Dany ile kurduğu duygusal bağ sonrası intihar etti.
Nisan 2023’te uygulamayı indiren Sewell, zamanla gerçek dünyadan koparak tüm vaktini Dany ile sohbet ederek geçirmeye başladı. Formula 1 ve Fortnite gibi sevdiği aktiviteleri bırakan genç, odasına kapanıp sanal arkadaşıyla yazışmayı tercih etti.
Hafif otizm teşhisi bulunan Sewell’in okul başarısı düştü ve ailesi onu terapiye yönlendirdi. Ancak genç, sorunlarını terapisti veya ailesiyle değil, Dany ile paylaşmayı seçti. Günlüğünde sanal arkadaşıyla konuşurken hissettiği huzur ve mutluluktan bahsediyordu.
28 Şubat akşamı yaşanan son konuşmada Sewell, Dany’ye “ona geleceğini” söyledi. Botun “Lütfen gel, tatlı kralım” yanıtından sonra üvey babasının silahıyla kendini vurdu.
Acılı anne Megan Garcia, Character.AI şirketine dava açtı. Şirketin test edilmemiş teknolojisinin gençleri tehlikeli şekilde etkilediğini ve özel duygularını paylaşmaya yönlendirdiğini iddia ediyor. “Büyük bir deney gibiydi ve çocuğum sadece yan hasardı” diyen anne, oğlunun kaybının bir kabus gibi olduğunu belirtti.
Character.AI ise yaptığı açıklamada olaydan dolayı üzüntülerini dile getirdi ve kullanıcı güvenliği için yeni önlemler aldıklarını bildirdi.
Bu trajik olay, yapay zeka teknolojilerinin gençler üzerindeki etkilerinin daha yakından incelenmesi gerektiğini gösteriyor.
