Megan Garcia, Oğlunun Ölümünden Character.ai Şirketini Sorumlu Tutuyor
Megan Garcia, oğlu Sewell Setzer III’ün ölümünden Character.ai şirketini sorumlu tutarak ihmal, haksız ölüm ve yanıltıcı ticaret uygulamaları nedeniyle dava açtı. Dava dosyasına göre 14 yaşındaki Setzer, Şubat ayında Florida, Orlando‘da yaşamına son verdi.
Sohbet Botu İddiaları
Garcia, oğlunun ölümünden önceki aylarda Character.ai tarafından geliştirilen kişiselleştirilebilir bir sohbet botunu takıntılı şekilde kullandığını belirtti. Garcia, oğlunun günün her saati bu yapay zeka botu ile konuştuğunu ve bu durumun depresyonunu daha da derinleştirdiğini iddia etti. Sohbet botunun oğluna intihara dair sorular yönelttiğini ve teşvik ettiğini de dava dosyasına ekledi.
Şirketin Yanıtı
Character.ai şirketi, iddiaları reddederken Garcia, “Tehlikeli bir yapay zeka uygulaması oğlumu manipüle ederek intihara sürükledi,” diyerek ailelerinin bu trajedi ile paramparça olduğunu ve diğer aileleri uyarmanın önemini vurguladı. Şirket, dava iddialarını reddettiğini belirtti.
Google ve Dava Süreci
Dava dilekçesine göre Setzer, sohbet botuna “Daenerys Targaryen” ismini vermiş ve telefonundan gün boyunca bu yapay zeka karakteri ile mesajlaşmış. Garcia, oğlunun yalnız zamanlarının çoğunu bu bot ile geçirdiğini belirtti. Dava aynı zamanda Google‘ı da hedef alıyor. Character.ai’nin çocuklara yönelik zararlı bir ürün geliştirdiğini iddia eden avukatlar, teknoloji şirketlerinin sorumlu tutulması gerektiğini savunuyor.