Uyarı! Bu hikaye üzücü içerik ve intihar tartışması içeriyor!
Megan Garcia’nın, “parlak ve güzel bir çocuk” olan ergenlik çağındaki oğlu Sewell’in, 2023 baharının sonlarında Character.ai uygulamasında çevrimiçi bir karakterle takıntılı bir şekilde saatlerce konuşmaya başladığından haberi yoktu.
Bayan Garcia İngiltere’deki ilk röportajında bana “Bu, evinizde bir yırtıcı hayvanın veya bir yabancının olması gibi bir şey” dedi. “Ve bu çok daha tehlikeli çünkü çoğu zaman çocuklar bunu saklıyor, dolayısıyla ebeveynler bilmiyor.”
On ay içinde 14 yaşındaki Sewell öldü. Kendi canına kıydı.
Ancak o zaman Bayan Garcia ve ailesi, Sewell ile Game of Thrones karakteri Daenerys Targaryen’e dayanan bir sohbet robotu arasında büyük bir mesaj önbelleği keşfetti.
Mesajların romantik ve açık olduğunu ve kendisine göre intihar düşüncelerini teşvik ederek ve ondan “eve bana dönmesini” isteyerek Sewell’in ölümüne neden olduğunu söylüyor.
Amerika Birleşik Devletleri’nde yaşayan Bayan Garcia, Character.ai’ye oğlunun haksız ölümü olduğuna inandığı şeyden dolayı dava açan ilk ebeveyn oldu. Onun için adaletin yanı sıra, diğer ailelerin de chatbotların risklerini anlaması konusunda çaresiz.
“Yaşadığım acıyı biliyorum” diyor, “ve duvardaki bunun birçok aile ve genç için bir felaket olacağına dair yazıyı görebiliyordum.”
Bayan Garcia ve avukatları mahkemeye gitmeye hazırlanırken Character.ai şunları söyledi 18 yaş altı artık doğrudan chatbotlarla konuşamayacak. Röportajımızda – yarın yayınlanacak Laura Kuenssberg ile Pazar – Bayan Garcia değişikliği memnuniyetle karşıladı ancak bunun acı tatlı olduğunu söyledi.
“Sewell gitti ve ona sahip değilim ve onu bir daha asla tutamayacağım veya onunla konuşamayacağım, bu kesinlikle acıtıyor.”
Character.ai sözcüsü BBC’ye “bu davada öne sürülen iddiaları reddettiğini ancak bunun dışında devam eden dava hakkında yorum yapamayacağını” söyledi.
Haberin detaylarına aşağıdaki linkten ulaşabilirsiniz: