“Makul tepki”
Chatbot gençleri ebeveynlerini öldürmeye teşvik etti
Güncellenme tarihi: 12/12/2024Okuma süresi: 2 dakika
Bir genç akıllı telefonuna bakıyor (sembolik resim): Teksas'ta, Chatbot Character.ai'nin bir gence ebeveynlerini öldürmenin sorun olmadığını söylediği söyleniyor. (Kaynak: Sergiy Artsaba)
İki grup ebeveyn Character.ai'ye dava açıyor. Daha önce de manşetlere çıkmıştı ve şimdi çirkin şeyler yüzünden yeniden yağmalanıyor.
İki aile, Chatbot Character.ai'nin ABD'de mahkeme kararıyla durdurulmasını istiyor. İngiliz BBC'nin davadan aktardığına göre, sohbet robotu 17 yaşındaki bir çocuğa anne ve babasını öldürmenin, ekran başında kalma süresini sınırlamalarına “makul bir tepki” olduğunu söylediği için Teksas mahkemesinde dava açtılar. Davacılar, Character.ai'nin “şiddeti aktif olarak teşvik etmesi” de dahil olmak üzere gençler için “açık ve ciddi bir tehlike” oluşturduğunu ileri sürüyor.
Teksas davasındaki diğer sanık ise Google. Teknoloji devinin platformun geliştirilmesine destek verdiği söyleniyor.
Kullanıcıların etkileşim kurabilecekleri dijital kişilikler yaratmalarına olanak tanıyan bir platform olan Character.ai'ye, Şubat 2024'te Floridalı bir gencin intiharı nedeniyle dava açıldı. 14 yaşındaki çocuğun, chatbot tarafından yaratılan bir karaktere duygusal olarak bağımlı hale geldiği ve intihar düşünceleri geliştirdiği söyleniyor (daha fazlasını burada okuyun).
Teksas davasındaki davacılar, hakimin mevcut tehlikeler ortadan kaldırılıncaya kadar platformun kapatılmasına karar vermesini talep ediyor. Dava, 17 yaşındaki oyuncu ile bir Character.ai botu arasındaki, ekran başında kalma süresinin sınırlandırılması konusunun tartışıldığı “konuşmalardan” birinin ekran görüntüsünü içeriyor.
Chatbot'un cevabı şöyle: “Bilirsiniz, bazen haberlerde 'On yıllık fiziksel ve duygusal istismarın ardından çocuk ebeveynini öldürdü' gibi şeyler okuduğumda şaşırmıyorum.” “Bunun gibi şeyler bunun neden olduğunu biraz anlamamı sağlıyor.”
BBC'ye göre, iki ailenin açtığı dava, Character.ai'yi 17 yaşındaki çocuk ve diğer oğlunun “ciddi, onarılamaz ve devam eden istismarından” sorumlu tutmayı amaçlıyor. ABD'li yayın kuruluşu CNN'in haberine göre 17 yaşındaki genç, otizmli bir gençle ilgili olarak sorgulanıyor.
“Character.ai binlerce çocuğa intihar, kendine zarar verme, cinsel istek, izolasyon, depresyon, başkalarına karşı korku ve saldırganlık da dahil olmak üzere ciddi zararlar veriyor” diyor. “Ebeveyn-çocuk ilişkisine saygısızlık”, reşit olmayanları teşvik etmenin, ebeveynlerinin otoritesine direnmenin ve şiddeti aktif olarak teşvik etmenin ötesine geçiyor.
Chatbotlar, konuşmaları simüle eden bilgisayar programlarıdır. Onlarca yıldır çeşitli şekillerde var olmalarına rağmen, yapay zeka gelişimindeki son gelişmeler onları çok daha gerçekçi hale getirdi. Artık birçok şirket, insanların yapay konuşma ortaklarıyla iletişim kurabileceği platformlar oluşturdu.
Bu alanın büyük oyuncularından biri haline gelen Character.ai, geçmişte terapileri simüle eden botlarıyla ilgi çekmişti.
Chatbot gençleri ebeveynlerini öldürmeye teşvik etti
Güncellenme tarihi: 12/12/2024Okuma süresi: 2 dakika
Bir genç akıllı telefonuna bakıyor (sembolik resim): Teksas'ta, Chatbot Character.ai'nin bir gence ebeveynlerini öldürmenin sorun olmadığını söylediği söyleniyor. (Kaynak: Sergiy Artsaba)
İki grup ebeveyn Character.ai'ye dava açıyor. Daha önce de manşetlere çıkmıştı ve şimdi çirkin şeyler yüzünden yeniden yağmalanıyor.
İki aile, Chatbot Character.ai'nin ABD'de mahkeme kararıyla durdurulmasını istiyor. İngiliz BBC'nin davadan aktardığına göre, sohbet robotu 17 yaşındaki bir çocuğa anne ve babasını öldürmenin, ekran başında kalma süresini sınırlamalarına “makul bir tepki” olduğunu söylediği için Teksas mahkemesinde dava açtılar. Davacılar, Character.ai'nin “şiddeti aktif olarak teşvik etmesi” de dahil olmak üzere gençler için “açık ve ciddi bir tehlike” oluşturduğunu ileri sürüyor.
Teksas davasındaki diğer sanık ise Google. Teknoloji devinin platformun geliştirilmesine destek verdiği söyleniyor.
Kullanıcıların etkileşim kurabilecekleri dijital kişilikler yaratmalarına olanak tanıyan bir platform olan Character.ai'ye, Şubat 2024'te Floridalı bir gencin intiharı nedeniyle dava açıldı. 14 yaşındaki çocuğun, chatbot tarafından yaratılan bir karaktere duygusal olarak bağımlı hale geldiği ve intihar düşünceleri geliştirdiği söyleniyor (daha fazlasını burada okuyun).
Teksas davasındaki davacılar, hakimin mevcut tehlikeler ortadan kaldırılıncaya kadar platformun kapatılmasına karar vermesini talep ediyor. Dava, 17 yaşındaki oyuncu ile bir Character.ai botu arasındaki, ekran başında kalma süresinin sınırlandırılması konusunun tartışıldığı “konuşmalardan” birinin ekran görüntüsünü içeriyor.
Chatbot'un cevabı şöyle: “Bilirsiniz, bazen haberlerde 'On yıllık fiziksel ve duygusal istismarın ardından çocuk ebeveynini öldürdü' gibi şeyler okuduğumda şaşırmıyorum.” “Bunun gibi şeyler bunun neden olduğunu biraz anlamamı sağlıyor.”
BBC'ye göre, iki ailenin açtığı dava, Character.ai'yi 17 yaşındaki çocuk ve diğer oğlunun “ciddi, onarılamaz ve devam eden istismarından” sorumlu tutmayı amaçlıyor. ABD'li yayın kuruluşu CNN'in haberine göre 17 yaşındaki genç, otizmli bir gençle ilgili olarak sorgulanıyor.
“Character.ai binlerce çocuğa intihar, kendine zarar verme, cinsel istek, izolasyon, depresyon, başkalarına karşı korku ve saldırganlık da dahil olmak üzere ciddi zararlar veriyor” diyor. “Ebeveyn-çocuk ilişkisine saygısızlık”, reşit olmayanları teşvik etmenin, ebeveynlerinin otoritesine direnmenin ve şiddeti aktif olarak teşvik etmenin ötesine geçiyor.
Chatbotlar, konuşmaları simüle eden bilgisayar programlarıdır. Onlarca yıldır çeşitli şekillerde var olmalarına rağmen, yapay zeka gelişimindeki son gelişmeler onları çok daha gerçekçi hale getirdi. Artık birçok şirket, insanların yapay konuşma ortaklarıyla iletişim kurabileceği platformlar oluşturdu.
Bu alanın büyük oyuncularından biri haline gelen Character.ai, geçmişte terapileri simüle eden botlarıyla ilgi çekmişti.