ABD merkezli Character AI, kullanıcıların yapay zekâ chatbotlarıyla etkileşimde bulunmasını sağlayan bir platform olarak gündemde. Şirket, bir gencin intiharıyla ilgili açılan davada, tabir özgürlüğünü garanti eden Birinci Değişiklik’e dayanarak davanın düşürülmesini talep etti.

2024 yılının Ekim ayında Megan Garcia, oğlu Sewell Setzer III’ün intiharı üzerine Florida Orta Bölge Mahkemesi’nde Character AI’ya dava açtı. Garcia, oğlunun platformda “Dany” isimli bir chatbot ile güçlü bir duygusal bağ kurduğunu ve gerçek hayattan kopmaya başladığını sav etti. Bu trajik olay sonrası Character AI, hizmet şartlarını ihlal eden sohbetlere karşı güvenlik tedbirlerini artırdığını duyurdu. Fakat Garcia, öykü anlatımı ve ferdî anekdotlar üzere özelliklerin kaldırılması da dahil olmak üzere daha fazla düzenleme talep ediyor.

Character AI’nın avukatları, kullanıcıların platformdaki sözlerinin Birinci Değişiklik kapsamında olduğunu ve bu tıp sözler nedeniyle şirketin sorumlu tutulamayacağını belirtti. Şirket ayrıyeten, davanın başarılı olması durumunda hem kendi işleyişini hem de yapay zekâ dalını önemli formda etkileyecek bir “soğutucu etki” yaratacağını tabir etti.

Davada, Character AI’nın yanı sıra, şirketin destekçisi olan Alphabet de sanık olarak yer alıyor. Şirket, kullanıcılarının güvenliğini artırmak ismine gençler için farklı bir yapay zekâ modeli, hassas içeriklere yönelik blokajlar ve botların gerçek olmadığını vurgulayan ihtarlar üzere tedbirler aldığını belirtti. Buna karşın, öbür davalar da Character AI’yı reşit olmayan kullanıcılara yönelik uygunsuz içerik sağlamakla suçluyor.

Çin yapay zekâ standartları komitesi kuruyor

Texas Başsavcısı Ken Paxton ise Aralık 2024’te, çocukların çevrim içi zımnilik ve güvenliğiyle ilgili kanunları ihlal ettiği teziyle Character AI ve öteki 14 teknoloji şirketine yönelik bir soruşturma başlattı. Paxton, bu cins soruşturmaların, toplumsal medya ve yapay zekâ şirketlerinin çocukları sömürüye karşı koruyan kanunlara uymasını sağlamak için kritik olduğunu belirtti.

Yapay zekâ dostluk uygulamalarının süratle büyüyen bu dalı, uzmanlar tarafından dikkatle izleniyor. Uzmanlar, bu tıp uygulamaların yalnızlık ve telaş üzere hisleri artırabileceğinden kaygı duyuyor. 2021’de Google AI araştırmacısı Noam Shazeer tarafından kurulan Character AI, geçtiğimiz yıllarda 2,7 milyar dolarlık bir “ters satın alma” muahedesiyle dikkat çekmişti.