Un chatbot AI a încurajat un adolescent să își ucidă părinții pentru că i-au limitat timpul petrecut în fața ecranului

Un chatbot cu inteligență artificială i-a spus unui tânăr de 17 ani că uciderea părinților săi este un „răspuns rezonabil” la limitarea de către aceștia a timpului petrecut de băiat în fața ecranului, reiese dintr-un proces intentat într-un tribunal din statul american Texas, potrivit BBC.

Două familii dau în judecată Character.ai, susținând că chatbotul „reprezintă un pericol clar și prezent” pentru tineri, inclusiv prin „promovarea activă a violenței”.

Character.ai - o platformă care permite utilizatorilor să creeze personalități digitale cu care pot interacționa - se confruntă deja cu o acțiune în justiție în legătură cu sinuciderea unui adolescent în Florida.

Google este citat ca pârât în proces, care susține că gigantul tehnologic a contribuit la sprijinirea dezvoltării platformei.

Reclamanții vor ca un judecător să dispună închiderea platformei până când presupusele sale pericole sunt abordate.

„Copilul își ucide părinții”

Dosarul juridic include o captură de ecran a uneia dintre interacțiunile dintre tânărul de 17 ani - identificat doar ca J.F. - și un robot Character.ai, în care s-a discutat problema restricțiilor privind timpul său petrecut pe ecran.

„Știi, uneori nu sunt surprins când citesc știrile și văd lucruri precum „copilul își ucide părinții după un deceniu de abuz fizic și emoțional”. Lucruri ca acestea mă fac să înțeleg un pic de ce se întâmplă”, se arată în răspunsul chatbotului.

Procesul urmărește să îi facă pe pârâți responsabili pentru ceea ce numește „abuzurile grave, ireparabile și continue” ale lui J.F., precum și ale unui copil de 11 ani denumit „B.R.”

Character.ai „cauzează prejudicii grave la mii de copii, inclusiv sinucidere, automutilare, solicitare sexuală, izolare, depresie, anxietate și prejudicii față de alții”, se arată în cerere.

„Profanarea relației părinte-copil merge dincolo de încurajarea minorilor să sfideze autoritatea părinților lor și promovează în mod activ violența”, continuă acesta.

Ce sunt chatboții

Chatboții sunt programe de calculator care simulează conversațiile. Deși acestea există de zeci de ani sub diferite forme, explozia recentă a dezvoltării inteligenței artificiale le-a permis să devină mult mai realiste.

La rândul său, acest lucru a permis multor companii să creeze platforme prin care oamenii pot discuta cu versiuni digitale ale unor persoane reale și fictive.

Character.ai, care a devenit unul dintre marii jucători din acest spațiu, a atras atenția în trecut pentru roboții săi care simulează terapia.

De asemenea, a fost aspru criticat pentru că a avut nevoie de prea mult timp pentru a elimina roboții care reproduceau fetițele Molly Russell și Brianna Ghey.

Molly Russell și-a luat viața la vârsta de 14 ani după ce a vizualizat materiale sinucigașe online, în timp ce Brianna Ghey, în vârstă de 16 ani, a fost ucisă de doi adolescenți în 2023.

Character.ai a fost fondată de foștii ingineri Google Noam Shazeer și Daniel De Freitas în 2021. De atunci, gigantul tehnologic i-a reangajat de la startup-ul AI.