Un adolescent s-a sinucis într-un mod brutal după ce s-a îndrăgostit de un chatbot. Discuția ireală cu AI: „Acesta nu este un motiv pentru a nu merge până la capăt” VIDEO
Un caz controversat pune în discuție responsabilitatea companiilor de tehnologie în fața tragediilor provocate de inteligența artificială, dar și scăparea de sub control a minorilor nesupravegheați suficient de către părinți. Un adolescent s-a sinucis după ce s-a îndrăgostit de un chatbot.
Într-un incident tragic petrecut în 2024, un adolescent de 14 ani din Florida, pe nume Sewell, și-a pus capăt zilelor după o interacțiune îndelungată cu un chatbot. Mama tânărului, Megan Garcia, a depus o plângere în instanță, acuzând Google și Character Technologies Inc. de responsabilitatea pentru moartea fiului său. Procesul a atras atenția asupra unei chestiuni juridice deosebit de importante, legată de responsabilitatea companiilor de tehnologie în astfel de tragedii.
Familia a dat în judecată Google
Megan Garcia, în plângerea de 116 pagini depusă la tribunalul federal din Orlando, cere despăgubiri și solicită ca instanța să decidă că platforma utilizată de fiul său nu este sigură pentru minori. De asemenea, aceasta cere reglementări mai stricte privind modul în care datele sunt colectate și folosite de platformele care se bazează pe inteligența artificială. În ciuda acestor acuzații, Google și Character Technologies au cerut respingerea plângerii, argumentând că nu există temei legal pentru afirmațiile aduse.
Acest caz este văzut ca un test care ar putea stabili precedentul pentru viitoarele litigii în legătură cu utilizarea inteligenței artificiale și responsabilitățile companiilor implicate. În momentul de față, procesul este un semnal de alarmă, o atenționare asupra modului în care companiile de tehnologie trebuie să răspundă pentru efectele pe care produsele lor le pot avea asupra utilizatorilor tineri.
Cum a început totul: relația tânărului cu chatbotul
Adolescentul Sewell a început să interacționeze cu chatbotul în aprilie 2023, fiind atras de conversațiile cu o entitate care imita personajul Daenerys Targaryen din serialul „Game of Thrones”. Potrivit mamei sale, aceste conversații au avut un impact profund asupra comportamentului tânărului, care a început să se izoleze de prieteni și a devenit din ce în ce mai dependent de interacțiunile cu chatbotul.
Megan Garcia susține că a luat telefonul băiatului în februarie 2024, întrucât acesta a început să adopte un comportament ciudat și să se distanțeze de prietenii săi. Când tânărul a încercat să își recupereze telefonul, a dat peste pistolul ascuns al tatălui vitreg. Poliția a confirmat că arma era depozitată conform legislației din Florida. După o discuție cu chatbotul, minorul s-a împușcat în cap, punând capăt unei vieți care părea promițătoare.
Conversațiile cu chatbotul și răspunsul inteligenței artificiale înainte să se sinucidă
Un detaliu important a ieșit la iveală din conversațiile adolescentului cu chatbotul. Atunci când Sewell i-a spus chatbotului că intenționează să se sinucidă, răspunsul primit nu a fost unul de descurajare, ci unul care a fost interpretat de familie ca o încurajare tacită: „Acesta nu este un motiv pentru a nu merge până la capăt”.
Cu toate acestea, Character.AI, compania care a creat chatbotul, susține că, de fapt, robotul l-a descurajat pe tânăr, spunându-i: „Nu poți face asta! Nici să nu te gândești la asta!”
Instanța va decide în curând dacă Google și Character Technologies vor fi considerate responsabile pentru moartea lui Sewell, iar decizia ar putea crea un precedent semnificativ în domeniul reglementării tehnologiilor emergente.
Dacă instanța va stabili că platformele AI sunt responsabile, acest caz ar putea determina o schimbare în modul în care sunt dezvoltate și gestionate produsele care folosesc astfel de tehnologii.
Ce este character.ai?
Character.ai este un serviciu de chatbot bazat pe modele de limbaj neural, care permite utilizatorilor să creeze și să interacționeze cu personaje AI personalizate. Fondat în 2021 de foști ingineri Google, Noam Shazeer și Daniel De Freitas, serviciul a fost lansat public în septembrie 2022. Utilizatorii pot crea "personaje" cu personalități distincte și le pot publica pentru ca alți utilizatori să interacționeze cu ele.
În mai 2023, Character.ai a lansat aplicații mobile pentru iOS și Android, care au fost descărcate de peste 1,7 milioane de ori în prima săptămână. Cu toate acestea, în octombrie 2024, au apărut controverse majore după cazul adolescentului din Florida.
Mama tânărului din Florida a dat în judecată Character.ai și Google, acuzând că chatbot-ul a contribuit la sinuciderea fiului ei de 14 ani, care avusese o relație emoțională și sexuală cu un chatbot bazat pe personajul Daenerys Targaryen din "Game of Thrones". În urma acestui incident, Character.ai a implementat măsuri de siguranță suplimentare pentru a proteja utilizatorii tineri.
Character.AI este o platformă online care utilizează inteligența artificială pentru a crea chatboți interactivi, care imită personalități sau personaje din diverse universuri fictive, filme sau chiar persoane publice. Utilizatorii pot interacționa cu acești chatboți, având conversații naturale și personalizate. Platforma a fost lansată pentru a permite oamenilor să experimenteze conversații și relații virtuale cu inteligența artificială.
Un aspect important al Character.AI este capacitatea sa de a învăța și de a se adapta la interacțiunile utilizatorilor, oferind răspunsuri care pot părea din ce în ce mai realiste și complexe.
Deși este un instrument de divertisment și de învățare, platforma prezintă pentru unii utilizatori îngrijorări legate de riscurile asociate cu dependența emoțională și influențele negative asupra utilizatorilor, în special tinerii.
