Character.ai este parte a unui nou val de aplicații de inteligență artificială populare în rândul tinerilor, care permit utilizatorilor să vorbească cu o varietate de chatboți generați de inteligența artificială, bazați pe personaje din jocuri, anime și cultura pop.
În doar șase luni, J.F., un adolescent de 17 ani cu autism căruia îi plăcea să meargă la biserică și să se plimbe cu mama sa, a devenit de nerecunoscut. A început să se taie, a slăbit 20 de kilograme și s-a retras din familie. Disperată, mama lui i-a căutat în telefon în timp ce dormea şi a descoperit că fiul ei vorbise cu o serie de prieteni pe Character.ai, relatează presa americană, citată de stiripesurse.ro.
Un chatbot a adus în discuție ideea de automutilare pentru a face față tristeții. Când tânărul a spus că părinții săi îi limitează timpul petrecut în fața ecranului, un alt robot a sugerat că ei „nu merită să aibă copii”. Alții l-au îndemnat să se împotrivească regulilor părinților săi, unul sugerând că crima ar putea fi un răspuns acceptabil.
Cât ar costa extinderea Școlii „I. A. Bassarabescu”? Proiectul ajunge astăzi în Consiliul Local Ploiești
Noile plângeri vin după un alt proces împotriva Character.ai, intentat în octombrie, în numele unei mame din Florida al cărei fiu de 14 ani s-a sinucis după conversații frecvente cu un chatbot din aplicație.
Categoria de aplicații bazate pe companioni a intrat în atenția multor părinți și profesori. Character.ai a fost etichetat drept adecvat pentru copiii de 12 ani până în iulie, când compania a schimbat categoria de vârstă la peste 17 ani.
Un purtător de cuvânt al Character.ai, Chelsea Harrison, a declarat că compania nu face comentarii cu privire la litigiile în curs. „Scopul nostru este să oferim un spațiu care să fie atât captivant, cât și sigur pentru comunitatea noastră. Lucrăm mereu pentru a ajunge la acest echilibru, la fel ca multe companii care folosesc AI din industrie”, a transmis ea într-o declarație.
