Ameriško podjetje prepovedalo uporabo klepetalnih robotov z umetno inteligenco mladoletnikom po samomoru najstnika

Poleg prepovedi mladoletnikom, mlajšim od 18 let, da komunicirajo s klepetalnicami, se Character.AI sooča tudi z naraščajočim pritiskom zakonodajalcev. Ameriški zakonodajalci so predstavili dvostranski zakon GUARD Act, katerega namen je zaščititi mladoletne uporabnike pred klepetalnicami z umetno inteligenco. Podjetje je napovedalo tudi, da bo začelo uporabljati novo tehnologijo za izboljšanje preverjanja starosti uporabnikov.

Skoraj polovica italijanskih najstnikov uporablja umetno inteligenco (UI) za nasvet in tolažbo, kar kaže na naraščajočo vlogo UI v življenjih mladih. Raziskava, ki jo je izvedla organizacija Save the Children v Italiji, je pokazala, da se 41,8 % mladih med 15. in 19. letom obrača na UI v trenutkih žalosti, osamljenosti ali tesnobe. Podobno visok odstotek jih uporablja UI za nasvet pri pomembnih odločitvah glede šole, službe in odnosov. Ugotovitve kažejo, da je UI med mladimi zelo razširjena, saj jo uporablja kar 92,5 % najstnikov v primerjavi s 46,7 % odraslih.

Dokumenti razkrivajo, da je Meta ustavila notranje raziskave o vplivu Facebooka in Instagrama na duševno zdravje, ko so ugotovili negativne rezultate. Podjetje je bilo opozorjeno, da milijoni odraslih stopajo v stik z mladoletniki, da platforme poslabšujejo duševne težave najstnikov in da je vsebina, povezana z motnjami hranjenja, samomorom in spolno zlorabo otrok, pogosto zaznana, a redko odstranjena. Poleg tega je nekdanja vodja varnosti Instagrama zatrdila, da Meta ni stroga do trgovcev z ljudmi. Podjetje naj bi tudi prikrilo rezultate raziskave iz leta 2020, ki je merila vpliv enotedenske neaktivnosti na Facebooku, ki so pokazali izboljšanje počutja.