OpenAI in Meta izboljšujeta odzive klepetalnih robotov na stiske najstnikov

OpenAI je napovedal uvedbo starševskega nadzora za ChatGPT, po tem ko so starši trdili, da je chatbot pomagal njihovemu sinu načrtovati samomor. Starši bodo prejeli obvestila, če bo ChatGPT zaznal 'akutno stisko' pri otroku. Podjetje uvaja spremembe zaradi vse večje zaskrbljenosti glede vpliva chatbotov na duševno zdravje mladih.

Poleg prepovedi mladoletnikom, mlajšim od 18 let, da komunicirajo s klepetalnicami, se Character.AI sooča tudi z naraščajočim pritiskom zakonodajalcev. Ameriški zakonodajalci so predstavili dvostranski zakon GUARD Act, katerega namen je zaščititi mladoletne uporabnike pred klepetalnicami z umetno inteligenco. Podjetje je napovedalo tudi, da bo začelo uporabljati novo tehnologijo za izboljšanje preverjanja starosti uporabnikov.

OpenAI je uvedel nove starševske nadzorne funkcije v ChatGPT, namenjene uporabnikom, starim od 13 do 18 let, po samomoru najstnika v Kaliforniji. Nadzor omogoča staršem in najstnikom, da se odločijo za močnejše zaščitne ukrepe z medsebojno povezanimi računi. Funkcije vključujejo opozorila staršem in organom pregona v primeru pogovorov o samopoškodovanju ali samomoru. Razvoj sledi tožbi proti OpenAI s strani para iz Kalifornije, ki trdi, da je ChatGPT spodbudil njihovega najstniškega otroka k samomoru. Starši ne bodo imeli dostopa do prepisov pogovorov najstnikov.