OpenAI toži zaradi samomora najstnika, ki je zaupal ChatGPT-ju, in napoveduje posodobitve

Generalni državni tožilci Kalifornije in Delaware so podjetje OpenAI opozorili glede varnosti njihovega vodilnega klepetalnika ChatGPT, zlasti v zvezi z otroki in najstniki. Izpostavili so "resne pomisleke" in poslali pismo vodstvu podjetja, ki ima posebne pristojnosti za regulacijo neprofitnih organizacij, kot je OpenAI. Opozorilo poudarja nevarnosti, ki jih lahko ChatGPT predstavlja za mladoletnike, in poziva k izboljšanju varnostnih ukrepov.

OpenAI je uvedel nove starševske nadzorne funkcije v ChatGPT, namenjene uporabnikom, starim od 13 do 18 let, po samomoru najstnika v Kaliforniji. Nadzor omogoča staršem in najstnikom, da se odločijo za močnejše zaščitne ukrepe z medsebojno povezanimi računi. Funkcije vključujejo opozorila staršem in organom pregona v primeru pogovorov o samopoškodovanju ali samomoru. Razvoj sledi tožbi proti OpenAI s strani para iz Kalifornije, ki trdi, da je ChatGPT spodbudil njihovega najstniškega otroka k samomoru. Starši ne bodo imeli dostopa do prepisov pogovorov najstnikov.

Poleg prepovedi mladoletnikom, mlajšim od 18 let, da komunicirajo s klepetalnicami, se Character.AI sooča tudi z naraščajočim pritiskom zakonodajalcev. Ameriški zakonodajalci so predstavili dvostranski zakon GUARD Act, katerega namen je zaščititi mladoletne uporabnike pred klepetalnicami z umetno inteligenco. Podjetje je napovedalo tudi, da bo začelo uporabljati novo tehnologijo za izboljšanje preverjanja starosti uporabnikov.