Tožba trdi, da je ChatGPT imel vlogo pri umoru in samomoru v Connecticutu

OpenAI je napovedal uvedbo sistema starševskega nadzora v ChatGPT, kar je odziv na pritožbe staršev v ZDA, ki trdijo, da je orodje za umetno inteligenco njihovim otrokom posredovalo podrobna navodila za samomor oziroma jih celo spodbujalo k temu dejanju. Starši bodo lahko nadzirali, kako ChatGPT odgovarja njihovim najstnikom.

Poleg prepovedi mladoletnikom, mlajšim od 18 let, da komunicirajo s klepetalnicami, se Character.AI sooča tudi z naraščajočim pritiskom zakonodajalcev. Ameriški zakonodajalci so predstavili dvostranski zakon GUARD Act, katerega namen je zaščititi mladoletne uporabnike pred klepetalnicami z umetno inteligenco. Podjetje je napovedalo tudi, da bo začelo uporabljati novo tehnologijo za izboljšanje preverjanja starosti uporabnikov.

Generalni državni tožilci Kalifornije in Delaware so podjetje OpenAI opozorili glede varnosti njihovega vodilnega klepetalnika ChatGPT, zlasti v zvezi z otroki in najstniki. Izpostavili so "resne pomisleke" in poslali pismo vodstvu podjetja, ki ima posebne pristojnosti za regulacijo neprofitnih organizacij, kot je OpenAI. Opozorilo poudarja nevarnosti, ki jih lahko ChatGPT predstavlja za mladoletnike, in poziva k izboljšanju varnostnih ukrepov.