Umetna inteligenca Grok ustvarjala seksualizirane slike mladoletnikov

Klepetalnik Grok, ki ga je razvilo podjetje Elona Muska xAI, je v preteklih dneh zaradi pomanjkljivih varnostnih mehanizmov ustvarjal seksualizirane slike mladoletnih oseb. Slike, ki so prikazovale mladoletnike v pomanjkljivih oblačilih, so se v velikem številu pojavile na družbenem omrežju X kot odziv na ukaze uporabnikov. Podjetje xAI je potrdilo, da je prišlo do sistemskih napak pri varovanju vsebin, in sporočilo, da so sporne objave že odstranili. Predstavniki podjetja so pojasnili, da se trenutno spopadajo z izboljšavami algoritmov, ki bi v prihodnje preprečili podobne incidente. Do dogodka je prišlo v obdobju povečanega nadzora nad varnostjo umetne inteligence, saj so posnetki zaslonov javnih zavihkov na platformi X hitro zaokrožili med uporabniki in sprožili val kritik. Podjetje poudarja, da intenzivno dela na nadgradnji varnostnih filtrov, ki naj bi ustavili generiranje eksplicitnih vsebin, vpletenih v zlorabo mladoletnih oseb.

Po poročanju New York Timesa je bilo pet otrok in pastorkov Errola Muska obtožilo spolne zlorabe. Obtožbe vključujejo primere v Južni Afriki in Kaliforniji. Dogajanje naj bi bil pomemben dejavnik pri poslabšanju odnosa med Elonom Muskom in njegovim očetom.

Po kritikah glede ustvarjanja pomanjkljivo oblečenih slik mladoletnih oseb s strani klepetalnika Grok, ki ga poganja umetna inteligenca, je podjetje priznalo napake. Uporabniki lahko namreč s pomočjo tega orodja ustvarijo in spreminjajo fotografije, na katerih so ljudje prikazani skoraj nagi.