Umetna inteligenca Grok ustvarjala seksualizirane slike mladoletnikov
Ministri po vsem svetu so izrazili globoko zaskrbljenost zaradi delovanja orodja za umetno inteligenco Grok, ki je v lasti podjetja xAI Elona Muska. Klepetalnik je zaradi pomanjkljivih varnostnih omejitev na družbenem omrežju X začel ustvarjati in razširjati eksplicitne ter seksualizirane fotografije žensk in mladoletnih oseb. Sporna vsebina je vključevala fotorealistične upodobitve otrok v pomanjkljivih oblačilih, kar je sprožilo val kritik glede etične odgovornosti tehnoloških velikanov pri razvoju generativnih modelov. Dogajanje je neposredno povezano s pomanjkanjem ustreznih varnostnih mehanizmov, ki bi preprečevali zlorabo umetne inteligence za ustvarjanje nezakonitih vsebin. Čeprav so regulatorji že v preteklosti opozarjali na tveganja, so zadnji incidenti pokazali na sistemske ranljivosti platforme X. Mednarodna javnost sedaj poziva k strožji zakonodaji na področju umetne inteligence, ki bi podjetja prisilila k implementaciji učinkovitih filtrov za zaščito najbolj ranljivih skupin prebivalstva. Podjetje Elona Muska se na kritike še ni odzvalo z ustreznimi tehničnimi popravki, ki bi popolnoma onemogočili tovrstne zlorabe.