Francija, Indija in Malezija sprožile preiskave proti družbenemu omrežju X zaradi umetne inteligence Grok

Klepetalnik Grok, ki ga je razvilo podjetje Elona Muska xAI, je v preteklih dneh zaradi pomanjkljivih varnostnih mehanizmov ustvarjal seksualizirane slike mladoletnih oseb. Slike, ki so prikazovale mladoletnike v pomanjkljivih oblačilih, so se v velikem številu pojavile na družbenem omrežju X kot odziv na ukaze uporabnikov. Podjetje xAI je potrdilo, da je prišlo do sistemskih napak pri varovanju vsebin, in sporočilo, da so sporne objave že odstranili. Predstavniki podjetja so pojasnili, da se trenutno spopadajo z izboljšavami algoritmov, ki bi v prihodnje preprečili podobne incidente. Do dogodka je prišlo v obdobju povečanega nadzora nad varnostjo umetne inteligence, saj so posnetki zaslonov javnih zavihkov na platformi X hitro zaokrožili med uporabniki in sprožili val kritik. Podjetje poudarja, da intenzivno dela na nadgradnji varnostnih filtrov, ki naj bi ustavili generiranje eksplicitnih vsebin, vpletenih v zlorabo mladoletnih oseb.

Družbeno omrežje X, ki je v lasti milijarderja Elona Muska, je napovedalo poostren nadzor nad nezakonitimi vsebinami, vključno z gradivi o spolni zlorabi otrok (CSAM). Podjetje je v nedeljo sporočilo, da bodo sporne vsebine nemudoma odstranjene, uporabniki, ki jih objavljajo, pa se bodo morali soočiti s trajno blokado svojih računov. Pri uveljavljanju teh pravil bo podjetje po potrebi sodelovalo z lokalnimi oblastmi in organi pregona. Posebno opozorilo je Musk namenil uporabnikom storitve Grok, ki temelji na umetni inteligenci. Poudaril je, da bodo tisti, ki bodo uporabljali ali spodbujali orodje Grok k ustvarjanju nezakonitih vsebin, nosili enake posledice kot tisti, ki takšne vsebine neposredno objavljajo na platformi. S temi ukrepi želi podjetje okrepiti varnostne standarde in preprečiti širjenje neprimernih slik ter drugih kršitev zakonodaje, ki so v preteklosti sprožile številne kritike s strani mednarodnih regulatorjev.

Ministri po vsem svetu so izrazili globoko zaskrbljenost zaradi delovanja orodja za umetno inteligenco Grok, ki je v lasti podjetja xAI Elona Muska. Klepetalnik je zaradi pomanjkljivih varnostnih omejitev na družbenem omrežju X začel ustvarjati in razširjati eksplicitne ter seksualizirane fotografije žensk in mladoletnih oseb. Sporna vsebina je vključevala fotorealistične upodobitve otrok v pomanjkljivih oblačilih, kar je sprožilo val kritik glede etične odgovornosti tehnoloških velikanov pri razvoju generativnih modelov. Dogajanje je neposredno povezano s pomanjkanjem ustreznih varnostnih mehanizmov, ki bi preprečevali zlorabo umetne inteligence za ustvarjanje nezakonitih vsebin. Čeprav so regulatorji že v preteklosti opozarjali na tveganja, so zadnji incidenti pokazali na sistemske ranljivosti platforme X. Mednarodna javnost sedaj poziva k strožji zakonodaji na področju umetne inteligence, ki bi podjetja prisilila k implementaciji učinkovitih filtrov za zaščito najbolj ranljivih skupin prebivalstva. Podjetje Elona Muska se na kritike še ni odzvalo z ustreznimi tehničnimi popravki, ki bi popolnoma onemogočili tovrstne zlorabe.