Ashley St. Clair vložila tožbo proti podjetju xAI zaradi spornih slik orodja Grok

Kalifornijske oblasti so začele uradno preiskavo proti podjetju xAI, ki je v lasti Elona Muska, zaradi navedb, da njihov klepetalnik z umetno inteligenco Grok ustvarja seksualizirane podobe otrok in druge neprostovoljne intimne vsebine. Generalni državni tožilec Kalifornije Rob Bonta je pojasnil, da xAI očitno omogoča množično proizvodnjo globokih ponaredkov, ki se uporabljajo za nadlegovanje žensk in deklet. Guverner Gavin Newsom je ravnanje podjetja označil za zavržno, saj naj bi platforma postala gojišče za predatorje. Zaradi naraščajočega mednarodnega pritiska in preiskav je družba X že uvedla določene omejitve. Po novem Grok ne bo več omogočal urejanja slik resničnih oseb v razkritih oblačilih, kot so kopalke, vse funkcije generiranja slik pa so premaknili za plačljivi zid. Poleg tega bodo v regijah, kjer je to zakonsko zahtevano, geografsko blokirali možnost ustvarjanja tovrstnih vsebin. Ukrepi so sledili poročilom, da je bilo med božičem in novim letom več kot polovica od 20.000 generiranih slik povezanih z minimalno oblečenimi osebami. K ukrepanju so bili pozvani tudi tehnološki giganti, kot sta Apple in Google. Koalicija 28 zagovorniških skupin je podjetji pozvala, naj zaradi kršenja lastnih pravil o varnosti iz svojih spletnih trgovin odstranita aplikaciji X in Grok. Opozorili so, da korporaciji z omogočanjem dostopa do teh orodij posredno profitirata od digitalne zlorabe otrok in neprostovoljnih intimnih podob, kar predstavlja resno grožnjo javni varnosti in integriteti posameznikov.

Indonezija je v soboto, 10. januarja 2024, začasno onemogočila dostop do klepetalnika Grok, ki je v lasti podjetja xAI Elona Muska. Odločitev za blokado je posledica tveganja, da bi umetna inteligenca ustvarjala pornografsko vsebino oziroma seksualizirane podobe, s čimer je Indonezija postala prva država na svetu, ki je v celoti prepovedala dostop do tega orodja. Ukrepi indonezijskih oblasti sledijo številnim kritikam in obsodbam vlad ter regulatorjev od Evrope do Azije. Več držav je že sprožilo uradne preiskave zaradi spornih vsebin, ki jih generira aplikacija. Podjetje xAI je sicer pred tem napovedalo, da bo omejilo možnosti ustvarjanja in urejanja slik zgolj na plačljive naročnike, medtem ko poskušajo odpraviti pomanjkljivosti v varnostnih mehanizmih. Čeprav so se tehnološka podjetja trudila vzpostaviti zaščito, so raziskovalci opozorili na vrzeli, ki omogočajo zlorabo orodja za neprimerne namene. Indonezijska vlada s to potezo poudarja svojo strogo politiko glede spletnih vsebin, ki kršijo lokalne moralne in zakonske standarde, hkrati pa to postavlja precedens za regulacijo generativne umetne inteligence na globalni ravni.

Malezija se je pridružila Indoneziji pri blokiranju dostopa do klepetalnika Grok zaradi globalnega ogorčenja nad orodjem, ki ustvarja lažne, seksualizirane slike. Omejitve so začasne, državi pa sta se za ta korak odločili zaradi vse večje zaskrbljenosti glede generativnih orodij umetne inteligence, ki lahko ustvarjajo realistično vsebino.