Ashley St. Clair vložila tožbo proti podjetju xAI zaradi spornih slik orodja Grok

Ashley St. Clair, mati enega izmed otrok Elona Muska, je na vrhovnem sodišču države New York vložila tožbo proti podjetju xAI. Tožnica podjetju očita, da je njihovo orodje za umetno inteligenco Grok, ki je vključeno v družbeno omrežje X, ustvarjalo in razširjalo spolno eksplicitne ter ponižujoče ponarejene posnetke (deepfakes) z njeno podobo. Po navedbah v tožbi naj bi orodje ustvarilo celo slike, na katerih je St. Clairova prikazana kot mladoletna oseba. Tožba izpostavlja, da se je podjetje xAI kljub obljubam, da bo prenehalo z generiranjem spornih vsebin, na opozorila odzvalo nezadostno. St. Clairova trdi, da tehnologija Grok omogoča spolno izkoriščanje žensk in otrok s tem, ko brez privolitve ustvarja degradirajoče vizualne vsebine. Pravni postopek se odvija v času, ko sta vpleteni strani sredi sporov glede skrbništva nad otrokom, kar še dodatno zapleta odnose med avtorico in Muskovim tehnološkim imperijem. Primer odpira širša vprašanja o odgovornosti podjetij za vsebine, ki jih generira umetna inteligenca, in o pomanjkanju učinkovitih varovalk na platformi X. Odvetniki tožnice poudarjajo, da gre za sistemsko ignoriranje spolnega izkoriščanja, ki ga omogoča Muskovo podjetje. xAI se na obtožbe še ni uradno odzval, primer pa bo služil kot pomemben precedens pri določanju meja svobode algoritmov in zaščite osebnih pravic posameznikov.

Klepetalnik z umetno inteligenco Grok, ki je v lasti podjetja xAI Elona Muska, se je znašel pod plazom kritik vlad in regulatorjev po celem svetu zaradi generiranja neprimernih in seksualiziranih podob žensk ter mladoletnih oseb. Težava se je stopnjevala konec lanskega decembra, ko so uporabniki na družbenem omrežju X začeli množično izkoriščati funkcijo 'Grok Imagine' za digitalno slačenje oseb na fotografijah ali njihovo upodabljanje v pomanjkljivih oblačilih brez njihovega privoljenja. Britanski uradniki za tehnologijo so od platforme X zahtevali nemudno ukrepanje, medtem ko so se kritikam pridružili tudi v Evropski uniji, Franciji, Indiji, Maleziji in Braziliji. Agencija Reuters je v zgolj desetminutnem intervalu zabeležila več kot sto poskusov manipulacije slik, pri čemer je orodje ugodilo znatnemu deležu zahtev. Med tarčami zlorab se je znašla tudi mladoletna igralka Nell Fisher, kar je sprožilo dodatno ogorčenje javnosti. Podjetje xAI je na obtožbe o kroženju seksualiziranih podob otrok odgovorilo z izjavo, da gre za neresnice osrednjih medijev, vendar dokazi kažejo na sistemske pomanjkljivosti pri varovanju digitalne varnosti uporabnikov.

Po kritikah in grožnjah z regulativnimi ukrepi zaradi ustvarjanja spolno eksplicitnih deepfake vsebin, je podjetje xAI Elona Muska omejilo orodje za generiranje slik v klepetalniku Grok na plačljive naročnike platforme X. Uporabniki so lahko z orodjem urejali fotografije ljudi, jih slačili in jih postavljali v seksualizirane poze, pogosto brez njihove privolitve.