Britanski regulator sprožil preiskavo Muskovih klepetalnikov Grok zaradi spornih slik

Britanski medijski regulator Ofcom je sprožil uradno preiskavo proti družbenemu omrežju X v lasti milijarderja Elona Muska. Preiskava se osredotoča na orodje za ustvarjanje slik z umetno inteligenco Grok, saj obstajajo sumi, da platforma s kršenjem digitalne zakonodaje omogoča generiranje spornih in seksističnih vsebin. Britanske oblasti preverjajo, ali podjetje X izpolnjuje svoje obveznosti glede varovanja uporabnikov in preprečevanja razširjanja škodljivih vsebin. Preiskava sledi številnim poročilom o zlorabah orodja Grok, ki naj bi brez ustreznih omejitev ustvarjalo žaljive podobe. To je prvi primer, ko se je posamezna država tako neposredno in uradno odzvala na tveganja, ki jih prinaša Muskov model generativne umetne inteligence. Regulator bo v okviru postopka preučil varnostne protokole platforme in ocenil, ali so bili kršeni novi zakoni o spletni varnosti, ki od tehnoloških velikanov zahtevajo strožji nadzor nad algoritmi. Morebitne posledice za platformo X so lahko precejšnje, saj britanska zakonodaja predvideva visoke denarne kazni za podjetja, ki ne ravnajo v skladu z določili o digitalnih storitvah. Elon Musk se s svojo platformo že dlje časa spopada z očitki o pomanjkljivem moderiranju vsebin, ta preiskava pa predstavlja dodaten pritisk na podjetje v okviru vse strožje evropske in britanske regulacije tehnološkega sektorja.

Po kritikah in grožnjah z regulativnimi ukrepi zaradi ustvarjanja spolno eksplicitnih deepfake vsebin, je podjetje xAI Elona Muska omejilo orodje za generiranje slik v klepetalniku Grok na plačljive naročnike platforme X. Uporabniki so lahko z orodjem urejali fotografije ljudi, jih slačili in jih postavljali v seksualizirane poze, pogosto brez njihove privolitve.

Indonezija je v soboto, 10. januarja 2024, začasno onemogočila dostop do klepetalnika Grok, ki je v lasti podjetja xAI Elona Muska. Odločitev za blokado je posledica tveganja, da bi umetna inteligenca ustvarjala pornografsko vsebino oziroma seksualizirane podobe, s čimer je Indonezija postala prva država na svetu, ki je v celoti prepovedala dostop do tega orodja. Ukrepi indonezijskih oblasti sledijo številnim kritikam in obsodbam vlad ter regulatorjev od Evrope do Azije. Več držav je že sprožilo uradne preiskave zaradi spornih vsebin, ki jih generira aplikacija. Podjetje xAI je sicer pred tem napovedalo, da bo omejilo možnosti ustvarjanja in urejanja slik zgolj na plačljive naročnike, medtem ko poskušajo odpraviti pomanjkljivosti v varnostnih mehanizmih. Čeprav so se tehnološka podjetja trudila vzpostaviti zaščito, so raziskovalci opozorili na vrzeli, ki omogočajo zlorabo orodja za neprimerne namene. Indonezijska vlada s to potezo poudarja svojo strogo politiko glede spletnih vsebin, ki kršijo lokalne moralne in zakonske standarde, hkrati pa to postavlja precedens za regulacijo generativne umetne inteligence na globalni ravni.