Podjetje Elona Muska omejilo generiranje opolzkih slik z umetno inteligenco Grok

Britanski medijski regulator Ofcom je sprožil uradno preiskavo proti družbenemu omrežju X v lasti milijarderja Elona Muska. Preiskava se osredotoča na orodje za ustvarjanje slik z umetno inteligenco Grok, saj obstajajo sumi, da platforma s kršenjem digitalne zakonodaje omogoča generiranje spornih in seksističnih vsebin. Britanske oblasti preverjajo, ali podjetje X izpolnjuje svoje obveznosti glede varovanja uporabnikov in preprečevanja razširjanja škodljivih vsebin. Preiskava sledi številnim poročilom o zlorabah orodja Grok, ki naj bi brez ustreznih omejitev ustvarjalo žaljive podobe. To je prvi primer, ko se je posamezna država tako neposredno in uradno odzvala na tveganja, ki jih prinaša Muskov model generativne umetne inteligence. Regulator bo v okviru postopka preučil varnostne protokole platforme in ocenil, ali so bili kršeni novi zakoni o spletni varnosti, ki od tehnoloških velikanov zahtevajo strožji nadzor nad algoritmi. Morebitne posledice za platformo X so lahko precejšnje, saj britanska zakonodaja predvideva visoke denarne kazni za podjetja, ki ne ravnajo v skladu z določili o digitalnih storitvah. Elon Musk se s svojo platformo že dlje časa spopada z očitki o pomanjkljivem moderiranju vsebin, ta preiskava pa predstavlja dodaten pritisk na podjetje v okviru vse strožje evropske in britanske regulacije tehnološkega sektorja.

Družbeno omrežje X je v sredo napovedalo uvedbo tehničnih omejitev za svoj klepetalnik Grok, ki bodo preprečevale digitalno slačenje oseb na fotografijah. Odločitev podjetja xAI, ki je v lasti Elona Muska, sledi valu mednarodnih kritik in ogorčenju javnosti zaradi zlorabe orodja za ustvarjanje spolno eksplicitnih in ponižujočih podob žensk ter otrok. Ukrepi so bili sprejeti pod velikim regulativnim pritiskom, saj je generalni tožilec Kalifornije že sprožil preiskavo proti podjetju. Poleg ameriških preiskovalcev so se na sporne funkcionalnosti odzvale tudi številne druge države, ki so bodisi blokirale dostop do klepetalnika bodisi napovedale lastne nadzorne postopke. Predstavniki platforme X so pojasnili, da bodo poleg programskih blokad določenih ukazov uvedli tudi geografsko blokiranje določenih funkcij, s čimer se želijo izogniti nadaljnjim pravnim sporom in sankcijam na ključnih trgih. Problematična vsebina je vključevala predvsem t.i. deepfake posnetke, ki so nastali brez privolitve upodobljenih oseb. Ta poteza predstavlja pomemben preobrat v strategiji podjetja xAI, ki je pred tem zagovarjalo skoraj popolno svobodo pri uporabi umetne inteligence. Zaradi vse večje dostopnosti orodij za manipulacijo fotografij so se regulatorji po vsem svetu poenotili v zahtevi po strožjem nadzoru nad ponudniki tehnologije, kar je neposredno privedlo do tokratnih omejitev na platformi X.

Elon Musk, lastnik družbenega omrežja X, je podprl predlog o znatnem zvišanju izplačil ustvarjalcem vsebin, s čimer želi platforma postati neposredna konkurenca storitvi YouTube podjetja Alphabet. Musk je na predlog uporabnika, naj X ponudi celo višja plačila od Googlove podružnice za privabljanje izvirnih vsebin, odgovoril pritrdilno, vendar ob tem poudaril nujnost vzpostavitve strogih varoval proti zlorabam in manipulacijam sistema. Odločitev prihaja v času, ko Musk priznava, da so trenutni zaslužki na njegovi platformi nižji v primerjavi s konkurenčnimi ponudniki. Kljub ambicioznim načrtom pa največji svetovni ustvarjalec na YouTubu, MrBeast, opozarja, da bo premagovanje YouTubovega uveljavljenega monetizacijskega stroja izjemno težavno, saj gre za trenutno najboljšo platformo na tem področju. Musk hkrati razvija X v tako imenovano 'aplikacijo za vse', ki bo vključevala tudi finančne storitve in sistem plačevanja X Money v sodelovanju z Viso. Čeprav Musk ohranja naklonjenost kriptovalutam, nove finančne storitve za zdaj ne vključujejo neposredne integracije bitcoina ali dogecoina, se pa pričakuje postopna uvedba plačilnih funkcij po posameznih ameriških zveznih državah.