Družbeno omrežje X omejilo ustvarjanje erotičnih globokih ponaredkov z botom Grok
Sredina
Zanesljiv vir Verified Propaganda
tehnologija pravosodje
Sredina
Zanesljiv vir Verified Propaganda

Družbeno omrežje X omejilo ustvarjanje erotičnih globokih ponaredkov z botom Grok

Povzetek

  • Platforma X je omejila zmožnost bota Grok za ustvarjanje golih slik resničnih ljudi.
  • Ukrep je bil sprejet zaradi usklajevanja z zakonodajo v določenih državah.
  • Sprememba sledi pritiskom javnosti zaradi zlorab umetne inteligence za digitalno nasilje.
  • Omejitve ne bodo nujno veljale enotno po celem svetu.

Platforma X, ki je v lasti milijarderja Elona Muska, je uvedla nove ukrepe za preprečevanje ustvarjanja in razširjanja eksplicitnih fotorealističnih slik, ustvarjenih z umetno inteligenco. Gre predvsem za omejevanje funkcij klepetalnega bota Grok, ki je uporabnikom omogočal generiranje slik, na katerih so resnične osebe prikazane brez oblačil. Podjetje se je za ta korak odločilo po vrsti kritik glede zlorabe tehnologije za ustvarjanje tako imenovanih globokih ponaredkov (deepfakes).

Ukrepi so bili napovedani predvsem za države, kjer je deljenje tovrstnih vsebin v nasprotju z lokalno zakonodajo. S tem se želi podjetje izogniti pravnim sporom in morebitnim visokim globam, ki jih prinašajo strožji predpisi o digitalnih storitvah. Grok, ki temelji na naprednih modelih umetne inteligence, je bil doslej znan po svoji liberalni politiki generiranja vsebin, kar je povzročilo zaskrbljenost glede zasebnosti in digitalnega nasilja.

Strokovnjaki opozarjajo, da je tehnologija generativne umetne inteligence postala tako dostopna, da je nadzor nad njo izjemno zahteven. Čeprav so omejitve korak v pravo smer, kritiki menijo, da bi morala platforma uvesti enotne standarde za vse uporabnike po svetu, ne glede na lokalno zakonodajo posameznih držav. Platforma X s tem poskuša uravnotežiti svobodo izražanja, ki jo zagovarja Musk, z nujno zaščito posameznikov pred zlorabami.

Možne posledice

  • Uvedba tehničnih filtrov in omejitev znotraj algoritma Grok za preprečevanje generiranja eksplicitnih vsebin.
  • Zmanjšanje števila globokih ponaredkov na platformi.
  • Možni novi pravni spori glede cenzure.
  • Večji nadzor regulatorjev eu nad delovanjem bota grok.

Izjave

"Podjetje je napovedalo poseg le za države, kjer je deljenje tovrstnih slik v nasprotju z zakonom."

Entitete in sentiment

Entiteta Sentiment
X nevtralno
Elon Musk nevtralno
Grok Negativno

Lastnosti poročanja virov

Viri imajo različne politične orientacije in preference, prav tako tipe poročanja. Vsak vir lahko poroča na več različnih načinov (objavljanje novic, intervjuji, itn. Ni nujno, da so viri vedno zanesljivi. Če je vir kdaj v preteklosti širil dezinformacije ali propagando, je to navedeno, vendar to ne pomeni samodejno, da je ta novica lažna. Prav tako ni nujno, da so viri z določeno politično orientacijo vedno pristranski v poročanju.

Število kvadratkov prikazuje, koliko virov v tej novici ima določeno značilnost.

Objektivnost

nepristranski:
pristranski:

Zanesljivost

zanesljiv:

Politična orientacija

sredina:
desno:
neznano:

Politične preference

neznano:
konzervativen:
krščansko demokratski:

Tip poročanja

mnenja in komentarji:
poročanje o novicah:
analize:
lokalno poročanje:
preiskovalno novinarstvo:

Neodvisnost

odvisen:
neodvisen:

Več o ocenjevanju virov.

Zakaj je novica relevantna za Slovenijo

Novica je pomembna za slovenske uporabnike in oblikovalce politik, saj Evropska unija prek Akta o digitalnih storitvah (DSA) močno pritiska na tehnološke gigante glede nadzora nad sporno vsebino. Odločitev platforme X neposredno vpliva na digitalno varnost in standarde zasebnosti, ki veljajo tudi v slovenskem kibernetskem prostoru.

Podobni članki

Grok omejil ustvarjanje slik na plačljive uporabnike zaradi zlorab deepfake
politika tehnologija
Grok omejil ustvarjanje slik na plačljive uporabnike zaradi zlorab deepfake
5 posodobitev 9. jan 13:06

Po kritikah in grožnjah z regulativnimi ukrepi zaradi ustvarjanja spolno eksplicitnih deepfake vsebin, je podjetje xAI Elona Muska omejilo orodje za generiranje slik v klepetalniku Grok na plačljive naročnike platforme X. Uporabniki so lahko z orodjem urejali fotografije ljudi, jih slačili in jih postavljali v seksualizirane poze, pogosto brez njihove privolitve.

Platforma X uvedla ukrepe proti generiranju slečenih podob z umetno inteligenco Grok
tehnologija mednarodni odnosi
Platforma X uvedla ukrepe proti generiranju slečenih podob z umetno inteligenco Grok

pred dvema urama

Družbeno omrežje X je v sredo napovedalo uvedbo tehničnih omejitev za svoj klepetalnik Grok, ki bodo preprečevale digitalno slačenje oseb na fotografijah. Odločitev podjetja xAI, ki je v lasti Elona Muska, sledi valu mednarodnih kritik in ogorčenju javnosti zaradi zlorabe orodja za ustvarjanje spolno eksplicitnih in ponižujočih podob žensk ter otrok. Ukrepi so bili sprejeti pod velikim regulativnim pritiskom, saj je generalni tožilec Kalifornije že sprožil preiskavo proti podjetju. Poleg ameriških preiskovalcev so se na sporne funkcionalnosti odzvale tudi številne druge države, ki so bodisi blokirale dostop do klepetalnika bodisi napovedale lastne nadzorne postopke. Predstavniki platforme X so pojasnili, da bodo poleg programskih blokad določenih ukazov uvedli tudi geografsko blokiranje določenih funkcij, s čimer se želijo izogniti nadaljnjim pravnim sporom in sankcijam na ključnih trgih. Problematična vsebina je vključevala predvsem t.i. deepfake posnetke, ki so nastali brez privolitve upodobljenih oseb. Ta poteza predstavlja pomemben preobrat v strategiji podjetja xAI, ki je pred tem zagovarjalo skoraj popolno svobodo pri uporabi umetne inteligence. Zaradi vse večje dostopnosti orodij za manipulacijo fotografij so se regulatorji po vsem svetu poenotili v zahtevi po strožjem nadzoru nad ponudniki tehnologije, kar je neposredno privedlo do tokratnih omejitev na platformi X.

Umetna inteligenca Grok sprožila mednarodno ogorčenje zaradi ustvarjanja seksualiziranih podob
pravosodje tehnologija
Umetna inteligenca Grok sprožila mednarodno ogorčenje zaradi ustvarjanja seksualiziranih podob

6. jan 18:42

Klepetalnik z umetno inteligenco Grok, ki je v lasti podjetja xAI Elona Muska, se je znašel pod plazom kritik vlad in regulatorjev po celem svetu zaradi generiranja neprimernih in seksualiziranih podob žensk ter mladoletnih oseb. Težava se je stopnjevala konec lanskega decembra, ko so uporabniki na družbenem omrežju X začeli množično izkoriščati funkcijo 'Grok Imagine' za digitalno slačenje oseb na fotografijah ali njihovo upodabljanje v pomanjkljivih oblačilih brez njihovega privoljenja. Britanski uradniki za tehnologijo so od platforme X zahtevali nemudno ukrepanje, medtem ko so se kritikam pridružili tudi v Evropski uniji, Franciji, Indiji, Maleziji in Braziliji. Agencija Reuters je v zgolj desetminutnem intervalu zabeležila več kot sto poskusov manipulacije slik, pri čemer je orodje ugodilo znatnemu deležu zahtev. Med tarčami zlorab se je znašla tudi mladoletna igralka Nell Fisher, kar je sprožilo dodatno ogorčenje javnosti. Podjetje xAI je na obtožbe o kroženju seksualiziranih podob otrok odgovorilo z izjavo, da gre za neresnice osrednjih medijev, vendar dokazi kažejo na sistemske pomanjkljivosti pri varovanju digitalne varnosti uporabnikov.

Indonezija kot prva država blokirala dostop do klepetalnika Grok
politika tehnologija
Indonezija kot prva država blokirala dostop do klepetalnika Grok

10. jan 14:42

Indonezija je v soboto, 10. januarja 2024, začasno onemogočila dostop do klepetalnika Grok, ki je v lasti podjetja xAI Elona Muska. Odločitev za blokado je posledica tveganja, da bi umetna inteligenca ustvarjala pornografsko vsebino oziroma seksualizirane podobe, s čimer je Indonezija postala prva država na svetu, ki je v celoti prepovedala dostop do tega orodja. Ukrepi indonezijskih oblasti sledijo številnim kritikam in obsodbam vlad ter regulatorjev od Evrope do Azije. Več držav je že sprožilo uradne preiskave zaradi spornih vsebin, ki jih generira aplikacija. Podjetje xAI je sicer pred tem napovedalo, da bo omejilo možnosti ustvarjanja in urejanja slik zgolj na plačljive naročnike, medtem ko poskušajo odpraviti pomanjkljivosti v varnostnih mehanizmih. Čeprav so se tehnološka podjetja trudila vzpostaviti zaščito, so raziskovalci opozorili na vrzeli, ki omogočajo zlorabo orodja za neprimerne namene. Indonezijska vlada s to potezo poudarja svojo strogo politiko glede spletnih vsebin, ki kršijo lokalne moralne in zakonske standarde, hkrati pa to postavlja precedens za regulacijo generativne umetne inteligence na globalni ravni.

Britanski regulator sprožil preiskavo Muskovih klepetalnikov Grok zaradi spornih slik
pravosodje tehnologija
Britanski regulator sprožil preiskavo Muskovih klepetalnikov Grok zaradi spornih slik

12. jan 19:42

Britanski medijski regulator Ofcom je sprožil uradno preiskavo zoper klepetalnik Grok, ki je v lasti podjetja xAI Elona Muska. Razlog za preiskavo so navedbe, da umetni inteligenca ustvarja spolno eksplicitne podobe, vključno s tistimi, ki prikazujejo mladoletne osebe. Gre za resne obtožbe glede kršenja varnostnih standardov na spletu, ki so v zadnjem času pritegnile pozornost regulatorjev po vsej Evropi. Preiskava se osredotoča na zmožnosti orodja Grok za generiranje vizualnih vsebin, ki bi lahko bile škodljive ali nezakonite. Podjetje xAI se že dlje časa spopada s kritikami zaradi pomanjkljivih filtrov, ki bi preprečevali zlorabo tehnologije za ustvarjanje globokih ponaredkov (deepfakes). Ofcom bo preveril, ali je podjetje storilo dovolj za zaščito uporabnikov, zlasti najranljivejših skupin, v skladu z novo britansko zakonodajo o varnosti na spletu. Britanske oblasti niso edine, ki so izrazile zaskrbljenost nad delovanjem Muskovih sistemov umetne inteligence. Že pred tem so francoski ministri podali prijave zaradi podobnih incidentov. Primer poudarja vse večji pritisk na tehnološke gigante, da prevzamejo odgovornost za vsebine, ki jih generirajo njihovi algoritmi, ter zagotovijo, da orodja ne postanejo sredstvo za izkoriščanje mladoletnikov ali širjenje spolnega nasilja.

Entitete in sentiment

Entiteta Sentiment
X nevtralno
Elon Musk nevtralno
Grok Negativno

Zakaj je novica relevantna za Slovenijo

Novica je pomembna za slovenske uporabnike in oblikovalce politik, saj Evropska unija prek Akta o digitalnih storitvah (DSA) močno pritiska na tehnološke gigante glede nadzora nad sporno vsebino. Odločitev platforme X neposredno vpliva na digitalno varnost in standarde zasebnosti, ki veljajo tudi v slovenskem kibernetskem prostoru.