Platforma X uvedla ukrepe proti generiranju slečenih podob z umetno inteligenco Grok
Sredina
Možen dezinfo Verified Propaganda
tehnologija mednarodni odnosi
Sredina
Možen dezinfo Verified Propaganda

Platforma X uvedla ukrepe proti generiranju slečenih podob z umetno inteligenco Grok

Povzetek

  • Platforma X uvaja nove blokade za AI klepetalnik Grok.
  • Ukrepi preprečujejo ustvarjanje slečenih podob resničnih oseb.
  • Odločitev sledi preiskavam v ZDA in grožnjam z blokadami drugod po svetu.
  • V preteklosti so dostop že omejili na plačljive naročnike, a to ni ustavilo zlorab.

Družbeno omrežje X je v sredo napovedalo uvedbo tehničnih omejitev za svoj klepetalnik Grok, ki bodo preprečevale digitalno slačenje oseb na fotografijah. Odločitev podjetja xAI, ki je v lasti Elona Muska, sledi valu mednarodnih kritik in ogorčenju javnosti zaradi zlorabe orodja za ustvarjanje spolno eksplicitnih in ponižujočih podob žensk ter otrok. Ukrepi so bili sprejeti pod velikim regulativnim pritiskom, saj je generalni tožilec Kalifornije že sprožil preiskavo proti podjetju.

Kronologija dogodkov

Poleg ameriških preiskovalcev so se na sporne funkcionalnosti odzvale tudi številne druge države, ki so bodisi blokirale dostop do klepetalnika bodisi napovedale lastne nadzorne postopke. Predstavniki platforme X so pojasnili, da bodo poleg programskih blokad določenih ukazov uvedli tudi geografsko blokiranje določenih funkcij, s čimer se želijo izogniti nadaljnjim pravnim sporom in sankcijam na ključnih trgih. Problematična vsebina je vključevala predvsem t.i. deepfake posnetke, ki so nastali brez privolitve upodobljenih oseb.

Ta poteza predstavlja pomemben preobrat v strategiji podjetja xAI, ki je pred tem zagovarjalo skoraj popolno svobodo pri uporabi umetne inteligence. Zaradi vse večje dostopnosti orodij za manipulacijo fotografij so se regulatorji po vsem svetu poenotili v zahtevi po strožjem nadzoru nad ponudniki tehnologije, kar je neposredno privedlo do tokratnih omejitev na platformi X.

Možne posledice

  • Uvedba tehničnih in geografskih omejitev za preprečevanje zlorab umetne inteligence na platformi X.
  • Strožja regulacija umetne inteligence na globalni ravni.
  • Možen upad priljubljenosti groka med določenimi skupinami uporabnikov.
  • Povečan pritisk na druge ponudnike generativne umetne inteligence.

Izjave

"Platforma X bo uporabila geografsko blokiranje za določene funkcije klepetalnika."

Entitete in sentiment

Entiteta Sentiment
X Negativno
Grok Negativno
Elon Musk nevtralno
XAI Negativno

Lastnosti poročanja virov

Viri imajo različne politične orientacije in preference, prav tako tipe poročanja. Vsak vir lahko poroča na več različnih načinov (objavljanje novic, intervjuji, itn. Ni nujno, da so viri vedno zanesljivi. Če je vir kdaj v preteklosti širil dezinformacije ali propagando, je to navedeno, vendar to ne pomeni samodejno, da je ta novica lažna. Prav tako ni nujno, da so viri z določeno politično orientacijo vedno pristranski v poročanju.

Število kvadratkov prikazuje, koliko virov v tej novici ima določeno značilnost.

Objektivnost

pristranski:

Zanesljivost

zanesljiv:
nezanesljiv:

Politična orientacija

sredina:
leva sredina:
neznano:

Politične preference

provladni:
nacionalističen:
avtoritaren:
propagandističen:
protržni:
neuradno pro-Kitajska perspektiva:
pragmatičen:
konzervativen:
progresiven:
kritičen:

Tip poročanja

poročanje o novicah:
analize:
mnenja in komentarji:
preiskovalno novinarstvo:
propaganda:
intervjuji:

Neodvisnost

odvisen:
neodvisen:

Več o ocenjevanju virov.

Zakaj je novica relevantna za Slovenijo

Novica je relevantna za slovenske uporabnike družbenih omrežij in razvijalce tehnologije, saj platforma X deluje tudi v Sloveniji. Vprašanje varstva osebnih podatkov in preprečevanja deepfake zlorab je del širše evropske razprave o aktu o umetni inteligenci (AI Act), ki neposredno vpliva na digitalno varnost slovenskih državljanov.

Podobni članki

Grok omejil ustvarjanje slik na plačljive uporabnike zaradi zlorab deepfake
politika tehnologija
Grok omejil ustvarjanje slik na plačljive uporabnike zaradi zlorab deepfake
5 posodobitev 9. jan 13:06

Po kritikah in grožnjah z regulativnimi ukrepi zaradi ustvarjanja spolno eksplicitnih deepfake vsebin, je podjetje xAI Elona Muska omejilo orodje za generiranje slik v klepetalniku Grok na plačljive naročnike platforme X. Uporabniki so lahko z orodjem urejali fotografije ljudi, jih slačili in jih postavljali v seksualizirane poze, pogosto brez njihove privolitve.

Umetna inteligenca Grok sprožila mednarodno ogorčenje zaradi ustvarjanja seksualiziranih podob
pravosodje tehnologija
Umetna inteligenca Grok sprožila mednarodno ogorčenje zaradi ustvarjanja seksualiziranih podob

6. jan 18:42

Klepetalnik z umetno inteligenco Grok, ki je v lasti podjetja xAI Elona Muska, se je znašel pod plazom kritik vlad in regulatorjev po celem svetu zaradi generiranja neprimernih in seksualiziranih podob žensk ter mladoletnih oseb. Težava se je stopnjevala konec lanskega decembra, ko so uporabniki na družbenem omrežju X začeli množično izkoriščati funkcijo 'Grok Imagine' za digitalno slačenje oseb na fotografijah ali njihovo upodabljanje v pomanjkljivih oblačilih brez njihovega privoljenja. Britanski uradniki za tehnologijo so od platforme X zahtevali nemudno ukrepanje, medtem ko so se kritikam pridružili tudi v Evropski uniji, Franciji, Indiji, Maleziji in Braziliji. Agencija Reuters je v zgolj desetminutnem intervalu zabeležila več kot sto poskusov manipulacije slik, pri čemer je orodje ugodilo znatnemu deležu zahtev. Med tarčami zlorab se je znašla tudi mladoletna igralka Nell Fisher, kar je sprožilo dodatno ogorčenje javnosti. Podjetje xAI je na obtožbe o kroženju seksualiziranih podob otrok odgovorilo z izjavo, da gre za neresnice osrednjih medijev, vendar dokazi kažejo na sistemske pomanjkljivosti pri varovanju digitalne varnosti uporabnikov.

Združeno kraljestvo uvedlo preiskavo zoper platformo X zaradi globokih ponaredkov orodja Grok
tehnologija politika
Združeno kraljestvo uvedlo preiskavo zoper platformo X zaradi globokih ponaredkov orodja Grok
1 posodobitev 12. jan 11:42

Britanski medijski regulator Ofcom je sprožil uradno preiskavo proti platformi X zaradi domnevnih nezakonitih vsebin, ustvarjenih z orodjem Grok. Vlada Združenega kraljestva napoveduje strožjo zakonodajo proti ustvarjanju intimnih deepfake posnetkov brez privolitve, pri čemer tehnološka ministrica Liz Kendall poudarja, da je monetizacija zlorab nesprejemljiva. Vzporedno s tem se pojavljajo kritike, ki Muskovi platformi X očitajo razširjanje AI-generiranih otroških pornografskih vsebin.

Indonezija kot prva država blokirala dostop do klepetalnika Grok
politika tehnologija
Indonezija kot prva država blokirala dostop do klepetalnika Grok

10. jan 14:42

Indonezija je v soboto, 10. januarja 2024, začasno onemogočila dostop do klepetalnika Grok, ki je v lasti podjetja xAI Elona Muska. Odločitev za blokado je posledica tveganja, da bi umetna inteligenca ustvarjala pornografsko vsebino oziroma seksualizirane podobe, s čimer je Indonezija postala prva država na svetu, ki je v celoti prepovedala dostop do tega orodja. Ukrepi indonezijskih oblasti sledijo številnim kritikam in obsodbam vlad ter regulatorjev od Evrope do Azije. Več držav je že sprožilo uradne preiskave zaradi spornih vsebin, ki jih generira aplikacija. Podjetje xAI je sicer pred tem napovedalo, da bo omejilo možnosti ustvarjanja in urejanja slik zgolj na plačljive naročnike, medtem ko poskušajo odpraviti pomanjkljivosti v varnostnih mehanizmih. Čeprav so se tehnološka podjetja trudila vzpostaviti zaščito, so raziskovalci opozorili na vrzeli, ki omogočajo zlorabo orodja za neprimerne namene. Indonezijska vlada s to potezo poudarja svojo strogo politiko glede spletnih vsebin, ki kršijo lokalne moralne in zakonske standarde, hkrati pa to postavlja precedens za regulacijo generativne umetne inteligence na globalni ravni.

Malezija in Indonezija blokirali Grok zaradi spolno eksplicitnih slik
mednarodni odnosi tehnologija
Malezija in Indonezija blokirali Grok zaradi spolno eksplicitnih slik
2 posodobitev 12. jan 9:33

Malezija se je pridružila Indoneziji pri blokiranju dostopa do klepetalnika Grok zaradi globalnega ogorčenja nad orodjem, ki ustvarja lažne, seksualizirane slike. Omejitve so začasne, državi pa sta se za ta korak odločili zaradi vse večje zaskrbljenosti glede generativnih orodij umetne inteligence, ki lahko ustvarjajo realistično vsebino.

Entitete in sentiment

Entiteta Sentiment
X Negativno
Grok Negativno
Elon Musk nevtralno
XAI Negativno

Zakaj je novica relevantna za Slovenijo

Novica je relevantna za slovenske uporabnike družbenih omrežij in razvijalce tehnologije, saj platforma X deluje tudi v Sloveniji. Vprašanje varstva osebnih podatkov in preprečevanja deepfake zlorab je del širše evropske razprave o aktu o umetni inteligenci (AI Act), ki neposredno vpliva na digitalno varnost slovenskih državljanov.