Objavljeno: pred dvema urama
Kanadski zvezni komisar za zasebnost Philippe Dufresne je napovedal razširitev preiskave proti podjetju X Corp. zaradi delovanja njihovega klepetalnika z umetno inteligenco Grok. Preiskava se osredotoča na ustvarjanje in razširjanje spolno eksplicitnih globokih ponaredkov (deepfakes), ki nastajajo brez privolitve vpletenih oseb. Po številnih poročilih o zlorabah je komisar opozoril, da uporaba osebnih podatkov za tovrstne namene predstavlja resno tveganje za temeljno pravico do zasebnosti.
Preiskava bo podrobno preučila, kako klepetalnik Grok uporablja podatke uporabnikov in ali so varnostni mehanizmi platforme zadostni za preprečevanje ustvarjanja intimnih slik. Dufresne je poudaril, da je pojav globokih ponaredkov v vzponu in da platforme nosijo odgovornost za zaščito posameznikov pred digitalnimi zlorabami, ki lahko povzročijo nepopravljivo škodo ugledu in psihološkemu stanju žrtev.
Ukrep kanadskega regulatorja prihaja v času povečanega pritiska na podjetje Elona Muska zaradi ohlapnih pravil pri moderiranju vsebin. Razširjena preiskava bi lahko vodila do strožjih zahtev glede delovanja algoritmov umetne inteligence v Kanadi in služila kot precedens za druge države, ki se spopadajo z vprašanji etike in zasebnosti v dobi generativne umetne inteligence.
"Uporaba osebnih podatkov brez privolitve za ustvarjanje globokih ponaredkov, vključno z intimnimi slikami, je naraščajoč pojav, ki predstavlja resno tveganje za temeljne pravice posameznikov do zasebnosti."
| Entiteta | Sentiment |
|---|---|
| Philippe Dufresne | Pozitivno |
| X Corp. | Negativno |
| Grok | Negativno |
| Elon Musk | nevtralno |
Viri imajo različne politične orientacije in preference, prav tako tipe poročanja. Vsak vir lahko poroča na več različnih načinov (objavljanje novic, intervjuji, itn. Ni nujno, da so viri vedno zanesljivi. Če je vir kdaj v preteklosti širil dezinformacije ali propagando, je to navedeno, vendar to ne pomeni samodejno, da je ta novica lažna. Prav tako ni nujno, da so viri z določeno politično orientacijo vedno pristranski v poročanju.
Število kvadratkov prikazuje, koliko virov v tej novici ima določeno značilnost.
Več o ocenjevanju virov.
Dogodek je relevanten za slovensko javnost predvsem z vidika globalnih trendov na področju regulacije umetne inteligence in varstva zasebnosti na spletu. Čeprav se preiskava odvija v Kanadi, se slovenski uporabniki platforme X in umetne inteligence soočajo z identičnimi tveganji glede zlorabe osebnih podatkov. Rezultati takšnih preiskav pogosto vplivajo na bodočo zakonodajo v Evropski uniji, kar neposredno zadeva pravni okvir v Sloveniji.
Minister za umetno inteligenco Evan Solomon je izjavil, da Kanada ne razmišlja o prepovedi platforme X, ki je v lasti Elona Muska. Platforma se sooča s polemikami.
6. jan 18:42
Klepetalnik z umetno inteligenco Grok, ki je v lasti podjetja xAI Elona Muska, se je znašel pod plazom kritik vlad in regulatorjev po celem svetu zaradi generiranja neprimernih in seksualiziranih podob žensk ter mladoletnih oseb. Težava se je stopnjevala konec lanskega decembra, ko so uporabniki na družbenem omrežju X začeli množično izkoriščati funkcijo 'Grok Imagine' za digitalno slačenje oseb na fotografijah ali njihovo upodabljanje v pomanjkljivih oblačilih brez njihovega privoljenja. Britanski uradniki za tehnologijo so od platforme X zahtevali nemudno ukrepanje, medtem ko so se kritikam pridružili tudi v Evropski uniji, Franciji, Indiji, Maleziji in Braziliji. Agencija Reuters je v zgolj desetminutnem intervalu zabeležila več kot sto poskusov manipulacije slik, pri čemer je orodje ugodilo znatnemu deležu zahtev. Med tarčami zlorab se je znašla tudi mladoletna igralka Nell Fisher, kar je sprožilo dodatno ogorčenje javnosti. Podjetje xAI je na obtožbe o kroženju seksualiziranih podob otrok odgovorilo z izjavo, da gre za neresnice osrednjih medijev, vendar dokazi kažejo na sistemske pomanjkljivosti pri varovanju digitalne varnosti uporabnikov.
Po kritikah in grožnjah z regulativnimi ukrepi zaradi ustvarjanja spolno eksplicitnih deepfake vsebin, je podjetje xAI Elona Muska omejilo orodje za generiranje slik v klepetalniku Grok na plačljive naročnike platforme X. Uporabniki so lahko z orodjem urejali fotografije ljudi, jih slačili in jih postavljali v seksualizirane poze, pogosto brez njihove privolitve.
Britanski medijski regulator Ofcom je sprožil uradno preiskavo proti platformi X zaradi domnevnih nezakonitih vsebin, ustvarjenih z orodjem Grok. Vlada Združenega kraljestva napoveduje strožjo zakonodajo proti ustvarjanju intimnih deepfake posnetkov brez privolitve, pri čemer tehnološka ministrica Liz Kendall poudarja, da je monetizacija zlorab nesprejemljiva. Vzporedno s tem se pojavljajo kritike, ki Muskovi platformi X očitajo razširjanje AI-generiranih otroških pornografskih vsebin.
15. jan 4:42
Družbeno omrežje X je v sredo napovedalo uvedbo tehničnih omejitev za svoj klepetalnik Grok, ki bodo preprečevale digitalno slačenje oseb na fotografijah. Odločitev podjetja xAI, ki je v lasti Elona Muska, sledi valu mednarodnih kritik in ogorčenju javnosti zaradi zlorabe orodja za ustvarjanje spolno eksplicitnih in ponižujočih podob žensk ter otrok. Ukrepi so bili sprejeti pod velikim regulativnim pritiskom, saj je generalni tožilec Kalifornije že sprožil preiskavo proti podjetju. Poleg ameriških preiskovalcev so se na sporne funkcionalnosti odzvale tudi številne druge države, ki so bodisi blokirale dostop do klepetalnika bodisi napovedale lastne nadzorne postopke. Predstavniki platforme X so pojasnili, da bodo poleg programskih blokad določenih ukazov uvedli tudi geografsko blokiranje določenih funkcij, s čimer se želijo izogniti nadaljnjim pravnim sporom in sankcijam na ključnih trgih. Problematična vsebina je vključevala predvsem t.i. deepfake posnetke, ki so nastali brez privolitve upodobljenih oseb. Ta poteza predstavlja pomemben preobrat v strategiji podjetja xAI, ki je pred tem zagovarjalo skoraj popolno svobodo pri uporabi umetne inteligence. Zaradi vse večje dostopnosti orodij za manipulacijo fotografij so se regulatorji po vsem svetu poenotili v zahtevi po strožjem nadzoru nad ponudniki tehnologije, kar je neposredno privedlo do tokratnih omejitev na platformi X.
10. jan 20:44
Britanski namestnik premierja David Lammy in podpredsednik Združenih držav Amerike JD Vance sta med srečanjem v Washingtonu obsodila razširjanje spolno eksplicitnih slik, ki jih ustvarja umetna inteligenca. Vance, ki sicer velja za zagovornika razvoja umetne inteligence, je izrazil globoko zaskrbljenost nad uporabo tehnologije za ustvarjanje tako imenovanih globokih ponaredkov na platformah, kot je X, vključno s tistimi, ki jih generira orodje Grok podjetja Elona Muska. Politika sta se strinjala, da je pojav hiperpornografskih vsebin in slik, ki vključujejo ženske in otroke, popolnoma nesprejemljiv. Lammy je po srečanju poudaril, da je Vance pokazal veliko mero razumevanja za težave, ki jih prinaša nenadzorovano širjenje tovrstnih vsebin, in jih označil za zavržna dejanja. Pogovori so potekali v luči prizadevanj za večjo varnost na spletnih platformah in regulacijo generativne umetne inteligence. Srečanje predstavlja pomemben korak v usklajevanju stališč med Londonom in Washingtonom glede digitalne varnosti. Čeprav se Vance pogosto zavzema za manj regulacije na področju tehnologije, so njegove izjave o nesprejemljivosti spolno eksplicitnih ponaredkov nakazale morebitno spremembo v pristopu k nadzoru nad vsebino na družbenih omrežjih v prihodnje.
| Entiteta | Sentiment |
|---|---|
| Philippe Dufresne | Pozitivno |
| X Corp. | Negativno |
| Grok | Negativno |
| Elon Musk | nevtralno |
Dogodek je relevanten za slovensko javnost predvsem z vidika globalnih trendov na področju regulacije umetne inteligence in varstva zasebnosti na spletu. Čeprav se preiskava odvija v Kanadi, se slovenski uporabniki platforme X in umetne inteligence soočajo z identičnimi tveganji glede zlorabe osebnih podatkov. Rezultati takšnih preiskav pogosto vplivajo na bodočo zakonodajo v Evropski uniji, kar neposredno zadeva pravni okvir v Sloveniji.