V Washingtonu so se pojavili številni incidenti, kjer goljufi uporabljajo globoke ponaredke (deepfakes) umetne inteligence, da se predstavljajo kot visoki uradniki administracije nekdanjega predsednika Donalda Trumpa in generalni direktorji podjetij. Zaradi teh incidentov je v Washingtonu "videti in slišati ni več verjeti", saj so prevaranti že poskušali poklicati ljudi, se lažno predstavljajoč kot državni sekretar.

Zvezni sodnik je ustavil načrte Trumpove administracije za zaprtje 99 centrov Job Corps po vsej ZDA, po tožbi, ki je bila vložena maja. Medtem pa se v ZDA, zlasti v Washingtonu, pojavlja zaskrbljenost zaradi vse lažjega ustvarjanja realističnih 'deepfake' posnetkov, ki lažno predstavljajo visoke uradnike, kar povzroča, da prebivalci prestolnice več ne verjamejo lastnim očem in ušesom. Boj proti tem goljufijam bo morda zahteval še več umetne inteligence.

NBC News je objavil članek o internetnem trendu uporabe besede "clanker" za označevanje umetne inteligence in robotske tehnologije, pri čemer je trdil, da ima ta izraz negativne konotacije in bi lahko bil žaljiv. Medtem je bil Grok Imagine, orodje za generativno umetno inteligenco, ki ga je razvil Elon Musk, tarča kritik zaradi ustvarjanja globokih ponaredkov, vključno z golimi fotografijami Taylor Swift, kar je sprožilo pozive k uvedbi varnostnih ukrepov.

Kanadski zvezni komisar za zasebnost Philippe Dufresne je napovedal razširitev preiskave proti podjetju X Corp. zaradi delovanja njihovega klepetalnika z umetno inteligenco Grok. Preiskava se osredotoča na ustvarjanje in razširjanje spolno eksplicitnih globokih ponaredkov (deepfakes), ki nastajajo brez privolitve vpletenih oseb. Po številnih poročilih o zlorabah je komisar opozoril, da uporaba osebnih podatkov za tovrstne namene predstavlja resno tveganje za temeljno pravico do zasebnosti. Preiskava bo podrobno preučila, kako klepetalnik Grok uporablja podatke uporabnikov in ali so varnostni mehanizmi platforme zadostni za preprečevanje ustvarjanja intimnih slik. Dufresne je poudaril, da je pojav globokih ponaredkov v vzponu in da platforme nosijo odgovornost za zaščito posameznikov pred digitalnimi zlorabami, ki lahko povzročijo nepopravljivo škodo ugledu in psihološkemu stanju žrtev. Ukrep kanadskega regulatorja prihaja v času povečanega pritiska na podjetje Elona Muska zaradi ohlapnih pravil pri moderiranju vsebin. Razširjena preiskava bi lahko vodila do strožjih zahtev glede delovanja algoritmov umetne inteligence v Kanadi in služila kot precedens za druge države, ki se spopadajo z vprašanji etike in zasebnosti v dobi generativne umetne inteligence.

Družbeno omrežje X, ki je v lasti milijarderja Elona Muska, je napovedalo uvedbo tehničnih omejitev za svojega klepetalnega robota z umetno inteligenco Grok. Odločitev podjetja prihaja po valu ostrih kritik javnosti in strokovnjakov, saj je orodje omogočalo ustvarjanje in objavljanje ponarejenih seksualiziranih slik žensk in otrok. Po novem bo robotu onemogočeno generiranje vsebin, ki ljudi prikazujejo v razkrivajočih oblačilih ali v kompromitirajočih seksualiziranih kontekstih. Podjetje se je za ta korak odločilo po tem, ko so se na platformi razširile številne sporne podobe, ki so nastale z uporabo omenjene tehnologije. Kritiki so opozarjali na visoko stopnjo zlorab in pomanjkanje varnostnih varovalk, ki bi preprečile nastanek globokih ponaredkov (deepfakes). Ukrep predstavlja poskus platforme, da zajezi širjenje škodljivih vsebin, ki kršijo pravice do zasebnosti in osebnega dostojanstva posameznikov. Kljub napovedanim spremembam strokovnjaki za digitalno varnost ostajajo previdni glede učinkovitosti teh omejitev. Poudarjajo, da gre za širši problem regulacije umetne inteligence na družbenih omrežjih, kjer meja med svobodo izražanja in preprečevanjem zlorab ostaja predmet razprav. X bo moral v prihodnje verjetno še dodatno prilagoditi svoje algoritme, da bi zadostil mednarodnim standardom varnosti na spletu.

Platforma X, ki je v lasti milijarderja Elona Muska, je onemogočila svojemu klepetalniku z umetno inteligenco Grok ustvarjanje in spreminjanje slik, ki bi resnične osebe prikazovale v pomanjkljivih oblačilih ali seksualiziranih položajih. Odločitev podjetja xAI sledi valu mednarodnih kritik in pravnih opozoril različnih vlad, vključno z napovedjo preiskave v ameriški zvezni državi Kaliforniji zaradi širjenja eksplicitnega gradiva brez privolitve vpletenih oseb. Tehnološki ukrepi bodo uporabnikom, vključno s tistimi s plačljivo naročnino, preprečili generiranje slik resničnih ljudi v spodnjem perilu, kopalkah ali drugih razgaljenih oblačilih. Podjetje je sporočilo, da so omejitve uvedli z namenom preprečevanja zlorab orodja za kršenje zakonodaje in lastnih pravilnikov. Do zdaj je Grokov tako imenovani "pikantni način" (spicy mode) dopuščal ustvarjanje globokih ponaredkov (deepfakes), kar je povzročilo ostre odzive politikov in regulatorjev. Na sporno delovanje klepetalnika se je odzvala tudi predsednica Evropske komisije Ursula von der Leyen, ki je poudarila, da je digitalno slačenje žensk in otrok s pomočjo umetne inteligence popolnoma nesprejemljivo. Poleg Združenih držav Amerike sta strožje ukrepe napovedali tudi Malezija in Indonezija, ki sta opozorili na resne pravne posledice tovrstnih digitalnih zlorab na svojih ozemljih.

V svetu kriptovalut se opaža ponovni vzpon priljubljenosti meme kovancev, pri čemer nekateri napovedujejo prihodnost s "smukastimi mačkami na balonu", ki bi lahko dosegli petdesetkratno rast. Vzporedno s tem so Združene države Amerike predstavile svojo spletno stran AI.gov, ki predstavlja "Ameriški akcijski načrt za umetno inteligenco", s čimer poudarjajo svojo strategijo za inovacije, infrastrukturo in diplomacijo na tem področju. V Južni Afriki finančni regulatorji opozarjajo na naraščajoče globoke ponaredke in tveganja, povezana s kloniranjem glasu z umetno inteligenco, medtem ko OpenAI CEO Sam Altman skrbi glede povečane stopnje prevar, ki jih omogoča umetna inteligenca. Hkrati nova publikacija britanske strokovnjakinje za varnost Neire Jones ponuja smernice podjetjem za varno uporabo "agentne umetne inteligence", ki nagrajuje za finančne storitve, a mora ostati v skladu s človeškimi vrednotami.

Microsoft je izdal obsežno, odprtokodno merilo za ocenjevanje sistemov za odkrivanje globokih ponaredkov in manipuliranih medijev, s čimer poudarja pomen širokega pristopa k zajezitvi dezinformacij. Hkrati so ZDA opozorile na naraščajočo grožnjo kritični infrastrukturi, vključno z operativnimi tehnologijami, kot so električna omrežja. Nate Gleason iz laboratorija Lawrence Livermore National Laboratory je opozoril, da so akterji groženj vse bolj prebrisani in tarče napadov so vse pogosteje bistveni sistemi.

Platforma X, ki je v lasti milijarderja Elona Muska, je uvedla nove ukrepe za preprečevanje ustvarjanja in razširjanja eksplicitnih fotorealističnih slik, ustvarjenih z umetno inteligenco. Gre predvsem za omejevanje funkcij klepetalnega bota Grok, ki je uporabnikom omogočal generiranje slik, na katerih so resnične osebe prikazane brez oblačil. Podjetje se je za ta korak odločilo po vrsti kritik glede zlorabe tehnologije za ustvarjanje tako imenovanih globokih ponaredkov (deepfakes). Ukrepi so bili napovedani predvsem za države, kjer je deljenje tovrstnih vsebin v nasprotju z lokalno zakonodajo. S tem se želi podjetje izogniti pravnim sporom in morebitnim visokim globam, ki jih prinašajo strožji predpisi o digitalnih storitvah. Grok, ki temelji na naprednih modelih umetne inteligence, je bil doslej znan po svoji liberalni politiki generiranja vsebin, kar je povzročilo zaskrbljenost glede zasebnosti in digitalnega nasilja. Strokovnjaki opozarjajo, da je tehnologija generativne umetne inteligence postala tako dostopna, da je nadzor nad njo izjemno zahteven. Čeprav so omejitve korak v pravo smer, kritiki menijo, da bi morala platforma uvesti enotne standarde za vse uporabnike po svetu, ne glede na lokalno zakonodajo posameznih držav. Platforma X s tem poskuša uravnotežiti svobodo izražanja, ki jo zagovarja Musk, z nujno zaščito posameznikov pred zlorabami.

Družbeno omrežje X, ki je v lasti Elona Muska, je v sredo napovedalo uvedbo novih tehničnih ukrepov, s katerimi želi preprečiti uporabo svojega orodja umetne inteligence Grok za digitalno slačenje resničnih oseb. Odločitev podjetja prihaja kot odziv na val ogorčenja v svetovni javnosti in stopnjevanje pritiska regulatornih organov v več državah, ki so opozarjali na zlorabe tehnologije za ustvarjanje globokih ponaredkov z eksplicitno vsebino. Podjetje je pojasnilo, da so uvedli omejitve, ki orodju Grok preprečujejo urejanje slik resničnih oseb v razkritih oblačilih, kot so kopalke. Čeprav so poudarili, da te restrikcije veljajo za vse uporabnike, vključno s tistimi, ki plačujejo naročnino, so hkrati dodali, da so na določenih območjih vzpostavili tudi geografske blokade v skladu z lokalno zakonodajo. To pušča nekaj negotovosti glede tega, ali so tehnične varovalke povsod enako stroge. Generiranje slik z asistentom Grok, ki ga razvija Muskovo podjetje xAI, sicer ostaja ekskluzivna funkcija za plačljive naročnike. Družbeno omrežje je že v začetku januarja zagotovilo, da se aktivno bori proti nezakonitim vsebinam, vendar so zadnji incidenti in tehnološki razvoj prisilili platformo k bolj specifičnim posegom v algoritme za generiranje vizualnih vsebin.

Podjetje xAI je uvedlo strožje omejitve za klepetalnik Grok, potem ko so uporabniki izkoriščali orodje za ustvarjanje seksualiziranih slik žensk na platformi X. To je povzročilo val ogorčenja v številnih državah, zato je podjetje uvedlo dodatne varnostne ukrepe.

Družbeno omrežje X je v sredo napovedalo uvedbo tehničnih omejitev za svoj klepetalnik Grok, ki bodo preprečevale digitalno slačenje oseb na fotografijah. Odločitev podjetja xAI, ki je v lasti Elona Muska, sledi valu mednarodnih kritik in ogorčenju javnosti zaradi zlorabe orodja za ustvarjanje spolno eksplicitnih in ponižujočih podob žensk ter otrok. Ukrepi so bili sprejeti pod velikim regulativnim pritiskom, saj je generalni tožilec Kalifornije že sprožil preiskavo proti podjetju. Poleg ameriških preiskovalcev so se na sporne funkcionalnosti odzvale tudi številne druge države, ki so bodisi blokirale dostop do klepetalnika bodisi napovedale lastne nadzorne postopke. Predstavniki platforme X so pojasnili, da bodo poleg programskih blokad določenih ukazov uvedli tudi geografsko blokiranje določenih funkcij, s čimer se želijo izogniti nadaljnjim pravnim sporom in sankcijam na ključnih trgih. Problematična vsebina je vključevala predvsem t.i. deepfake posnetke, ki so nastali brez privolitve upodobljenih oseb. Ta poteza predstavlja pomemben preobrat v strategiji podjetja xAI, ki je pred tem zagovarjalo skoraj popolno svobodo pri uporabi umetne inteligence. Zaradi vse večje dostopnosti orodij za manipulacijo fotografij so se regulatorji po vsem svetu poenotili v zahtevi po strožjem nadzoru nad ponudniki tehnologije, kar je neposredno privedlo do tokratnih omejitev na platformi X.

Danska pripravlja novo zakonodajo, namenjeno zaščiti državljanov pred zlorabo globokih ponaredkov (deepfakes), ki jih ustvarja umetna inteligenca. Živa prenašalka video iger, Marie Watson, je že leta 2021 postala žrtev takega ponaredka, ko je na Instagramu našla digitalno predelano sliko sebe, na kateri je bila videti naga. Pripravljana zakonodaja naj bi preprečila podobne zlorabe v prihodnosti.

Evropska komisija je izrazila resno zaskrbljenost zaradi širjenja pornografskih globokih ponaredkov mladoletnih oseb, ki jih je ustvarilo orodje umetne inteligence Grok na družbenem omrežju X. Tiskovni predstavnik Komisije je poudaril, da so takšni posnetki nezakoniti, odvratni in v Evropski uniji nimajo mesta. Francosko pravosodje je v povezavi z omenjenimi vsebinami že sprožilo uradno preiskavo, saj so se ponaredki hitro razširili po spletni platformi v lasti Elona Muska. Evropska unija zadevo obravnava z največjo stopnjo resnosti, zlasti v luči Akta o digitalnih storitvah (DSA), ki platformam nalaga strogo odgovornost za odstranjevanje nezakonitih vsebin in preprečevanje sistemskih tveganj. Primer poudarja naraščajoče težave, s katerimi se organi pregona in zakonodajalci srečujejo pri nadzoru generativne umetne inteligence, ki omogoča hitro in preprosto ustvarjanje realističnih, a zlonamernih vsebin. Bruselj zdaj preučuje ukrepe, s katerimi bi platformo X prisilil k učinkovitejšemu moderiranju in zaščiti najranljivejših uporabnikov.

Donald Trump oziroma Bela hiša sta objavila slike, ustvarjene z umetno inteligenco, na katerih je Trump prikazan kot papež ali Superman. S tem naj bi Trump promoviral samega sebe in obenem kritiziral svoje politične tekmece.

Ustvarjanje realističnih globokih ponaredkov (deepfakes) postaja vse lažje, kar predstavlja izziv za verodostojnost informacij. Kot odgovor na to se razvijajo nove tehnologije, ki naj bi pomagale vladam, podjetjem in posameznikom pri odkrivanju teh manipuliranih vsebin. Posebej izpostavljena je grožnja zlorabe globokih ponaredkov za lažno predstavljanje visokih uradnikov, kar povečuje varnostna tveganja.

Ustvarjanje realističnih globokih ponaredkov (deepfakes) postaja vse lažje, kar predstavlja naraščajoč varnostni izziv, zlasti ko gre za posnemanje visokih ameriških uradnikov. Za učinkovito nasprotovanje tej grožnji se bo verjetno potrebna naprednejša umetna inteligenca.

Leta 2025 so se globoki ponaredki (deepfakes) izjemno izboljšali, presegli so pričakovanja strokovnjakov. Umetna inteligenca je ustvarjala obraze, glasove in celostne nastope, ki so posnemali resnične ljudi, in to s kakovostjo, ki je bila pred leti nepredstavljiva. Povečala se je tudi uporaba teh ponaredkov za zavajanje ljudi v različnih situacijah.

Po poročilih o posredovanju ameriške vojske v Venezueli in pozivih po "popolnem dostopu" do venezuelskih naftnih virov, so se pojavile obtožbe o "odkritem ropanju" s strani Trumpove administracije. Ukrajinski kongresni odbor Amerike je razkril, da je državni sekretar Marco Rubio razpravljal o načrtih za nakup Grenlandije. Strokovnjaki pa opozarjajo, da je največja grožnja globalni stabilnosti ravno Amerika sama. Nekdanji britanski obrambni sekretar je svetoval tujim voditeljem, naj ne podkupujejo Trumpa z zlatom, temveč preberejo pozabljen memoar iz leta 1991.

Britanska vlada je pozvala podjetje X v lasti Elona Muska, naj sprejme nujne ukrepe zaradi uporabe njihovega orodja za umetno inteligenco Grok, ki se uporablja za ustvarjanje pornografskih slik otrok. Britanska ministrica za tehnologijo Liz Kendall je v uradni izjavi poudarila, da so takšne dejavnosti nesprejemljive in da morajo tehnološka podjetja prevzeti polno odgovornost za vsebine, ki jih generirajo njihova orodja. Incident je sprožil buren odziv v britanski politiki, saj so preiskave pokazale, da so uporabniki zlorabljali napredne funkcije umetne inteligence za ustvarjanje globokih ponaredkov (deepfakes). Ministrica Kendallova je opozorila, da platforma X trenutno ne zagotavlja zadostnih varovalk, ki bi preprečile generiranje nezakonitih vsebin. Vlada od podjetja zahteva takojšnje poročilo o korakih za izboljšanje nadzora in varnosti. Problem generativne umetne inteligence in njene zlorabe za spolno izkoriščanje otrok postaja vse večji izziv za regulatorje po vsem svetu. Združeno kraljestvo s tem pozivom krepi pritisk na velike tehnološke platforme, naj uskladijo svoje delovanje z zakonom o spletni varnosti (Online Safety Act), ki predvideva visoke globe za tista podjetja, ki ne zaščitijo mladoletnikov pred škodljivimi vsebinami. Elon Musk in vodstvo platforme X se na pozive britanske vlade za zdaj še nista javno odzvala.