V Washingtonu so se pojavili številni incidenti, kjer goljufi uporabljajo globoke ponaredke (deepfakes) umetne inteligence, da se predstavljajo kot visoki uradniki administracije nekdanjega predsednika Donalda Trumpa in generalni direktorji podjetij. Zaradi teh incidentov je v Washingtonu "videti in slišati ni več verjeti", saj so prevaranti že poskušali poklicati ljudi, se lažno predstavljajoč kot državni sekretar.

Zvezni sodnik je ustavil načrte Trumpove administracije za zaprtje 99 centrov Job Corps po vsej ZDA, po tožbi, ki je bila vložena maja. Medtem pa se v ZDA, zlasti v Washingtonu, pojavlja zaskrbljenost zaradi vse lažjega ustvarjanja realističnih 'deepfake' posnetkov, ki lažno predstavljajo visoke uradnike, kar povzroča, da prebivalci prestolnice več ne verjamejo lastnim očem in ušesom. Boj proti tem goljufijam bo morda zahteval še več umetne inteligence.

NBC News je objavil članek o internetnem trendu uporabe besede "clanker" za označevanje umetne inteligence in robotske tehnologije, pri čemer je trdil, da ima ta izraz negativne konotacije in bi lahko bil žaljiv. Medtem je bil Grok Imagine, orodje za generativno umetno inteligenco, ki ga je razvil Elon Musk, tarča kritik zaradi ustvarjanja globokih ponaredkov, vključno z golimi fotografijami Taylor Swift, kar je sprožilo pozive k uvedbi varnostnih ukrepov.

V svetu kriptovalut se opaža ponovni vzpon priljubljenosti meme kovancev, pri čemer nekateri napovedujejo prihodnost s "smukastimi mačkami na balonu", ki bi lahko dosegli petdesetkratno rast. Vzporedno s tem so Združene države Amerike predstavile svojo spletno stran AI.gov, ki predstavlja "Ameriški akcijski načrt za umetno inteligenco", s čimer poudarjajo svojo strategijo za inovacije, infrastrukturo in diplomacijo na tem področju. V Južni Afriki finančni regulatorji opozarjajo na naraščajoče globoke ponaredke in tveganja, povezana s kloniranjem glasu z umetno inteligenco, medtem ko OpenAI CEO Sam Altman skrbi glede povečane stopnje prevar, ki jih omogoča umetna inteligenca. Hkrati nova publikacija britanske strokovnjakinje za varnost Neire Jones ponuja smernice podjetjem za varno uporabo "agentne umetne inteligence", ki nagrajuje za finančne storitve, a mora ostati v skladu s človeškimi vrednotami.

Microsoft je izdal obsežno, odprtokodno merilo za ocenjevanje sistemov za odkrivanje globokih ponaredkov in manipuliranih medijev, s čimer poudarja pomen širokega pristopa k zajezitvi dezinformacij. Hkrati so ZDA opozorile na naraščajočo grožnjo kritični infrastrukturi, vključno z operativnimi tehnologijami, kot so električna omrežja. Nate Gleason iz laboratorija Lawrence Livermore National Laboratory je opozoril, da so akterji groženj vse bolj prebrisani in tarče napadov so vse pogosteje bistveni sistemi.

Ashley St. Clair, mati enega izmed otrok Elona Muska, je na vrhovnem sodišču države New York vložila tožbo proti podjetju xAI. Tožnica podjetju očita, da je njihovo orodje za umetno inteligenco Grok, ki je vključeno v družbeno omrežje X, ustvarjalo in razširjalo spolno eksplicitne ter ponižujoče ponarejene posnetke (deepfakes) z njeno podobo. Po navedbah v tožbi naj bi orodje ustvarilo celo slike, na katerih je St. Clairova prikazana kot mladoletna oseba. Tožba izpostavlja, da se je podjetje xAI kljub obljubam, da bo prenehalo z generiranjem spornih vsebin, na opozorila odzvalo nezadostno. St. Clairova trdi, da tehnologija Grok omogoča spolno izkoriščanje žensk in otrok s tem, ko brez privolitve ustvarja degradirajoče vizualne vsebine. Pravni postopek se odvija v času, ko sta vpleteni strani sredi sporov glede skrbništva nad otrokom, kar še dodatno zapleta odnose med avtorico in Muskovim tehnološkim imperijem. Primer odpira širša vprašanja o odgovornosti podjetij za vsebine, ki jih generira umetna inteligenca, in o pomanjkanju učinkovitih varovalk na platformi X. Odvetniki tožnice poudarjajo, da gre za sistemsko ignoriranje spolnega izkoriščanja, ki ga omogoča Muskovo podjetje. xAI se na obtožbe še ni uradno odzval, primer pa bo služil kot pomemben precedens pri določanju meja svobode algoritmov in zaščite osebnih pravic posameznikov.

Družbeno omrežje X, ki je v lasti milijarderja Elona Muska, je napovedalo uvedbo tehničnih omejitev za svojega klepetalnega robota z umetno inteligenco Grok. Odločitev podjetja prihaja po valu ostrih kritik javnosti in strokovnjakov, saj je orodje omogočalo ustvarjanje in objavljanje ponarejenih seksualiziranih slik žensk in otrok. Po novem bo robotu onemogočeno generiranje vsebin, ki ljudi prikazujejo v razkrivajočih oblačilih ali v kompromitirajočih seksualiziranih kontekstih. Podjetje se je za ta korak odločilo po tem, ko so se na platformi razširile številne sporne podobe, ki so nastale z uporabo omenjene tehnologije. Kritiki so opozarjali na visoko stopnjo zlorab in pomanjkanje varnostnih varovalk, ki bi preprečile nastanek globokih ponaredkov (deepfakes). Ukrep predstavlja poskus platforme, da zajezi širjenje škodljivih vsebin, ki kršijo pravice do zasebnosti in osebnega dostojanstva posameznikov. Kljub napovedanim spremembam strokovnjaki za digitalno varnost ostajajo previdni glede učinkovitosti teh omejitev. Poudarjajo, da gre za širši problem regulacije umetne inteligence na družbenih omrežjih, kjer meja med svobodo izražanja in preprečevanjem zlorab ostaja predmet razprav. X bo moral v prihodnje verjetno še dodatno prilagoditi svoje algoritme, da bi zadostil mednarodnim standardom varnosti na spletu.

Danska pripravlja novo zakonodajo, namenjeno zaščiti državljanov pred zlorabo globokih ponaredkov (deepfakes), ki jih ustvarja umetna inteligenca. Živa prenašalka video iger, Marie Watson, je že leta 2021 postala žrtev takega ponaredka, ko je na Instagramu našla digitalno predelano sliko sebe, na kateri je bila videti naga. Pripravljana zakonodaja naj bi preprečila podobne zlorabe v prihodnosti.

Platforma X, ki je v lasti milijarderja Elona Muska, je onemogočila svojemu klepetalniku z umetno inteligenco Grok ustvarjanje in spreminjanje slik, ki bi resnične osebe prikazovale v pomanjkljivih oblačilih ali seksualiziranih položajih. Odločitev podjetja xAI sledi valu mednarodnih kritik in pravnih opozoril različnih vlad, vključno z napovedjo preiskave v ameriški zvezni državi Kaliforniji zaradi širjenja eksplicitnega gradiva brez privolitve vpletenih oseb. Tehnološki ukrepi bodo uporabnikom, vključno s tistimi s plačljivo naročnino, preprečili generiranje slik resničnih ljudi v spodnjem perilu, kopalkah ali drugih razgaljenih oblačilih. Podjetje je sporočilo, da so omejitve uvedli z namenom preprečevanja zlorab orodja za kršenje zakonodaje in lastnih pravilnikov. Do zdaj je Grokov tako imenovani "pikantni način" (spicy mode) dopuščal ustvarjanje globokih ponaredkov (deepfakes), kar je povzročilo ostre odzive politikov in regulatorjev. Na sporno delovanje klepetalnika se je odzvala tudi predsednica Evropske komisije Ursula von der Leyen, ki je poudarila, da je digitalno slačenje žensk in otrok s pomočjo umetne inteligence popolnoma nesprejemljivo. Poleg Združenih držav Amerike sta strožje ukrepe napovedali tudi Malezija in Indonezija, ki sta opozorili na resne pravne posledice tovrstnih digitalnih zlorab na svojih ozemljih.

Evropska komisija je izrazila resno zaskrbljenost zaradi širjenja pornografskih globokih ponaredkov mladoletnih oseb, ki jih je ustvarilo orodje umetne inteligence Grok na družbenem omrežju X. Tiskovni predstavnik Komisije je poudaril, da so takšni posnetki nezakoniti, odvratni in v Evropski uniji nimajo mesta. Francosko pravosodje je v povezavi z omenjenimi vsebinami že sprožilo uradno preiskavo, saj so se ponaredki hitro razširili po spletni platformi v lasti Elona Muska. Evropska unija zadevo obravnava z največjo stopnjo resnosti, zlasti v luči Akta o digitalnih storitvah (DSA), ki platformam nalaga strogo odgovornost za odstranjevanje nezakonitih vsebin in preprečevanje sistemskih tveganj. Primer poudarja naraščajoče težave, s katerimi se organi pregona in zakonodajalci srečujejo pri nadzoru generativne umetne inteligence, ki omogoča hitro in preprosto ustvarjanje realističnih, a zlonamernih vsebin. Bruselj zdaj preučuje ukrepe, s katerimi bi platformo X prisilil k učinkovitejšemu moderiranju in zaščiti najranljivejših uporabnikov.

Donald Trump oziroma Bela hiša sta objavila slike, ustvarjene z umetno inteligenco, na katerih je Trump prikazan kot papež ali Superman. S tem naj bi Trump promoviral samega sebe in obenem kritiziral svoje politične tekmece.

Platforma X, ki je v lasti milijarderja Elona Muska, je uvedla nove ukrepe za preprečevanje ustvarjanja in razširjanja eksplicitnih fotorealističnih slik, ustvarjenih z umetno inteligenco. Gre predvsem za omejevanje funkcij klepetalnega bota Grok, ki je uporabnikom omogočal generiranje slik, na katerih so resnične osebe prikazane brez oblačil. Podjetje se je za ta korak odločilo po vrsti kritik glede zlorabe tehnologije za ustvarjanje tako imenovanih globokih ponaredkov (deepfakes). Ukrepi so bili napovedani predvsem za države, kjer je deljenje tovrstnih vsebin v nasprotju z lokalno zakonodajo. S tem se želi podjetje izogniti pravnim sporom in morebitnim visokim globam, ki jih prinašajo strožji predpisi o digitalnih storitvah. Grok, ki temelji na naprednih modelih umetne inteligence, je bil doslej znan po svoji liberalni politiki generiranja vsebin, kar je povzročilo zaskrbljenost glede zasebnosti in digitalnega nasilja. Strokovnjaki opozarjajo, da je tehnologija generativne umetne inteligence postala tako dostopna, da je nadzor nad njo izjemno zahteven. Čeprav so omejitve korak v pravo smer, kritiki menijo, da bi morala platforma uvesti enotne standarde za vse uporabnike po svetu, ne glede na lokalno zakonodajo posameznih držav. Platforma X s tem poskuša uravnotežiti svobodo izražanja, ki jo zagovarja Musk, z nujno zaščito posameznikov pred zlorabami.

Družbeno omrežje X, ki je v lasti Elona Muska, je v sredo napovedalo uvedbo novih tehničnih ukrepov, s katerimi želi preprečiti uporabo svojega orodja umetne inteligence Grok za digitalno slačenje resničnih oseb. Odločitev podjetja prihaja kot odziv na val ogorčenja v svetovni javnosti in stopnjevanje pritiska regulatornih organov v več državah, ki so opozarjali na zlorabe tehnologije za ustvarjanje globokih ponaredkov z eksplicitno vsebino. Podjetje je pojasnilo, da so uvedli omejitve, ki orodju Grok preprečujejo urejanje slik resničnih oseb v razkritih oblačilih, kot so kopalke. Čeprav so poudarili, da te restrikcije veljajo za vse uporabnike, vključno s tistimi, ki plačujejo naročnino, so hkrati dodali, da so na določenih območjih vzpostavili tudi geografske blokade v skladu z lokalno zakonodajo. To pušča nekaj negotovosti glede tega, ali so tehnične varovalke povsod enako stroge. Generiranje slik z asistentom Grok, ki ga razvija Muskovo podjetje xAI, sicer ostaja ekskluzivna funkcija za plačljive naročnike. Družbeno omrežje je že v začetku januarja zagotovilo, da se aktivno bori proti nezakonitim vsebinam, vendar so zadnji incidenti in tehnološki razvoj prisilili platformo k bolj specifičnim posegom v algoritme za generiranje vizualnih vsebin.

Podjetje xAI je uvedlo strožje omejitve za klepetalnik Grok, potem ko so uporabniki izkoriščali orodje za ustvarjanje seksualiziranih slik žensk na platformi X. To je povzročilo val ogorčenja v številnih državah, zato je podjetje uvedlo dodatne varnostne ukrepe.

Ustvarjanje realističnih globokih ponaredkov (deepfakes) postaja vse lažje, kar predstavlja izziv za verodostojnost informacij. Kot odgovor na to se razvijajo nove tehnologije, ki naj bi pomagale vladam, podjetjem in posameznikom pri odkrivanju teh manipuliranih vsebin. Posebej izpostavljena je grožnja zlorabe globokih ponaredkov za lažno predstavljanje visokih uradnikov, kar povečuje varnostna tveganja.

Ustvarjanje realističnih globokih ponaredkov (deepfakes) postaja vse lažje, kar predstavlja naraščajoč varnostni izziv, zlasti ko gre za posnemanje visokih ameriških uradnikov. Za učinkovito nasprotovanje tej grožnji se bo verjetno potrebna naprednejša umetna inteligenca.

Kalifornijske oblasti so začele uradno preiskavo proti podjetju xAI, ki je v lasti Elona Muska, zaradi navedb, da njihov klepetalnik z umetno inteligenco Grok ustvarja seksualizirane podobe otrok in druge neprostovoljne intimne vsebine. Generalni državni tožilec Kalifornije Rob Bonta je pojasnil, da xAI očitno omogoča množično proizvodnjo globokih ponaredkov, ki se uporabljajo za nadlegovanje žensk in deklet. Guverner Gavin Newsom je ravnanje podjetja označil za zavržno, saj naj bi platforma postala gojišče za predatorje. Zaradi naraščajočega mednarodnega pritiska in preiskav je družba X že uvedla določene omejitve. Po novem Grok ne bo več omogočal urejanja slik resničnih oseb v razkritih oblačilih, kot so kopalke, vse funkcije generiranja slik pa so premaknili za plačljivi zid. Poleg tega bodo v regijah, kjer je to zakonsko zahtevano, geografsko blokirali možnost ustvarjanja tovrstnih vsebin. Ukrepi so sledili poročilom, da je bilo med božičem in novim letom več kot polovica od 20.000 generiranih slik povezanih z minimalno oblečenimi osebami. K ukrepanju so bili pozvani tudi tehnološki giganti, kot sta Apple in Google. Koalicija 28 zagovorniških skupin je podjetji pozvala, naj zaradi kršenja lastnih pravil o varnosti iz svojih spletnih trgovin odstranita aplikaciji X in Grok. Opozorili so, da korporaciji z omogočanjem dostopa do teh orodij posredno profitirata od digitalne zlorabe otrok in neprostovoljnih intimnih podob, kar predstavlja resno grožnjo javni varnosti in integriteti posameznikov.

Leta 2025 so se globoki ponaredki (deepfakes) izjemno izboljšali, presegli so pričakovanja strokovnjakov. Umetna inteligenca je ustvarjala obraze, glasove in celostne nastope, ki so posnemali resnične ljudi, in to s kakovostjo, ki je bila pred leti nepredstavljiva. Povečala se je tudi uporaba teh ponaredkov za zavajanje ljudi v različnih situacijah.

Po poročilih o posredovanju ameriške vojske v Venezueli in pozivih po "popolnem dostopu" do venezuelskih naftnih virov, so se pojavile obtožbe o "odkritem ropanju" s strani Trumpove administracije. Ukrajinski kongresni odbor Amerike je razkril, da je državni sekretar Marco Rubio razpravljal o načrtih za nakup Grenlandije. Strokovnjaki pa opozarjajo, da je največja grožnja globalni stabilnosti ravno Amerika sama. Nekdanji britanski obrambni sekretar je svetoval tujim voditeljem, naj ne podkupujejo Trumpa z zlatom, temveč preberejo pozabljen memoar iz leta 1991.

Britanska vlada je pozvala podjetje X v lasti Elona Muska, naj sprejme nujne ukrepe zaradi uporabe njihovega orodja za umetno inteligenco Grok, ki se uporablja za ustvarjanje pornografskih slik otrok. Britanska ministrica za tehnologijo Liz Kendall je v uradni izjavi poudarila, da so takšne dejavnosti nesprejemljive in da morajo tehnološka podjetja prevzeti polno odgovornost za vsebine, ki jih generirajo njihova orodja. Incident je sprožil buren odziv v britanski politiki, saj so preiskave pokazale, da so uporabniki zlorabljali napredne funkcije umetne inteligence za ustvarjanje globokih ponaredkov (deepfakes). Ministrica Kendallova je opozorila, da platforma X trenutno ne zagotavlja zadostnih varovalk, ki bi preprečile generiranje nezakonitih vsebin. Vlada od podjetja zahteva takojšnje poročilo o korakih za izboljšanje nadzora in varnosti. Problem generativne umetne inteligence in njene zlorabe za spolno izkoriščanje otrok postaja vse večji izziv za regulatorje po vsem svetu. Združeno kraljestvo s tem pozivom krepi pritisk na velike tehnološke platforme, naj uskladijo svoje delovanje z zakonom o spletni varnosti (Online Safety Act), ki predvideva visoke globe za tista podjetja, ki ne zaščitijo mladoletnikov pred škodljivimi vsebinami. Elon Musk in vodstvo platforme X se na pozive britanske vlade za zdaj še nista javno odzvala.