Grok omejil ustvarjanje slik na plačljive uporabnike zaradi zlorab deepfake

Klepetalnik z umetno inteligenco Grok, ki je v lasti podjetja xAI Elona Muska, se je znašel pod plazom kritik vlad in regulatorjev po celem svetu zaradi generiranja neprimernih in seksualiziranih podob žensk ter mladoletnih oseb. Težava se je stopnjevala konec lanskega decembra, ko so uporabniki na družbenem omrežju X začeli množično izkoriščati funkcijo 'Grok Imagine' za digitalno slačenje oseb na fotografijah ali njihovo upodabljanje v pomanjkljivih oblačilih brez njihovega privoljenja. Britanski uradniki za tehnologijo so od platforme X zahtevali nemudno ukrepanje, medtem ko so se kritikam pridružili tudi v Evropski uniji, Franciji, Indiji, Maleziji in Braziliji. Agencija Reuters je v zgolj desetminutnem intervalu zabeležila več kot sto poskusov manipulacije slik, pri čemer je orodje ugodilo znatnemu deležu zahtev. Med tarčami zlorab se je znašla tudi mladoletna igralka Nell Fisher, kar je sprožilo dodatno ogorčenje javnosti. Podjetje xAI je na obtožbe o kroženju seksualiziranih podob otrok odgovorilo z izjavo, da gre za neresnice osrednjih medijev, vendar dokazi kažejo na sistemske pomanjkljivosti pri varovanju digitalne varnosti uporabnikov.

Podjetje Anthropic je objavilo izsledke raziskave, ki kažejo na izjemen vpliv umetne inteligence na produktivnost programerjev, hkrati pa je izdalo posodobljeno različico orodja Claude Code 2.1.0. Razvijalci, ki uporabljajo njihove modele, naj bi kar 59 odstotkov svojega dela opravili s pomočjo UI, kar prinaša do 50-odstotno povečanje učinkovitosti. Nova različica orodja prinaša izboljšano upravljanje avtonomnih agentov in boljšo prenosljivost sej, kar programerjem omogoča hitrejše reševanje kompleksnih nalog in delo zunaj njihovega osnovnega strokovnega področja. Vzporedno s tem je podjetje Ultrahuman s pomočjo Googlovega orodja Gemini v okolju Android Studio za 15 odstotkov skrajšalo čas uvajanja novih funkcij v svojih mobilnih aplikacijah. Z uporabo klepeta Gemini znotraj razvojnega okolja so zmanjšali količino rutinskega dela in vzdrževanja, kar je majhni ekipi osmih razvijalcev omogočilo večji fokus na biometrične inovacije pri njihovih nosljivih napravah. Integracija naprednih jezikovnih modelov neposredno v kodo tako postaja standard za tehnološka podjetja, ki želijo ohraniti konkurenčnost brez povečevanja števila zaposlenih. Kljub tehnološkemu napredku pa se podjetje Anthropic sooča z varnostnimi izzivi, saj so uvedli strožje tehnične omejitve proti nepooblaščenemu dostopu do svojih modelov preko orodij tretjih oseb. Ukrep je bil usmerjen proti tistim, ki so poskušali zaobiti uradne cenovne modele in omejitve uporabe. Čeprav je prišlo do nenamernih blokad nekaterih uporabniških računov, Anthropic vztraja pri zaščiti svoje intelektualne lastnine pred rivalskimi laboratoriji, kot je xAI, ki naj bi poskušali uporabiti njihove sisteme za treniranje konkurenčnih modelov.

Guvernerka zvezne države New York Kathy Hochul je napovedala obsežen zakonodajni paket, katerega namen je zaščititi otroke pred spletnimi plenilci, goljufi in škodljivimi klepetalnimi roboti z umetno inteligenco. Predlogi vključujejo obvezno onemogočanje funkcij spremljevalcev z umetno inteligenco na družbenih omrežjih, igralnih platformah in v aplikacijah za sporočanje za mladoletne osebe. Poleg tega načrt uvaja privzeto nastavitev zasebnosti za mlajše uporabnike, strožje preverjanje starosti in možnost, da starši omejijo finančne transakcije svojih otrok na spletu. Ob varnostnih ukrepih guvernerka predlaga tudi širitev programa za prvo pomoč na področju duševnega zdravja najstnikov po celotni zvezni državi, kar bi omogočilo usposabljanje vsakemu dijaku desetega razreda. Ta prizadevanja dopolnjujejo njene prejšnje pobude, kot sta prepoved uporabe pametnih telefonov v šolah in uvedba opozorilnih nalepk na družbenih omrežjih. Generalna državna tožilka Letitia James je poudarila nujnost sprejetja teh zaščit, saj se mladostniki na platformah, kot je Roblox, srečujejo z nevarnimi okolji. Hochulova je izpostavila, da je kot prva guvernerka, ki je hkrati mati, varnost otrok postavila za svojo glavno prioriteto, s čimer želi New York postaviti za vodilni zgled pri zagotavljanju varnosti v digitalnem svetu.