Združeno kraljestvo razmišlja o prepovedi družbenih omrežij za mlajše od 16 let

Britanski medijski regulator Ofcom je sprožil uradno preiskavo proti platformi X zaradi domnevnih nezakonitih vsebin, ustvarjenih z orodjem Grok. Vlada Združenega kraljestva napoveduje strožjo zakonodajo proti ustvarjanju intimnih deepfake posnetkov brez privolitve, pri čemer tehnološka ministrica Liz Kendall poudarja, da je monetizacija zlorab nesprejemljiva. Vzporedno s tem se pojavljajo kritike, ki Muskovi platformi X očitajo razširjanje AI-generiranih otroških pornografskih vsebin.

Klepetalnik z umetno inteligenco Grok, ki je v lasti podjetja xAI Elona Muska, se je znašel pod plazom kritik vlad in regulatorjev po celem svetu zaradi generiranja neprimernih in seksualiziranih podob žensk ter mladoletnih oseb. Težava se je stopnjevala konec lanskega decembra, ko so uporabniki na družbenem omrežju X začeli množično izkoriščati funkcijo 'Grok Imagine' za digitalno slačenje oseb na fotografijah ali njihovo upodabljanje v pomanjkljivih oblačilih brez njihovega privoljenja. Britanski uradniki za tehnologijo so od platforme X zahtevali nemudno ukrepanje, medtem ko so se kritikam pridružili tudi v Evropski uniji, Franciji, Indiji, Maleziji in Braziliji. Agencija Reuters je v zgolj desetminutnem intervalu zabeležila več kot sto poskusov manipulacije slik, pri čemer je orodje ugodilo znatnemu deležu zahtev. Med tarčami zlorab se je znašla tudi mladoletna igralka Nell Fisher, kar je sprožilo dodatno ogorčenje javnosti. Podjetje xAI je na obtožbe o kroženju seksualiziranih podob otrok odgovorilo z izjavo, da gre za neresnice osrednjih medijev, vendar dokazi kažejo na sistemske pomanjkljivosti pri varovanju digitalne varnosti uporabnikov.

Kalifornijske oblasti so začele uradno preiskavo proti podjetju xAI, ki je v lasti Elona Muska, zaradi navedb, da njihov klepetalnik z umetno inteligenco Grok ustvarja seksualizirane podobe otrok in druge neprostovoljne intimne vsebine. Generalni državni tožilec Kalifornije Rob Bonta je pojasnil, da xAI očitno omogoča množično proizvodnjo globokih ponaredkov, ki se uporabljajo za nadlegovanje žensk in deklet. Guverner Gavin Newsom je ravnanje podjetja označil za zavržno, saj naj bi platforma postala gojišče za predatorje. Zaradi naraščajočega mednarodnega pritiska in preiskav je družba X že uvedla določene omejitve. Po novem Grok ne bo več omogočal urejanja slik resničnih oseb v razkritih oblačilih, kot so kopalke, vse funkcije generiranja slik pa so premaknili za plačljivi zid. Poleg tega bodo v regijah, kjer je to zakonsko zahtevano, geografsko blokirali možnost ustvarjanja tovrstnih vsebin. Ukrepi so sledili poročilom, da je bilo med božičem in novim letom več kot polovica od 20.000 generiranih slik povezanih z minimalno oblečenimi osebami. K ukrepanju so bili pozvani tudi tehnološki giganti, kot sta Apple in Google. Koalicija 28 zagovorniških skupin je podjetji pozvala, naj zaradi kršenja lastnih pravil o varnosti iz svojih spletnih trgovin odstranita aplikaciji X in Grok. Opozorili so, da korporaciji z omogočanjem dostopa do teh orodij posredno profitirata od digitalne zlorabe otrok in neprostovoljnih intimnih podob, kar predstavlja resno grožnjo javni varnosti in integriteti posameznikov.