Google in Character.AI sklenila poravnavo v tožbah zaradi samomorov mladoletnikov

Klepetalnik z umetno inteligenco Grok, ki je v lasti podjetja xAI Elona Muska, se je znašel pod plazom kritik vlad in regulatorjev po celem svetu zaradi generiranja neprimernih in seksualiziranih podob žensk ter mladoletnih oseb. Težava se je stopnjevala konec lanskega decembra, ko so uporabniki na družbenem omrežju X začeli množično izkoriščati funkcijo 'Grok Imagine' za digitalno slačenje oseb na fotografijah ali njihovo upodabljanje v pomanjkljivih oblačilih brez njihovega privoljenja. Britanski uradniki za tehnologijo so od platforme X zahtevali nemudno ukrepanje, medtem ko so se kritikam pridružili tudi v Evropski uniji, Franciji, Indiji, Maleziji in Braziliji. Agencija Reuters je v zgolj desetminutnem intervalu zabeležila več kot sto poskusov manipulacije slik, pri čemer je orodje ugodilo znatnemu deležu zahtev. Med tarčami zlorab se je znašla tudi mladoletna igralka Nell Fisher, kar je sprožilo dodatno ogorčenje javnosti. Podjetje xAI je na obtožbe o kroženju seksualiziranih podob otrok odgovorilo z izjavo, da gre za neresnice osrednjih medijev, vendar dokazi kažejo na sistemske pomanjkljivosti pri varovanju digitalne varnosti uporabnikov.

V zadnjem obdobju se več držav sooča s kritičnimi izzivi na področju pravosodja, ki segajo od spornih ustavnih sprememb v Pakistanu do tehnoloških anomalij v Združenih državah Amerike. Organizacija Amnesty International je ostro obsodila 27. amandma k pakistanski ustavi in ga označila za neposreden napad na neodvisnost sodstva ter vladavino prava. Zakonodaja, ki je bila v parlamentu sprejeta po hitrem postopku, je po mnenju kritikov močno okrnila legitimnost zveznega ustavnega sodišča in pravico do pravičnega sojenja. Istočasno v Pensilvaniji pravni strokovnjaki opozarjajo na nevarnosti uporabe umetne inteligence v sodnih procesih. Prizivna sodišča so zaznala primere t. i. halucinacij umetne inteligence, kjer so odvetniki v svojih vlogah navajali neobstoječe pravne precedense. Takšna praksa po mnenju pravnih analitikov ogroža stabilnost pravnega sistema, saj lahko napačne in izmišljene navedbe vplivajo na prihodnje sodne odločitve in izkrivljajo razlago zakonov. V Bolgariji pa ustavno sodišče obravnava vprašanje legitimnosti vršilca dolžnosti generalnega tožilca Borislava Sarafova. Sodišče je pozvalo sodnike iz Varne, naj pojasnijo in dopolnijo svojo zahtevo glede ustavnosti določb zakona o sodnem sistemu. Primer je ključen za razrešitev pravne praznine glede trajanja mandata začasnih funkcionarjev, kar dodatno poudarja globalne trende potrebe po jasni razmejitvi pristojnosti in zaščiti integritete pravosodnih institucij.

Guvernerka zvezne države New York Kathy Hochul je napovedala obsežen zakonodajni paket, katerega namen je zaščititi otroke pred spletnimi plenilci, goljufi in škodljivimi klepetalnimi roboti z umetno inteligenco. Predlogi vključujejo obvezno onemogočanje funkcij spremljevalcev z umetno inteligenco na družbenih omrežjih, igralnih platformah in v aplikacijah za sporočanje za mladoletne osebe. Poleg tega načrt uvaja privzeto nastavitev zasebnosti za mlajše uporabnike, strožje preverjanje starosti in možnost, da starši omejijo finančne transakcije svojih otrok na spletu. Ob varnostnih ukrepih guvernerka predlaga tudi širitev programa za prvo pomoč na področju duševnega zdravja najstnikov po celotni zvezni državi, kar bi omogočilo usposabljanje vsakemu dijaku desetega razreda. Ta prizadevanja dopolnjujejo njene prejšnje pobude, kot sta prepoved uporabe pametnih telefonov v šolah in uvedba opozorilnih nalepk na družbenih omrežjih. Generalna državna tožilka Letitia James je poudarila nujnost sprejetja teh zaščit, saj se mladostniki na platformah, kot je Roblox, srečujejo z nevarnimi okolji. Hochulova je izpostavila, da je kot prva guvernerka, ki je hkrati mati, varnost otrok postavila za svojo glavno prioriteto, s čimer želi New York postaviti za vodilni zgled pri zagotavljanju varnosti v digitalnem svetu.