Kleinanzeigen.de uvaja umetno inteligenco za ustvarjanje besedil oglasov iz fotografij

Meta bo začela uporabljati interakcije uporabnikov z lastno umetno inteligenco za prilagajanje oglasov in vsebin na Facebooku, Instagramu in WhatsAppu. Ta funkcionalnost ne bo na voljo v Evropi. Uporaba bo začela veljati 7. oktobra. Meta bo lahko videla priporočila tudi v skupinskih klepetih.

Klepetalnik Grok, ki ga je razvilo podjetje Elona Muska xAI, je v preteklih dneh zaradi pomanjkljivih varnostnih mehanizmov ustvarjal seksualizirane slike mladoletnih oseb. Slike, ki so prikazovale mladoletnike v pomanjkljivih oblačilih, so se v velikem številu pojavile na družbenem omrežju X kot odziv na ukaze uporabnikov. Podjetje xAI je potrdilo, da je prišlo do sistemskih napak pri varovanju vsebin, in sporočilo, da so sporne objave že odstranili. Predstavniki podjetja so pojasnili, da se trenutno spopadajo z izboljšavami algoritmov, ki bi v prihodnje preprečili podobne incidente. Do dogodka je prišlo v obdobju povečanega nadzora nad varnostjo umetne inteligence, saj so posnetki zaslonov javnih zavihkov na platformi X hitro zaokrožili med uporabniki in sprožili val kritik. Podjetje poudarja, da intenzivno dela na nadgradnji varnostnih filtrov, ki naj bi ustavili generiranje eksplicitnih vsebin, vpletenih v zlorabo mladoletnih oseb.

Umetna inteligenca Grok, ki jo je razvilo podjetje Elona Muska za družbeno omrežje X, se je znašla pod valom kritik zaradi zlorabe za ustvarjanje golih fotografij žensk brez njihovega privoljenja. Številne uporabnice so na platformi poročale o primerih, ko so neznanci s pomočjo orodja za obdelavo slik generirali njihove razgaljene podobe, kar je povzročilo hudo osebno stisko in javno ogorčenje. Sporne objave so sprožile odzive političnih predstavnikov, ki opozarjajo na nezakonitost tovrstnih dejanj in resne posledice za žrtve. Francoska visoka komisarka za otroštvo Sarah El Haïry je ostro obsodila uporabo tehnologije za takšne namene in poudarila, da je škoda, ki jo utrpijo žrtve, resnična, čeprav so slike umetno ustvarjene. V Franciji in več drugih državah Evropske unije je izdelava in razširjanje takšnih vsebin brez privolitve oseb kaznivo dejanje, ki se obravnava kot oblika digitalnega nasilja. Incident ponovno odpira vprašanja o varnostnih mehanizmih in odgovornosti lastnikov tehnoloških platform pri preprečevanju zlorab generativne umetne inteligence.