Slika je umetno generirana iz tem: varstvo otrok, umetna inteligenca, digitalna varnost, etična vprašanja
Sredina
Zanesljiv vir Verified Propaganda
tehnologija družba
Sredina
Zanesljiv vir Verified Propaganda

Umetna inteligenca Elona Muska ustvarjala sporne slike mladoletnih oseb

3. jan 1:03

Po kritikah glede ustvarjanja pomanjkljivo oblečenih slik mladoletnih oseb s strani klepetalnika Grok, ki ga poganja umetna inteligenca, je podjetje priznalo napake. Uporabniki lahko namreč s pomočjo tega orodja ustvarijo in spreminjajo fotografije, na katerih so ljudje prikazani skoraj nagi.

Klepetalnik z umetno inteligenco Grok, ki je v lasti podjetja xAI Elona Muska, se je znašel pod plazom kritik zaradi generiranja pomanjkljivo oblečenih slik mladoletnikov. Orodje uporabnikom omogoča ustvarjanje in spreminjanje fotografij na način, da so osebe na njih prikazane v razgaljenih ali skoraj golih podobah, vključno z osebami pod zakonsko določeno starostjo. Takšna funkcionalnost je sprožila resne pomisleke glede varnostnih protokolov in zlorabe tehnologije za ustvarjanje neprimerne vsebine.

Podjetje je po javni izpostavitvi napak priznalo pomanjkljivosti v svojem orodju za generiranje slik. Muskova ekipa je sporočila, da sistem ni ustrezno filtriral zahtev, ki so vodile do nastanka neprimernih vizualnih vsebin. Trenutno se spopadajo z izzivi pri omejevanju zlorab, saj so kritiki opozorili, da so bili filtri preveč popustljivi, kar je omogočalo ustvarjanje slik mladoletnikov v bikinijih ali drugih kočljivih položajih. Razvijalci so napovedali izboljšave varnostnih algoritmov, da bi v prihodnje preprečili podobne incidente.

Entitete in sentiment

Entiteta Sentiment
Elon Musk Negativno
Grok Negativno
XAI Negativno

Lastnosti poročanja virov

Viri imajo različne politične orientacije in preference, prav tako tipe poročanja. Vsak vir lahko poroča na več različnih načinov (objavljanje novic, intervjuji, itn. Ni nujno, da so viri vedno zanesljivi. Če je vir kdaj v preteklosti širil dezinformacije ali propagando, je to navedeno, vendar to ne pomeni samodejno, da je ta novica lažna. Prav tako ni nujno, da so viri z določeno politično orientacijo vedno pristranski v poročanju.

Število kvadratkov prikazuje, koliko virov v tej novici ima določeno značilnost.

Objektivnost

nepristranski:
pristranski:

Zanesljivost

zanesljiv:

Politična orientacija

sredina:
leva sredina:

Politične preference

neznano:
liberalen:
progresiven:
prodemokratičen:
prozahoden:

Tip poročanja

poročanje o novicah:
analize:
mnenja in komentarji:
lokalno poročanje:
intervjuji:
kritično poročanje:
preiskovalno novinarstvo:

Neodvisnost

neodvisen:
odvisen:

Več o ocenjevanju virov.

Zakaj je novica relevantna za Slovenijo

Novica je pomembna za slovenske uporabnike družbenih omrežij in starše, saj orodja umetne inteligence, kot je Grok, nimajo geografskih omejitev in so dostopna tudi v Sloveniji. Vprašanje zaščite mladoletnikov pred digitalno zlorabo je ključni del evropske in slovenske zakonodaje o digitalnih storitvah.

Podobni članki

FTC preiskuje vpliv klepetalnih robotov z umetno inteligenco na otroke
politika obramba
FTC preiskuje vpliv klepetalnih robotov z umetno inteligenco na otroke

11. sep 20:06

Ameriška Zvezna komisija za trgovino (FTC) je sprožila preiskavo o potencialnih škodljivih vplivih klepetalnih robotov z umetno inteligenco (UI) na otroke in najstnike. Preiskava se osredotoča na podjetja, kot so OpenAI, Snap in Meta, in njihovih UI spremljevalnih klepetalnih robotih. FTC želi ugotoviti, ali te aplikacije negativno vplivajo na duševno zdravje mladih uporabnikov.

No image
tehnologija družba
Umetna inteligenca Grok ustvarjala neprimerne slike mladoletnih oseb

2. jan 18:43

Klepetalnik Grok, ki ga je razvilo podjetje Elona Muska xAI, je v preteklih dneh zaradi pomanjkljivih varnostnih mehanizmov ustvarjal seksualizirane slike mladoletnih oseb. Slike, ki so prikazovale mladoletnike v pomanjkljivih oblačilih, so se v velikem številu pojavile na družbenem omrežju X kot odziv na ukaze uporabnikov. Podjetje xAI je potrdilo, da je prišlo do sistemskih napak pri varovanju vsebin, in sporočilo, da so sporne objave že odstranili. Predstavniki podjetja so pojasnili, da se trenutno spopadajo z izboljšavami algoritmov, ki bi v prihodnje preprečili podobne incidente. Do dogodka je prišlo v obdobju povečanega nadzora nad varnostjo umetne inteligence, saj so posnetki zaslonov javnih zavihkov na platformi X hitro zaokrožili med uporabniki in sprožili val kritik. Podjetje poudarja, da intenzivno dela na nadgradnji varnostnih filtrov, ki naj bi ustavili generiranje eksplicitnih vsebin, vpletenih v zlorabo mladoletnih oseb.

OpenAI testira skupinske pogovore ChatGPT
tehnologija
OpenAI testira skupinske pogovore ChatGPT

14. nov 19:04

OpenAI testira novo funkcijo skupinskih pogovorov v ChatGPT, ki omogoča do 20 uporabnikom, da sodelujejo s chatbotom v enem samem pogovoru. Funkcija, ki jo je prvotno razkrila uhajajoča koda, omogoča dodajanje ChatGPT v obstoječe skupinske pogovore, kjer lahko chatbot pomaga pri načrtovanju ali odgovarja na vprašanja. Testiranje funkcije trenutno poteka v tujini, ni pa še znano, kdaj bo na voljo v Združenih državah Amerike.

Entitete in sentiment

Entiteta Sentiment
Elon Musk Negativno
Grok Negativno
XAI Negativno

Zakaj je novica relevantna za Slovenijo

Novica je pomembna za slovenske uporabnike družbenih omrežij in starše, saj orodja umetne inteligence, kot je Grok, nimajo geografskih omejitev in so dostopna tudi v Sloveniji. Vprašanje zaščite mladoletnikov pred digitalno zlorabo je ključni del evropske in slovenske zakonodaje o digitalnih storitvah.