Slika je umetno generirana iz tem: tehnologija, umetna inteligenca, varnost

Sredina

Zanesljiv vir

tehnologija

Sredina

Zanesljiv vir

Zico Kolter vodi varnostni panel OpenAI z močjo zaustavitve nevarnih izdaj umetne inteligence

Objavljeno: 2. 11. 2025 15:05

2. nov 13:22

Profesor Zico Kolter z univerze Carnegie Mellon vodi štiričlanski panel pri OpenAI, ki ima pooblastila za zaustavitev izdaj novih sistemov umetne inteligence, če se ugotovi, da so nevarni. Njegova vloga velja za eno najpomembnejših v tehnološki industriji. Panel lahko zaustavi tehnologijo, ki bi jo lahko zlonamerne osebe uporabile za izdelavo orožja za množično uničevanje, ali klepetalnika, ki bi škodoval duševnemu zdravju ljudi.

Profesor Zico Kolter z univerze Carnegie Mellon vodi štiričlanski panel pri OpenAI, ki ima pooblastila za zaustavitev izdaj novih sistemov umetne inteligence, če se ugotovi, da so nevarni. Panel lahko ustavi tehnologijo, ki bi jo lahko zlonamerne osebe uporabile za izdelavo orožja za množično uničevanje, ali klepetalnika, ki bi škodoval duševnemu zdravju ljudi.

Kategorije in teme

Kategorije

tehnologija

Teme

Dodatne informacije

Države poročanja: indija zda kanada
Jeziki: en
Relevantnost za Slovenijo: 5.00
Število izvornih člankov: 9
Datum prvega članka: 2. 11. 2025 13:21
Datum najnovejšega članka: 2. 11. 2025 13:22

Entitete in sentiment

Entiteta	Sentiment
Zico Kolter	nevtralno
OpenAI	nevtralno
Carnegie Mellon University	nevtralno
ChatGPT	nevtralno
Univerza Carnegie Mellon	nevtralno

Izvorni članki

This Professor Leads An OpenAI Panel With Power...

ndtv.com | 2. 11. 2025 18:19

Who is Zico Kolter? A professor leads OpenAI sa...

ap.com | 2. 11. 2025 18:01

Zico Kolter leads OpenAI safety panel with powe...

business-standard.com | 2. 11. 2025 17:40

The professor leading OpenAI’s safety panel may...

fortune.com | 2. 11. 2025 15:28

Who is Zico Kolter? A professor leads OpenAI sa...

financialpost.com | 2. 11. 2025 13:24

Who is Zico Kolter? A professor leads OpenAI sa...

halifax.citynews.ca | 2. 11. 2025 13:22

Who is Zico Kolter? A professor leads OpenAI sa...

kstp.com | 2. 11. 2025 13:21

Who is Zico Kolter? A professor leads OpenAI sa...

wdio.com | 2. 11. 2025 13:21

Who is Zico Kolter? A professor leads OpenAI sa...

wnyt.com | 2. 11. 2025 13:21

Lastnosti poročanja virov

Viri imajo različne politične orientacije in preference, prav tako tipe poročanja. Vsak vir lahko poroča na več različnih načinov (objavljanje novic, intervjuji, itn. Ni nujno, da so viri vedno zanesljivi. Če je vir kdaj v preteklosti širil dezinformacije ali propagando, je to navedeno, vendar to ne pomeni samodejno, da je ta novica lažna. Prav tako ni nujno, da so viri z določeno politično orientacijo vedno pristranski v poročanju.

Število kvadratkov prikazuje, koliko virov v tej novici ima določeno značilnost.

Tip poročanja

poročanje o novicah:

analize:

lokalno poročanje:

mnenja in komentarji:

preiskovalno novinarstvo:

vreme:

intervjuji:

Zanesljivost

zanesljiv:

Politična orientacija

neznano:

sredina:

leva sredina:

Politične preference

neznano:

protržni:

fiskalno konzervativen:

globalističen:

kapitalističen:

progresiven:

Neodvisnost

neodvisen:

odvisen:

Objektivnost

nepristranski:

pristranski:

Več o ocenjevanju virov.

Zakaj je novica relevantna za Slovenijo

Umetna inteligenca postaja vse bolj pomembna tema tudi v Sloveniji, zato je informacija o nadzoru nad njenim razvojem relevantna.

Podobni članki

politika obramba

Strožji varnostni ukrepi za mehiški biometrični CURP, digitalne identitete in skrb za zasebnost v porastu

1 posodobitev 8. okt 1:00

Združeni arabski emirati so postali vodilni v pametnem transportu s pomočjo umetne inteligence in velikih podatkov. Salesforce je predstavil AI agente na platformi Agentforce za izboljšanje varnosti in skladnosti. HoudiniSwap je lansiral POINTLESS, prvi zasebni incentivni protokol. Odkrita je bila ranljivost Google Gemini, ki omogoča vdor s pomočjo vbrizgavanja ukazov, zato je priporočeno onemogočiti dostop do Gmaila in Google Koledarjev. Wicket je presegel 5 milijonov transakcij s svojim biometričnim sistemom vstopnic.

posel tehnologija

Zencoder predstavlja Zenflow, Zoom pa trdi, da je opravil najtežji izpit za umetno inteligenco; Japonsko podjetje usposablja robote brez človeškega posredovanja

16. dec 18:57

Zencoder, podjetje iz Silicijeve doline, je predstavilo Zenflow, brezplačno aplikacijo za orkestracijo umetne inteligence, ki naj bi spremenila interakcijo med programerji in umetno inteligenco. Zoom trdi, da je dosegel najvišji rezultat na zahtevnem testu za umetno inteligenco, čeprav so se pojavili dvomi o avtentičnosti. Japonsko podjetje Integral AI pa poroča o napredku pri modelu splošne umetne inteligence, ki se uči novih veščin brez človeške pomoči.

politika tehnologija

Znane osebnosti in strokovnjaki pozivajo k premoru pri razvoju superinteligentne umetne inteligence

22. okt 16:04

Več kot 700 znanstvenikov, politikov, umetnikov in voditeljev, med njimi princ Harry, Richard Branson in Steve Bannon, je pozvalo k ustavitvi razvoja umetne inteligence, ki bi presegla človeško inteligenco. V odprtem pismu opozarjajo, da bi lahko nenadzorovan razvoj superinteligentne AI prehitel človeški nadzor in ogrozil družbo. Iniciativa poziva k prepovedi razvoja superinteligentne AI, dokler ne bo zagotovljena njena varnost.

gospodarstvo finance

OpenAI priznal, da je vbrizgavanje pozivov trajna težava, Tata Tech stavi na rast s poudarkom na domeni, Easy Metrics pa vodi Dan Keto

26. dec 17:56

OpenAI je priznal, da vbrizgavanje pozivov verjetno ne bo nikoli popolnoma rešeno, kar potrjuje dolgoletne skrbi varnostnih strokovnjakov. Tata Technologies medtem sprejema strategijo, ki jo vodi domena, da bi spodbudila rast v okolju, kjer umetna inteligenca briše meje med inženiringom in IT. Poleg tega pa Dan Keto, predsednik in tehnološki direktor podjetja Easy Metrics, nadaljuje z inovacijami na področju programske opreme za upravljanje dela.

obramba tehnologija

Povečana pozornost varnosti umetne inteligence in pristopom k validaciji algoritmov

21. okt 14:04

Članki obravnavajo vse večjo pozornost, ki jo družba posveča validaciji umetne inteligence (UI) in povečevanju njene varnosti. Poudarek je na tem, da je bila varnost UI v preteklosti pogosto zapostavljena, zdaj pa postaja prioriteta. Raziskujejo se rigorozni pristopi k validaciji algoritmov, saj obljubljajo dobre karierne priložnosti in prispevajo k splošni varnosti UI. Obenem se UI izpostavlja kot pomemben element kibernetske obrambe, ki pomaga pri prepoznavanju vzorcev in zmanjševanju utrujenosti analitikov, vendar pa je ključno, da se zagotovi njena varnost.

gospodarstvo tehnologija

Vlaganja v umetno inteligenco naraščajo, varnostni strokovnjaki eksperimentirajo, medtem ko podjetja izgubljajo strokovnjake za UI.

9. sep 12:09

Podjetja po vsem svetu močno vlagajo v infrastrukturo za umetno inteligenco (UI), vendar večina sredstev gre za računalniško moč in strojno opremo, ne pa za samo UI. Varnostni voditelji preizkušajo različne načine uporabe UI za izboljšanje varnostnih operacij, vendar uvajajo UI previdno. Gartner napoveduje, da bo do leta 2030 vse delo v IT oddelkih potekalo s pomočjo UI, vendar naj to ne bi povzročilo izgube delovnih mest. Poljski posrednik XTB je izgubil vodjo umetne inteligence, kar kaže na konkurenčen boj za talente na področju UI.