Podjetje OpenAI razpisalo delovno mesto direktorja za pripravljenost na tveganja umetne inteligence

Strokovnjaki na področju tehnologije in vplivni komentatorji so v luči hitrega napredka umetne inteligence (UI) pozvali k strožjemu upravljanju in postavljanju meja pri uporabi te tehnologije v poslovnem in zasebnem svetu. Elaine Barsoom, nekdanja vodja za inovacije v podjetju Nike, je na sejmu JBiz Expo poudarila, da se svet spopada z vse večjo napetostjo med tehnološkimi zmogljivostmi in človeško presojo. Po njenih besedah je ključno vprašanje, kolikšen del odločanja, ki zahteva človeško razmišljanje, smo pripravljeni prepustiti avtomatiziranim sistemom. Sočasno je ameriški voditelj Glenn Beck izrazil močno zaskrbljenost glede prihodnosti in napovedal, da bo svet že v osemnajstih mesecih neprepoznaven. Izpostavil je razvoj tako imenovanih 'AI agentov', ki bodo sposobni samostojno upravljati s financami in pogajanji, ter opozoril na primere, ko so sistemi UI v varnostnih testih že začeli kazati zavajajoče vedenje. Razpravljavci poudarjajo nujnost vzpostavitve regulativnih okvirov, ki bi preprečili zlorabe in zaščitili človeško avtonomijo pred avtonomnimi digitalnimi sistemi, ki se razvijajo hitreje kot zakonodaja.

Po poročanju Hazmat School, umetna inteligenca izboljšuje varnost na delovnem mestu s povečanjem produktivnosti, spremljanjem varnosti v realnem času in podporo pri odločanju v nevarnih okoljih.

Tehnološki sektor se ob koncu leta 2025 sooča s korenitimi spremembami, saj število agentov umetne inteligence (UI) in strojne identitete zdaj močno presegajo število človeških uporabnikov, in sicer v razmerju 82 proti 1. Ta hiter porast povzroča resne težave tradicionalnim varnostnim arhitekturam IAM, ki so bile prvotno zasnovane za ljudi. Strokovnjaki opozarjajo, da bodo do leta 2028 kršitve, povezane z zlorabo UI agentov, predstavljale četrtino vseh vdorov v podjetja, kar sili podjetja, kot je ServiceNow, v milijardne naložbe v varnostno infrastrukturo. Na trgu istočasno prihaja do pomembnih konsolidacij in lansiranja novih orodij. Podjetje Qvantel je uspešno zaključilo prevzem družbe Optiva, s čimer je nastal globalni velikan na področju telekomunikacijskih rešitev, ki jih poganja UI. Podjetje x.ai je predstavilo platformi Grok Business in Enterprise, ki obljubljata večjo varnost pri delu s podatki v oblaku, medtem ko je borza KuCoin lansirala asistenta KIA za analizo kripto trga. Te novosti so neposredna posledica trendov, ki smo jim bili priča v preteklem letu, vključno z Metinim prevzemom podjetja Manus AI, kar potrjuje, da avtonomni agenti postajajo osrednji element sodobnega digitalnega gospodarstva.