Povečana varnost AI: Cloudflare uvaja orodja za zaščito in oceno zaupanja, strokovnjaki opozarjajo na varnostne izzive

Podjetje Bugcrowd, platforma za množično financirano kibernetsko varnost, je prevzelo podjetje Mayhem Security, specializirano za ofenzivno varnost na osnovi umetne inteligence. Cilj prevzema je izboljšati varnostno testiranje s kombinacijo človeškega faktorja in umetne inteligence. Mayhem Security, ki je nastal iz raziskav na univerzi Carnegie Mellon leta 2012, se osredotoča na avtomatizacijo odkrivanja in odpravljanja ranljivosti programske opreme. S prevzemom želi Bugcrowd organizacijam omogočiti hitrejšo in varnejšo dobavo programske opreme z zmanjšanjem napadalne površine.

Podjetja SAP, OpenAI in Microsoft sodelujejo pri opremljanju nemških javnih ustanov, vključno z upravami, šolami in univerzami, z umetno inteligenco. Cilj je, da bi te institucije lahko »varno in odgovorno« uporabljale tehnologijo umetne inteligence za obvladovanje velikih količin dokumentacije. Medtem ko pravila prihajajo iz Nemčije, tehnologija v veliki meri izvira iz ZDA.

Tehnološki sektor se ob koncu leta 2025 sooča s korenitimi spremembami, saj število agentov umetne inteligence (UI) in strojne identitete zdaj močno presegajo število človeških uporabnikov, in sicer v razmerju 82 proti 1. Ta hiter porast povzroča resne težave tradicionalnim varnostnim arhitekturam IAM, ki so bile prvotno zasnovane za ljudi. Strokovnjaki opozarjajo, da bodo do leta 2028 kršitve, povezane z zlorabo UI agentov, predstavljale četrtino vseh vdorov v podjetja, kar sili podjetja, kot je ServiceNow, v milijardne naložbe v varnostno infrastrukturo. Na trgu istočasno prihaja do pomembnih konsolidacij in lansiranja novih orodij. Podjetje Qvantel je uspešno zaključilo prevzem družbe Optiva, s čimer je nastal globalni velikan na področju telekomunikacijskih rešitev, ki jih poganja UI. Podjetje x.ai je predstavilo platformi Grok Business in Enterprise, ki obljubljata večjo varnost pri delu s podatki v oblaku, medtem ko je borza KuCoin lansirala asistenta KIA za analizo kripto trga. Te novosti so neposredna posledica trendov, ki smo jim bili priča v preteklem letu, vključno z Metinim prevzemom podjetja Manus AI, kar potrjuje, da avtonomni agenti postajajo osrednji element sodobnega digitalnega gospodarstva.