OpenAI razpisal delovno mesto za vodjo pripravljenosti na tveganja umetne inteligence

Ameriško podjetje OpenAI je objavilo razpis za novo vodstveno delovno mesto pod nazivom 'vodja pripravljenosti' (Head of Preparedness), za katero ponuja letno plačo v višini 555.000 ameriških dolarjev. Glavna naloga novega direktorja bo prepoznavanje in omejevanje katastrofalnih tveganj, ki jih prinašajo napredni modeli umetne inteligence, vključno s kibernetskimi grožnjami, kemičnimi nevarnostmi in vplivi na duševno zdravje uporabnikov. Generalni direktor podjetja Sam Altman je ob tem opozoril, da bo proces obvladovanja teh nevarnosti v prihodnje izjemno zahteven. Strateška odločitev podjetja prihaja v času vse večjih pritiskov javnosti in regulatornih organov glede varnosti tehnologij ChatGPT. Nova ekipa se bo osredotočala na preprečevanje morebitnih zlorab tehnologije še pred uradnim lansiranjem novih modelov na trg. S tem korakom želi OpenAI vzpostaviti močnejši okvir za varno uporabo generativne umetne inteligence, ki bi lahko v nasprotnem primeru povzročila nepopravljivo družbeno ali tehnično škodo.

Generalni državni tožilci Kalifornije in Delaware so podjetje OpenAI opozorili glede varnosti njihovega vodilnega klepetalnika ChatGPT, zlasti v zvezi z otroki in najstniki. Izpostavili so "resne pomisleke" in poslali pismo vodstvu podjetja, ki ima posebne pristojnosti za regulacijo neprofitnih organizacij, kot je OpenAI. Opozorilo poudarja nevarnosti, ki jih lahko ChatGPT predstavlja za mladoletnike, in poziva k izboljšanju varnostnih ukrepov.

Članki obravnavajo vse večjo pozornost, ki jo družba posveča validaciji umetne inteligence (UI) in povečevanju njene varnosti. Poudarek je na tem, da je bila varnost UI v preteklosti pogosto zapostavljena, zdaj pa postaja prioriteta. Raziskujejo se rigorozni pristopi k validaciji algoritmov, saj obljubljajo dobre karierne priložnosti in prispevajo k splošni varnosti UI. Obenem se UI izpostavlja kot pomemben element kibernetske obrambe, ki pomaga pri prepoznavanju vzorcev in zmanjševanju utrujenosti analitikov, vendar pa je ključno, da se zagotovi njena varnost.