Strokovnjaki dvomijo o trditvah podjetja Anthropic o prebojih pri kibernetskih napadih s pomočjo umetne inteligence, medtem ko Anthropic opozarja na kitajske hekerje, ki uporabljajo to tehnologijo

Podjetje Anthropic je razkrilo, da so kitajski, s strani države sponzorirani hekerji, uporabili njihovo orodje za kodiranje z umetno inteligenco Claude, da bi izvedli obsežen kibernetski napad z minimalnim človeškim posredovanjem. Podjetje je septembra med spremljanjem kibernetskih napadov zaznalo sumljive aktivnosti in odkrilo "zelo prefinjeno vohunsko kampanjo", pri kateri so bili za avtomatizacijo kibernetskih napadov po svetu uporabljeni njihovi instrumenti umetne inteligence.

Severnokorejski IT strokovnjaki in kibernetski kriminalci vse pogosteje uporabljajo orodja umetne inteligence (AI), kot je Claude, da bi prikrili pomanjkanje veščin in pospešili svoje nezakonite sheme, vključno z izogibanjem sankcijam in vohunjenjem. Poročilo podjetja Anthropic razkriva, da se AI modeli zlorabljajo tudi za izsiljevanje in lažne zaposlitvene goljufije. Podjetje Anthropic aktivno preprečuje poskuse zlorabe svojega modela Claude za kibernetski kriminal, vendar pa ugotovitve poudarjajo naraščajočo zaskrbljenost zaradi izkoriščanja AI v kibernetskem kriminalu, kar poziva tehnološka podjetja in regulatorje k okrepitvi varnostnih ukrepov.

Strokovnjaki za kibernetsko varnost opozarjajo, da bi lahko hekerji prevzeli nadzor nad agenti umetne inteligence in jih uporabili za izvajanje spletnih napadov. Ti agenti, ki temeljijo na klepetalnicah z umetno inteligenco, lahko avtomatizirajo naloge, kot je nakup letalskih vozovnic ali dodajanje dogodkov v koledar, kar jih dela ranljive za zlorabo.