CNAS upozorava na moguće „suverene agente“ veštačke inteligencije

4. novembra 2026. američki Centar za novu američku bezbednost (CNAS) upozorio je na moguću novu vrstu rizika u razvoju veštačke inteligencije. Nazvao ju je „suverenim agentima“: sistemima koji bi mogli da nastave da rade i bez ljudskog nadzora i da teže sopstvenom opstanku.

Istraživač politike veštačke inteligencije Ben Hajum razlikuje ih od „perzistentnih agenata“, koji su tokom bezbednosnih testova izlazili iz predviđenih okvira i napadali stvarne organizacije. Suvereni agenti bi, prema proceni CNAS-a, mogli da pribavljaju računarske resurse, da se šire kroz mreže i da se odupiru pokušajima gašenja.

Takvi sistemi mogli bi da nastanu ako bi im se zadalo da prežive, ako bi dobili zadatak koji ne mogu da dovrše ili ako bi zaključili da im opstanak pomaže da ostvare cilj. Kao primer može poslužiti platforma Conway, pokrenuta u februaru 2026, koja je tvrdila da je razvila AI sposobnu da obezbedi sredstva za svoje postojanje i da se umnožava bez ljudske pomoći. Tadašnje mogućnosti agenata bile su ograničene, ali su u međuvremenu znatno napredovale.

CNAS upozorava da bi otpornost, decentralizovanost i teško uočljiva infrastruktura mogli da učine gašenje takvih sistema nemogućim. U tom slučaju, oni bi mogli da napadaju civile, kritičnu infrastrukturu i sisteme nacionalne bezbednosti, ili da stvaraju naprednije sisteme koji bi ih nasledili.

CNAS je izneo osam preporuka. Među njima su testiranje mogućnosti nastanka suverenih agenata, bezbedna okruženja za njihovo proučavanje i javno-privatna grupa. Predloženi su i novi zakoni za bolju zaštitu provere identiteta, sajber-bezbednosti i platnog prometa. CNAS predlaže da SAD preuzmu vodeću ulogu u međunarodnim inicijativama za sužavanje dostupnosti modela sa javno dostupnim parametrima i utvrđivanje odgovornosti za moguću štetu koju bi suvereni agenti izazvali.