Anthropic upozorava na rizike samousavršavajuće veštačke inteligencije

Istraživači koji rade na razvoju veštačke inteligencije upozoravaju da bi budući sistemi mogli da ubrzavaju sopstveni razvoj. Ključna briga je takozvano rekurzivno samousavršavanje: proces u kojem AI koristi svoje sposobnosti da pravi naprednije verzije sebe, uz sve manji neposredni ljudski nadzor.

Evan Habinger, glavni istraživač kompanije Anthropic, procenio je da postoji više od 10 odsto šanse da veštačka inteligencija uništi čovečanstvo tokom naredne decenije. Naglasio je da je to procena rizika, a ne izvesno predviđanje, i rekao da kompanija još nema rešenje za obuzdavanje superinteligencije. U izveštaju o rizicima Anthropic ipak ocenjuje da je opasnost od sadašnjih modela mala.

U regulatornom dokumentu Anthropic navodi da koristi sopstvenu tehnologiju da ubrza istraživanje i razvoj. Kompanija priznaje da ranije nije na vreme uočila nagli rast sposobnosti nekih modela. Prema njenim procenama, budući sistemi mogli bi brzo da dostignu prag dramatičnog ubrzanja, ali nijedan postojeći model ga još nije dostigao. Anthropic kaže da ne planira da prepusti Claudeu samostalno stvaranje narednih vodećih sistema bez suštinskog ljudskog nadzora.

Džejkob Kokson, koji je radio na obuci AI sistema u Anthropic-u i OpenAI-ju, kritikovao je pristup obe kompanije kao neodgovoran. Glavni naučnik OpenAI-ja Jakub takođe je upozorio na rizike autonomnih agenata i pozvao na usporavanje razvoja. Obojica su istakla opasnost od sistema čiji bi napredak ljudi teško kontrolisali.