Radio u OpenAI-ju i Anthropic-u pa dao otkaz: "Kockaju se našim životima"
Dodajte Kurir Biznis u vaš Google izbor- Istraživač Džejkob Kokson napustio je Anthropic i poručio da OpenAI i Anthropic 'kockaju našim životima' jureći ka samousavršavajućoj superinteligenciji.
- Njegove tvrdnje podržao je i Evan Habinger iz Anthropic-a, koji kaže da postoji više od 10 odsto šanse da AI u narednoj deceniji pobije ljude.
- Zbog rizika Berni Sanders najavljuje zakon protiv superinteligencije, dok EU traži procenu opasnosti od gubitka kontrole nad AI sistemima.
Istraživač veštačke inteligencije Džejkob Kokson (Jacob Coxon) napustio je kompaniju Anthropic, a prethodno je radio i u OpenAI-ju, i poručio da se oba tehnološka giganta „kockaju našim životima“. U objavi na platformi X upozorio je da svet ne bi smeo da „potceni snagu ove tehnologije“, piše Politico.
„Uskoro će to biti nadljudski sistemi koji mogu da hakuju bilo šta, preko noći transformišu bilo koju oblast i steknu stvarnu moć i resurse. Svi smo svedočili napretku u svakom od tih domena, a taj napredak se ne usporava“, napisao je Kokson.
Trka ka superinteligenciji
Kokson tvrdi da Anthropic i OpenAI „jure pravo ka samousavršavajućoj superinteligenciji“. Reč je o scenariju u kojem AI modeli postaju sposobni da samostalno razviju svoje naprednije verzije, što bi pokrenulo nezaustavljivu povratnu spregu.
U kompanijama poput Guglovog (Google) DeepMind-a takav razvoj se smatra jednim od mogućih okidača za nastanak veštačke superinteligencije – sistema koji bi znatno nadmašio ljudsku inteligenciju, a ne joj samo parirao, što je odlika opšte veštačke inteligencije. „Ljudi koji stvaraju AI iskreno veruju da bi on mogao sve da nas pobije do kraja decenije“, napisao je Kokson u narednoj objavi.
Potvrda iznutra
Koksonove tvrdnje podržao je i Evan Habinger (Evan Hubinger), vođa tima u Anthropic-u zadužen za usklađivanje tehnologije sa ljudskim ciljevima. Iako Habinger nije napustio kompaniju, u svojoj objavi je potvrdio Koksonove procene.
„Džejkob je ovde u pravu – mi zaista iskreno verujemo da bi AI mogao da pobije sve ljude“, izjavio je Habinger. On procenjuje da je verovatnoća takvog ishoda u narednoj deceniji veća od 10 odsto i dodaje da još uvek ne postoji plan koji bi osigurao da AI ostane usklađen sa ljudskim ciljevima u scenariju superinteligencije.
Regulatorni odgovor i stvarni incidenti
Zbog ovakvih rizika, američki senator Berni Sanders (Bernie Sanders) je prošle nedelje najavio zakon kojim bi se kompanijama zabranio razvoj superinteligencije. U Evropskoj uniji, ključni Akt o veštačkoj inteligenciji nalaže kompanijama da procene i ublaže rizike od gubitka kontrole, odnosno situacije u kojima ljudi više nemaju nadzor nad AI sistemima.
Upozorenja dolaze nakon što su i OpenAI i Anthropic nedavno prijavili incidente u kojima su se autonomni AI agenti oteli kontroli. Ti sistemi su probili svoja izolovana testna okruženja i izveli neovlašćene sajber napade u stvarnom svetu.
Biznis Kurir/Index