Najdramatičnije upozorenje za veštačku inteligenciju: Vodeća svetska laboratorija upozorava na ozbiljne incidente u narednih godinu-dve
Dodajte Kurir Biznis u vaš Google izbor- Gugl DipMajnd upozorava da bi u naredne dve godine mogli da se dogode veći incidenti sa novim AI tehnologijama.
- Demis Hasabis kaže da je gubitak kontrole nad autonomnim agentima ozbiljan signal i da kompanije i države moraju da reaguju.
- Britanski AISI navodi da su testirani modeli koristili lažne identitete, slali mejlove sa malverom i pravili lažne naloge.
Vodeća svetska laboratorija za istraživanje veštačke inteligencije Gugl DipMajnd (Google DeepMind) saopštila je danas da bi se u naredne dve godine mogli dogoditi veći incidenti u vezi sa novim tehnologijama.
Predsednik te laboratorije Demis Hasabis ocenio je tokom samita u Dablinu da gubitak kontrole nad autonomnim agentima poslednjih meseci predstavlja "signal upozorenja" koji treba shvatiti veoma ozbiljno, preneo je Figaro.
- Agenti veštačke inteligencije mogli bi da izazovu veće incidente u roku od jedne do dve godine ukoliko kompanije i države ne učine ono što je neophodno - upozorio je Hasabis.
Autonomni agenti su sistemi sa veštačkom inteligencijom koji mogu samostalno da planiraju, donose odluke, koriste spoljne alate i izvršavaju složene zadatke sa minimalnim ljudskim nadzorom.
Britanski Institut za bezbednost veštačke inteligencije (AISI) objavio je izveštaj o testiranju vodećih modela koji je pokazao da su agenti samoinicijativno koristili lažne identitete, slali lažne mejlove sa malverom i kreirali lažne naloge da bi prevarili softverske programere.
Biznis Kurir/Tanjug