OpenAI otpustio tri istraživača: Neadekvatno rukovali osetljivim informacijama
Dodajte Kurir Biznis u vaš Google izbor- OpenAI je otpustio tri istraživača zbog neadekvatnog rukovanja osetljivim informacijama van procedura kompanije.
- Najmanje dvojica otpuštenih bila su uključena u istraživanje bezbednosti, a otkazi stižu usred pojačane debate o rizicima veštačke inteligencije.
- Naša istraga je potvrdila da su ovi pojedinci neadekvatno rukovali osetljivim informacijama van utvrđenih procedura kompanije, kršeći našu politiku i narušavajući poverenje koje je ključno za naš rad - rekao je portparol za BBC.
Tvorac ChatGPT-a nije imenovao otpuštene radnike, ali su najmanje dvojica bila uključena u istraživanje bezbednosti u okviru kompanije.
Otkazi dolaze u trenutku kada se poslednjih meseci intenzivirala debata o bezbednosti veštačke inteligencije i rizicima koje ova tehnologija može predstavljati po čovečanstvo.
- Razišli smo se sa tri osobe zbog kršenja naše politike o pristupu i rukovanju osetljivim informacijama kompanije - naveo je portparol kompanije OpenAI.
Zabrinutost zbog bezbednosti veštačke inteligencije dospela je na naslovne strane nakon što su neki istraživači i rukovodioci iz industrije pozvali na uvođenje strožih zaštitnih mera za ovu tehnologiju.
OpenAI se našao pod strogom lupom nakon što su se njegovi modeli oteli kontroli i hakovali nekoliko platformi, uključujući veb-sajtove australijske vlade.
Incident u julu
U incidentu u julu, jedan od AI modela ove kompanije pristupio je internetu i probio u open-source platformu za programere Hugging Face.
Taj incident je naveo OpenAI da preispita aktivnosti svojih AI agenata, koji su dizajnirani da autonomno izvršavaju zadatke na osnovu jednostavnih instrukcija.
Kompanija je ove nedelje saopštila da je obavestila više od 100 organizacija o incidentima koji uključuju neovlašćene aktivnosti povezane sa njenim sistemima.
To što su organizacije obaveštene "ne znači da se pristupilo bilo kakvim privatnim informacijama" niti da je sistem kompromitovan, navodi se u saopštenju.
U septembru je istraživač Džejkob Kokson, koji je napustio Anthropic, pozvao na usporavanje razvoja veštačke inteligencije kako bi se njeni potencijalni rizici mogli adekvatno proceniti.
Sastanak tehnoloških lidera
Šef kompanije Anthropic Dario Amodei i izvršni direktor kompanije OpenAI Sem Altman takođe su pozvali na preduzimanje mera za rešavanje problema u vezi sa veštačkom inteligencijom.
U utorak je američki predsednik Donald Tramp bio domaćin sastanka glavnih tehnoloških lidera - uključujući čelnike kompanija OpenAI, Anthropic, Nvidia, SpaceX, Meta i Google - kako bi razgovarali o veštačkoj inteligenciji.
Nakon skupa u Beloj kući, Tramp je objavio dokument koji je nazvao "moralno obavezujućim" sporazumom koji bi služio kao "oblik zaštite" od potencijalnih rizika veštačke inteligencije.
Pojedini tehnološki stručnjaci kritikovali su ovaj pakt, ističući da on dozvoljava kompanijama koje se bave veštačkom inteligencijom da same sebe regulišu.
Tramp je u više navrata umanjivao zabrinutost zbog rizika koje nosi veštačka inteligencija, kao odgovor na pozive pojedinih ličnosti iz industrije za stroži nadzor ove tehnologije.
Biznis Kurir/BBC