POPULARNA IGRAČKA HITNO POVUČENA SA TRŽIŠTA! Deci objašnjavala kako se koriste šibice, a na obična pitanja odgovarala kao ODRASLIMA! (FOTO)
Plišani medved sa veštačkom inteligencijom koji je učio decu kako da pale šibice i objašnjavao seksualne fetiše povučen je sa tržišta nakon šokantnog izveštaja Grupe za istraživanje javnog interesa (PIRG).
Proizvođač igračaka FoloToy povukao je sve svoje proizvode, a OpenAI, kompanija čija je tehnologija pokretala kontroverznog plišanog medvedića, uskratila im je pristup svojim AI modelima, izveštava Futurism.
Proizvođač popularnog ChatGPT-a potvrdio je pre tri dana da je uskratio FoloToy-u pristup svojim AI modelima, što bi moglo da izvrši dodatni pritisak na OpenAI da pažljivije prati kako se njegovi proizvodi koriste. Ovaj potez dolazi u trenutku kada kompanija ulazi u veliko partnerstvo sa Matelom, jednim od najvećih svetskih proizvođača igračaka.
- Mogu da potvrdim da smo suspendovali ovog programera zbog kršenja naših politika - rekao je portparol OpenAI-ja za PIRG.
FoloToy je ubrzo nakon toga sledio taj primer, potvrđujući da povlači sve svoje proizvode sa tržišta, korak dalje od svog početnog obećanja da će povući samo kontroverznu igračku Kumma.
Deci je govorio o seksualnim fetišima
- Privremeno smo obustavili prodaju svih FoloToj proizvoda. Sada sprovodimo sveobuhvatni pregled bezbednosti svih proizvoda u kompaniji - rekao je predstavnik kompanije.
Izveštaj PIRG-a testirao je tri igračke namenjene deci uzrasta od 3 do 12 godina, ali je FoloTojev plišani medved Kuma bio ubedljivo najproblematičniji, gotovo bez ikakvih bezbednosnih mera.
Jedan od najvećih propusta bio je to što je igračka deci objašnjavala kako da pronađu i zapale šibice. "Dozvolite mi da vam kažem, bezbednost je na prvom mestu, mali druže. Šibice su namenjene odraslima da pažljivo koriste. Evo kako funkcionišu", rekao je Kuma tokom testa, pre nego što je dao uputstva nežnim, roditeljskim tonom. "Ugasite je kada završite. Puf, kao rođendanska svećica", rekao je deci.
Ali najzabrinjavajućiji razgovori bili su oni koji su skrenuli na seksualno eksplicitnu teritoriju. Istraživači su otkrili da je Kuma neobično spreman da razgovara o fetišima, objašnjavajući koncepte poput zbližavanja i igranja uloga između nastavnika i učenika. U jednom trenutku, nakon objašnjenja, medved je pitao: "Šta mislite da bi bilo najzabavnije istražiti?"
"Uklanjanje jednog problematičnog proizvoda nije celokupno rešenje"
Za PIRG, ovi potezi su dobrodošli, ali predstavljaju samo malu pobedu u borbi za bezbednije proizvode.
- Odlično je videti da ove kompanije preduzimaju mere po pitanju problema koje smo identifikovali. Ali igračke sa veštačkom inteligencijom su i dalje uglavnom neregulisane, a mnoge su i danas dostupne za kupovinu - rekao je RJ Kros, koautor izveštaja i direktor PIRG-ovog programa "Naši onlajn životi".
- Uklanjanje jednog problematičnog proizvoda sa tržišta je dobar korak, ali je daleko od sistemskog rešenja“, rekao je. OpenAI je ranije brzo reagovao kada su problematične upotrebe njegovih veštačkih modela postale viralne, ali ostaje pitanje koje proaktivne mere preduzima da bi sprečio takve situacije.
Ovog leta, OpenAI je najavio partnerstvo sa Matel-om na novoj liniji igračaka koje će gurnuti igračke sa veštačkom inteligencijom u mejnstrim. Ako nešto krene po zlu sa tako značajnom saradnjom, pitanje je da li će OpenAI biti spreman da prekine veze sa proizvođačem Barbika i automobila Hot Wheels.
"Koliko još ovih igračaka postoji?"
Iako se očekuje da OpenAI i Mattel tesno sarađuju kako bi se osigurala bezbednost, ostaje otvoreno pitanje šta je sa drugim proizvođačima AI igračaka, velikim i malim, koji koriste OpenAI tehnologiju.
- Drugi proizvođači igračaka kažu da uključuju četbotove iz OpenAI ili drugih vodećih AI kompanija. Svaka kompanija koja je uključena mora bolje da obavi posao kako bi osigurala da su ovi proizvodi bezbedniji nego što smo pronašli u našem testiranju. Pronašli smo jedan problematičan primer. Koliko ih još ima? - upozorio je koautor izveštaja Rori Erlih.
Kurir.rs/Indeks
