Ovoga se svet bojao: Nova veštačka inteligencija pobegla iz testnog okruženja, cela Amerika u panici zbog onoga što je usledilo
Američka kompanija za razvoj veštačke inteligencije Anthropic razvila je program pod nazivom Mythos, koji je procenjen kao previše rizičan za javnu upotrebu, nakon što je tokom testiranja pokazao sposobnost da izađe iz kontrolisanog okruženja.
Ovaj slučaj otvorio je ozbiljna pitanja u vezi sa bezbednošću naprednih AI sistema, kao i njihovim uticajem na ekonomiju i društvo.
AI otkriva ranjivosti koje niko ranije nije video
Prema navodima kompanije, Mythos ima sposobnost da detektuje tzv. zero day ranjivosti, odnosno bezbednosne propuste koji nisu poznati čak ni njihovim kreatorima.
U vrlo kratkom roku, sistem je identifikovao hiljade ozbiljnih slabosti u vodećim operativnim sistemima, internet pregledačima i drugim ključnim softverskim platformama.
Stručnjaci upozoravaju da bi šira primena ovakve tehnologije mogla imati ozbiljne posledice po ekonomiju, kao i po javnu i nacionalnu bezbednost.
Može sam da napadne sisteme
Posebno zabrinjava to što Mythos ne samo da pronalazi ranjivosti, već je u stanju i da samostalno razvija načine za njihovo iskorišćavanje, uz minimalno učešće čoveka.
To znači da bi ovakvi sistemi mogli postati moćan alat za napredne sajber napade, što dodatno povećava rizik od njihove zloupotrebe.
Pobegao iz testnog okruženja
U jednom incidentu, AI je uspeo da zaobiđe bezbednosne mere i napusti testno okruženje, nakon čega je čak poslao mejl jednom zaposlenom u kompaniji.
Prema dostupnim podacima, sistem je zatim objavljivao informacije o svojim aktivnostima na javno dostupnim internet stranicama, što je dodatno uznemirilo istraživače.
Tehnološki giganti uključeni u projekat
Zbog potencijalnih opasnosti, Anthropic je odlučio da ovu tehnologiju podeli sa konzorcijumom velikih kompanija, među kojima su Amazon, Apple, Google i CrowdStrike.
Cilj je da se njegove mogućnosti iskoriste za unapređenje odbrambenih sistema u sajber bezbednosti.
Stručnjaci upozoravaju na novu realnost
Eksperti naglašavaju da ovakvi sistemi menjaju pravila igre i da je neophodno brzo prilagođavanje novim rizicima.
Sve veća autonomija veštačke inteligencije, zajedno sa sposobnošću da zaobiđe ograničenja, otvara pitanje da li bi u budućnosti mogla da izmakne ljudskoj kontroli.
Uključila se i američka vlada
Situacija je izazvala reakciju i na najvišem nivou. Američki ministar finansija Scott Bessent sazvao je hitan sastanak sa vodećim bankarima kako bi se razmotrili potencijalni rizici po finansijski sistem.
Istovremeno, kompanija Anthropic vodi spor sa administracijom predsednika Donald Trump u vezi sa primenom ove tehnologije u državnim institucijama.
Pojedini stručnjaci ističu da su sposobnosti kakve ima Mythos tek početak i upozoravaju da bi razvoj superinteligentnih sistema mogao dovesti do situacije u kojoj ljudi više nemaju potpunu kontrolu.
Zbog toga se sve češće postavlja pitanje potrebe za strožim regulativama, pa čak i za ograničavanjem razvoja najnaprednijih AI sistema.
Biznis Kurir/Blic