Upotreba veštačke inteligencije više neće biti ista: Kreće primena zakona koji strogo kontroliše šta radite
Evropska unija je usvojila prvi sveobuhvatan zakon o veštačkoj inteligenciji EU Artificial Intelligence Act, poznat kao Uredba (EU) 2024/1689, koji uvodi stroga pravila, bezbednosne standarde i sistem monitoringa za najrizičnije AI sisteme. Iako Srbija nije članica Evropske unije, ovaj zakon ima eksteritorijalni efekat, što znači da će uticati i na domaće firme koje razvijaju ili izvoze AI rešenja na evropsko tržište.
Miloš Radojković iz kompanije Lexi AI, stručnjak iz oblasti primene i implementacije AI standarda, detaljno je pojasnio koje obaveze nosi novi zakon, koje mere bezbednosti propisuje, šta znači monitoring AI sistema i da li u EU postoje zabranjene AI primene.
Zašto se uvodi novi zakon
Radojković je objasnio suštinu novog evropskog propisa i razloge za njegovo donošenje:
- Implementiraju se jasna i stroga pravila za upotrebu veštačke inteligencije u Evropskoj uniji, sa posebnim fokusom na visokorizične AI sisteme koji utiču na prava, bezbednost i ljude.
On naglašava da ceo sistem zakona nije ograničen samo na tehničke standarde, već pokriva čitav životni ciklus AI rešenja od razvoja i testiranja, do sertifikacije i nadzora nakon puštanja u rad.
Radojković objašnjava da se uvodi i jasan mehanizam sertifikacije.
- Pruža kompletno rešenje end-to-end, rešenje za identifikaciju rizika, prikupljanje dokaza, izradu zakonski obavezne dokumentacije i pripremu CE sertifikata. To je CE sertifikat, svaka veštačka inteligencija koja prođe sertifikaciju moraće da ima određenu obaveznu oznaku da je legitimno.
Prema njegovim rečima, svaki sistem u kategoriji high-risk moraće da prođe kroz strogu proceduru pre nego što uopšte može na tržište.
Najrizičniji AI sistemi
Kada je reč o najrizičnijim AI sistemima poput onih u medicini, infrastrukturi, pravosuđu ili zapošljavanju, obaveze su preskriptivne i zahtevne. Radojković pojašnjava:
- Ako jedan od AI sistema spada u high risk, on mora imati nadzor, logovanje, ljudsku kontrolu i praćenje rada sistema.
Ovaj deo je u potpunosti u skladu sa EU AI Act-om, čiji čl. 26 propisuje da deployer mora da prati rad visokorizičnog sistema, primenjuje uputstva za upotrebu, uspostavi ljudski nadzor i čuva automatski generisane logove najmanje šest meseci.Ovo znači da AI sistem više ne može da funkcioniše kao "crna kutija". Mora postojati ljudski nadzor, pristup logovima i mogućnost intervencije ako se uoči rizik ili greška.
Tema monitoringa jedna je od ključnih u novom zakonu. Radojković objašnjava šta se dešava kada se sistem pusti u rad:
- Kada se pusti, ako je high risk, on automatski dobija i praćenje rada sistema, čuvanje logovanja, reagovanje na rizike i redovno analiziranje performansi samog AI sistema.
Naglašava da je kontinuirani nadzor jedan od najkritičnijih segmenata propisa, jer sprečava greške i zloupotrebe.
Radojković dodaje da je suština monitoringa zaštita građana i transparentnost.
- Služi kako bi se smanjio rizik od zloupotrebe AI, komunikacije, kao i da bi se sam nadzor AI doveo pod lupu. Mora da bude praćeno ljudskim okom.
Na pitanje da li postoje primene koje će biti zabranjene, Radojković ističe da će finalne odluke stići nakon usklađivanja:
- Trenutno ne, ali saznaćemo nakon usklađivanja u januaru 2026. godine.
Uticaj novog zakona na Srbiju
Važno pitanje je da li će zakon uticati na kompanije u Srbiji. Radojković kaže:
- Ukoliko firma posluje u Srbiji zaštićena je jer nismo deo Evropske unije. Ukoliko proizvodi za strano tržište, onda se odnosi i na nju, odnosno samo ukoliko proizvodi za stranu državu koja pripada Evropskoj uniji.
Ističe da firme koje plasiraju AI sisteme u EU, SAD ili druge regione moraju ispuniti sve uslove sertifikacije:
- Moraće da sertifikuju svoj AI sistem, proradi procenu rizika, da se uradi monitoring i kontrola istog.
Radojković naglašava da zakon nije statičan.
- Ima nekoliko aneksa, što se ažurira non-stop. Kako se razvija, tako se i menja. To znači da će standardi postajati sve stroži, a monitoring sve obimniji.
Radojković zaključuje da evropski zakon o veštačkoj inteligenciji predstavlja najstroži regulatorni okvir na svetu. Uspostavlja potpunu kontrolu nad visokorizičnim AI sistemima, od sertifikacije, preko logovanja, do obaveznog ljudskog nadzora i kontinuiranog monitoringa.
Iako Srbija nije deo EU, sve kompanije koje žele da izvoze AI rešenja moraće da poštuju ova pravila. U suprotnom, njihovi proizvodi neće moći da uđu na tržište Evropske unije.
Biznis Kurir