Dana 1. kolovoza stupila na snagu prva sveobuhvatna pravila o umjetnoj inteligenciji
Jeste li spremni na siguran način najbolje iskoristiti mogućnosti koje nudi umjetna inteligencija?
Zahvaljujući Zakonu o umjetnoj inteligenciji (AI Act), europski građani sada mogu sigurno i pouzdano iskoristiti prilike koje im nudi umjetna inteligencija. No, pravila igre su jasna, a novi zakon osigurava napredak uz poštovanje europskih vrijednosti.
Danas na snagu stupa Zakon o umjetnoj inteligenciji (European Artificial Intelligence Act - AI Act), prva sveobuhvatna uredba o umjetnoj inteligenciji u svijetu. Zakon je osmišljen kako bi se osiguralo da je umjetna inteligencija razvijena i korištena u EU-u pouzdana, uz zaštitne mjere za zaštitu temeljnih prava ljudi. Njegov cilj je uspostaviti usklađeno unutarnje tržište za AI u EU-u, potičući prihvaćanje ove tehnologije i stvarajući poticajno okruženje za inovacije i ulaganja, priopćila je Europska komisija.
Zakon o umjetnoj inteligenciji uvodi definiciju umjetne inteligencije usmjerenu prema budućnosti, temeljenu na pristupu koji se temelji na sigurnosti proizvoda i riziku u EU-u.
Minimalni rizik: većina AI sustava, kao što su AI-omogućeni sustavi preporuka i filtri neželjene pošte, spadaju u ovu kategoriju. Ovi sustavi nemaju nikakve obveze prema Zakonu o umjetnoj inteligenciji zbog minimalnog rizika za prava i sigurnost građana, a tvrtke mogu dobrovoljno usvojiti dodatne kodekse ponašanja.
Poseban rizik transparentnosti: AI sustavi poput chatbota moraju jasno otkriti korisnicima da su u interakciji sa strojem. Određeni sadržaj generiran umjetnom inteligencijom, uključujući „deep fakes“, mora biti označen kao takav, a korisnici moraju biti obaviješteni kada se koriste biometrijska kategorizacija ili sustavi za prepoznavanje emocija. Osim toga, pružatelji će morati dizajnirati sustave na način da se sintetički audio, video, tekstualni i slikovni sadržaj označava u strojno čitljivom formatu i da se može otkriti kao umjetno generiran ili manipuliran.
Visoki rizik: sustavi umjetne inteligencije identificirani kao visokorizični morat će ispunjavati stroge zahtjeve, uključujući sustave za smanjenje rizika, visoku kvalitetu skupova podataka, bilježenje aktivnosti, detaljnu dokumentaciju, jasne korisničke informacije, ljudski nadzor i visoku razinu robusnost, točnost i kibernetičku sigurnost. Regulatorna zaštićena okruženja olakšat će odgovorne inovacije i razvoj usklađenih sustava umjetne inteligencije. Takvi visokorizični sustavi umjetne inteligencije uključuju primjerice sustave umjetne inteligencije koji se koriste za zapošljavanje ili za procjenu ima li netko pravo na kredit ili za pokretanje autonomnih robota.
Neprihvatljiv rizik: Sustavi umjetne inteligencije koji se smatraju jasnom prijetnjom temeljnim pravima ljudi bit će zabranjeni. To uključuje sustave umjetne inteligencije ili aplikacije koje manipuliraju ljudskim ponašanjem kako bi zaobišle slobodnu volju korisnika, kao što su igračke koje koriste glasovnu pomoć koja potiče opasno ponašanje maloljetnika, sustave koji dopuštaju „društveno bodovanje“ od strane vlada ili kompanija i određene aplikacije prediktivnog nadzora. Osim toga, neke upotrebe biometrijskih sustava bit će zabranjene, na primjer sustavi za prepoznavanje emocija koji se koriste na radnom mjestu i neki sustavi za kategorizaciju ljudi ili daljinsku biometrijsku identifikaciju u stvarnom vremenu za potrebe provedbe zakona u javno dostupnim prostorima (uz male iznimke).
Kako bi nadopunio ovaj sustav, Zakon o umjetnoj inteligenciji također uvodi pravila za takozvane modele umjetne inteligencije opće namjene, koji su visoko sposobni modeli umjetne inteligencije i dizajnirani za izvođenje širokog spektra zadataka poput generiranja teksta nalik ljudskom. AI modeli opće namjene sve se više koriste kao komponente AI aplikacija. Zakon o umjetnoj inteligenciji osigurat će transparentnost duž lanca vrijednosti i baviti se mogućim sistemskim rizicima najsposobnijih modela.
„Umjetna inteligencija ima potencijal promijeniti način na koji radimo i živimo i obećava goleme koristi za građane, naše društvo i europsko gospodarstvo. Europski pristup tehnologiji stavlja ljude na prvo mjesto i osigurava očuvanje svačijih prava. Uz Zakon o umjetnoj inteligenciji, EU je poduzela važan korak kako bi osigurala da usvajanje tehnologije umjetne inteligencije poštuje pravila EU-a u Europi.“ – izjavila je Margrethe Vestager, izvršna potpredsjednica Komisije za Europu spremnu za digitalno doba.
„Današnji dan obilježava veliku prekretnicu u europskom vodstvu u pouzdanoj umjetnoj inteligenciji. Stupanjem na snagu Zakona o umjetnoj inteligenciji, europska je demokracija dala učinkovit, proporcionalan i prvi svjetski okvir za umjetnu inteligenciju, rješavajući rizike i služeći kao lansirna rampa za europske startupove s umjetnom inteligencijom.“ – kazao je Thierry Breton, povjerenik Komisije za unutarnje tržište.
Primjena i provedba pravila umjetne inteligencije
Države članice EU-a imaju rok do 2. kolovoza 2025. da imenuju nacionalna nadležna tijela koja će nadzirati primjenu pravila za sustave umjetne inteligencije i provoditi aktivnosti nadzora tržišta. Ured Komisije za umjetnu inteligenciju bit će ključno provedbeno tijelo za Zakon o umjetnoj inteligenciji na razini EU-a, kao i provoditelj pravila za modele umjetne inteligencije opće namjene.
Provedbu pravila podupirat će tri savjetodavna tijela
Europski odbor za umjetnu inteligenciju osigurat će jedinstvenu primjenu Zakona o umjetnoj inteligenciji u svim državama članicama EU-a i djelovat će kao glavno tijelo za suradnju između Komisije i država članica EU-a. Znanstveni panel neovisnih stručnjaka nudit će tehničke savjete i doprinose provedbi. Konkretno, panel Uredu za umjetnu inteligenciju može izdati upozorenja o rizicima povezanim s modelima umjetne inteligencije opće namjene. Ured za umjetnu inteligenciju također može dobiti smjernice od savjetodavnog foruma, sastavljenog od raznolikog skupa dionika.
Tvrtke koje se ne pridržavaju pravila bit će novčano kažnjene
Kazne bi mogle iznositi do sedam posto globalnog godišnjeg prometa za kršenje zabranjenih AI aplikacija, do tri posto za kršenje drugih obveza i do 1,5 posto za davanje netočnih informacija.
Većina pravila Zakona o umjetnoj inteligenciji počet će se primjenjivati od 2. kolovoza 2026. Međutim, zabrane sustava umjetne inteligencije za koje se smatra da predstavljaju neprihvatljiv rizik primjenjivat će se već nakon šest mjeseci, dok će se pravila za takozvane modele umjetne inteligencije opće namjene primjenjivati nakon 12 mjeseci.
Pakt o umjetnoj inteligenciji
Kako bi premostila prijelazno razdoblje prije pune provedbe, Komisija je pokrenula Pakt o umjetnoj inteligenciji (AI Pact). Ova inicijativa poziva programere umjetne inteligencije da dobrovoljno usvoje ključne obveze Zakona o umjetnoj inteligenciji prije zakonskih rokova.
Europska komisija također razvija smjernice za definiranje i pojedinosti o tome kako bi se Zakon o umjetnoj inteligenciji trebao provoditi i olakšava koregulatorne instrumente poput standarda i kodeksa prakse. Komisija je otvorila poziv za iskazivanje interesa za sudjelovanje u izradi prvog Kodeksa prakse umjetne inteligencije opće namjene, kao i konzultacije s više dionika dajući im priliku za iznošenje mišljenja o prvom Kodeksu prakse u okviru Zakona o umjetnoj inteligenciji.
Podsjetimo, Europska komisija je 9. prosinca 2023. pozdravila politički dogovor o Zakonu o umjetnoj inteligenciji, a 24. siječnja 2024. pokrenula je paket mjera za potporu europskim startupima te malim i srednjim poduzećima u razvoju pouzdane umjetne inteligencije. Komisija je 29. svibnja 2024. predstavila Ured za umjetnu inteligenciju, a dana 9. srpnja 2024. stupila je na snagu izmijenjena Uredba EuroHPC JU, čime je omogućeno postavljanje tvornica umjetne inteligencije. To omogućuje upotrebu namjenskih AI-superračunala za obuku modela AI (GPAI) opće namjene. Kontinuirano neovisno istraživanje zasnovano na dokazima koje je proveo Zajednički istraživački centar (Joint Research Centre - JRC) bilo je temeljno u oblikovanju politika AI-a u EU-u i osiguravanju njihove učinkovite provedbe.
Europska komisija / Ekovjesnik