Razredi rizika u EU AI Act-u: pregled s primjerima i obvezama
EU AI Act (Uredba (EU) 2024/1689) dijeli UI prema riziku na četiri razine: zabranjene prakse (čl. 5.), UI visokog rizika (čl. 6. s prilozima I. i III.), ograničen rizik s obvezama transparentnosti (čl. 50.) i minimalan rizik bez posebnih obveza. Izraz „razred rizika” u tom obliku ne stoji u uredbi, to je uobičajeni naziv za te razine. UI modeli opće namjene (GPAI) imaju vlastita pravila u poglavlju V. Neovisno o razini, za dobavljače i subjekte koji uvode sustav vrijedi čl. 4.: mjere za kompetenciju u UI.
Piramida rizika EU AI Act-a
Što je razina viša, to su pravila stroža. Grafika prikazuje četiri razine s njihovom pravnom osnovom, pokraj njih vlastita pravila za GPAI modele, a ispod obvezu koja vrijedi za sve razine.
Jedna obveza vrijedi u svakom razredu rizika
Mjere za kompetenciju u UI prema čl. 4. trebate neovisno o razvrstavanju. Obuka AI-Konform jedna je takva mjera: na 26 jezika, s potvrdom o sudjelovanju za svaku osobu i revizijskim izvješćem za poduzeće.
29,75 € po osobi, neto, država: Hrvatska (bez pretplate)
Pregled: razredi rizika, obveze i rokovi
Tablica sažima što vrijedi na kojoj razini i od kada. Pregled cijelog zakona s ulogama i sankcijama nudi stranica EU AI Act ukratko.
| Razina | Pravna osnova | Primjeri | Obveze | Od kada |
|---|---|---|---|---|
| Neprihvatljiv rizik | čl. 5. | društveno bodovanje, prepoznavanje emocija na radnom mjestu, manipulativne tehnike | zabranjeno, za dobavljače i subjekte koji uvode sustav | od 2. veljače 2025.; još dvije zabrane od 2. prosinca 2026. |
| Visok rizik | čl. 6. s prilozima I. i III. | predodabir kandidata za posao, procjena kreditne sposobnosti, UI kao sigurnosna komponenta proizvoda | Dobavljači: upravljanje rizicima, kvaliteta podataka, dokumentacija, ocjena sukladnosti, registracija. Subjekti koji uvode sustav: upotreba u skladu s uputama za upotrebu, ljudski nadzor, čuvanje evidencije (čl. 26.) | Prilog III. od 2. prosinca 2027., Prilog I. od 2. kolovoza 2028. |
| Ograničen rizik | čl. 50. | chatbotovi, deepfakeovi, UI-tekstovi o temama od javnog interesa | upozorenje na UI, označivanje sadržaja | od 2. kolovoza 2026. |
| Minimalan rizik | nema zasebne odredbe | filtri za neželjenu poštu, pomagala za prevođenje, nacrti tekstova u uredu | nema obveza iz čl. 5., 6. ili 50.; dobrovoljni kodeksi ponašanja (čl. 95.) | nema zasebnog roka |
| GPAI modeli (vlastita pravila) | poglavlje V. | veliki jezični modeli iza chatbotova i tekstualnih asistenata | Dobavljač modela: tehnička dokumentacija, politika poštivanja autorskog prava, sažetak sadržaja upotrijebljenog za treniranje; više kod sistemskog rizika | od 2. kolovoza 2025., postojeći modeli do 2. kolovoza 2027. |
| Sve razine: kompetencija u UI | čl. 4. | svaki sustav UI koji se koristi profesionalno | mjere za kompetenciju uključenih osoba u UI | od 2. veljače 2025., u novoj verziji od 27. srpnja 2026. |
Jedan sustav može istodobno povlačiti više obveza, primjerice kao UI visokog rizika koja ujedno razgovara s ljudima. Odlučujuća je svrha upotrebe, a ne alat: isti program može u uredu biti minimalno rizičan, a u odabiru osoblja visokorizičan.
Koje su prakse UI zabranjene?
Čl. 5. određene prakse potpuno zabranjuje. Zabrana vrijedi za stavljanje na tržište, stavljanje u upotrebu i korištenje, dakle i za poduzeća koja takav sustav samo koriste. Od 2. veljače 2025. zabranjeni su:
- Manipulacija: subliminalne, namjerno manipulativne ili obmanjujuće tehnike koje bitno mijenjaju ponašanje ljudi i uzrokuju im znatnu štetu ili je razumno vjerojatno da će je uzrokovati (toč. a).
- Iskorištavanje ranjivosti: UI koja iskorištava dob, invaliditet ili poseban socijalni ili ekonomski položaj, s istom posljedicom (toč. b).
- Društveno bodovanje: vrednovanje ljudi tijekom određenog razdoblja na temelju njihova društvenog ponašanja ili njihovih obilježja, ako to dovodi do neopravdanog ili s kontekstom nepovezanog nepovoljnog postupanja (toč. c).
- Predviđanje kaznenih djela isključivo na temelju izrade profila ili osobina ličnosti (toč. d).
- Baze podataka lica: stvaranje ili proširivanje neciljanim prikupljanjem fotografija lica s interneta ili iz snimki videonadzora (toč. e).
- Prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama, osim iz medicinskih ili sigurnosnih razloga (toč. f).
- Biometrijska kategorizacija radi izvođenja osjetljivih obilježja kao što su politička mišljenja, članstvo u sindikatu, vjera ili spolna orijentacija (toč. g).
- Daljinska biometrijska identifikacija u stvarnom vremenu na javnim mjestima u svrhu kaznenog progona, uz uske iznimke (toč. h).
Od 2. prosinca 2026. dolaze još dvije zabrane, uvedene Digital Omnibusom za UI: UI koja generira ili manipulira intimne prikaze osoba koje se mogu identificirati bez njihova pristanka i UI koja generira ili manipulira prikaze seksualnog zlostavljanja djece (toč. ba i bb). Poduzeća koja koriste generatore slika krše zabranu tek ako sustav upotrebljavaju u tu svrhu (čl. 5. st. 1.a toč. b). Povrede čl. 5. spadaju u najviši stupanj novčanih kazni: do 35 mil. € ili 7 % ukupnog godišnjeg prometa na svjetskoj razini (čl. 99. st. 3.).
Kada je sustav UI visokorizičan?
Prema čl. 6. dva su puta do razine visokog rizika. Prvo, UI kao sigurnosna komponenta proizvoda ili kao sam proizvod koji potpada pod propise EU-a o proizvodima iz Priloga I. i čiju sukladnost mora ocijeniti treća strana, na primjer medicinski proizvodi, igračke ili dizala. Te obveze vrijede od 2. kolovoza 2028. Drugo, UI u jednom od osam područja iz Priloga III., od 2. prosinca 2027.:
- Biometrija: daljinska identifikacija, kategorizacija prema osjetljivim obilježjima, prepoznavanje emocija (ako već nije zabranjeno).
- Kritična infrastruktura: sigurnosne komponente za digitalnu infrastrukturu, cestovni promet te opskrbu vodom, plinom, grijanjem i električnom energijom.
- Obrazovanje: upis, ocjenjivanje ishoda učenja, određivanje razine, nadzor na ispitima.
- Zapošljavanje: ciljani oglasi za posao, pregled i ocjenjivanje prijava, odluke o napredovanju ili otkazu, dodjela zadataka, praćenje učinka.
- Osnovne usluge: javne naknade i usluge potpore, kreditna sposobnost fizičkih osoba (osim otkrivanja prijevara), rizik i cijena kod životnog i zdravstvenog osiguranja, hitni pozivi i trijaža.
- Kazneni progon, u mjeri u kojoj je dopušten pravom Unije ili nacionalnim pravom.
- Migracije, azil i nadzor državne granice, također samo u dopuštenom okviru.
- Pravosuđe i demokratski procesi: potpora sudovima, utjecanje na izbore.
Nije svaki sustav iz Priloga III. automatski visokorizičan. Prema čl. 6. st. 3. razvrstavanje otpada ako sustav ne predstavlja znatan rizik, primjerice zato što obavlja samo usko određenu postupovnu zadaću, poboljšava rezultat prethodno dovršene ljudske aktivnosti, otkriva obrasce odlučivanja, a da ne zamjenjuje ljudsku procjenu, ili obavlja pripremnu zadaću. Ako sustav izrađuje profile fizičkih osoba, uvijek se smatra visokorizičnim. Tko se poziva na iznimku, dokumentira svoju procjenu prije stavljanja na tržište (čl. 6. st. 4.) i registrira sustav (čl. 49. st. 2.).
Većina obveza pogađa dobavljače: upravljanje rizicima, kvaliteta podataka, tehnička dokumentacija, vođenje evidencije, transparentnost, ljudski nadzor, točnost i otpornost (čl. 9. do 15.), uz to ocjena sukladnosti i registracija. Poduzeća koja UI visokog rizika samo upotrebljavaju jesu subjekti koji uvode sustav i imaju vlastite obveze prema čl. 26.: upotrebljavati sustav u skladu s uputama za upotrebu, ljudski nadzor povjeriti osobama s potrebnom kompetencijom, pratiti rad sustava, čuvati evidenciju te prije upotrebe na radnom mjestu obavijestiti radnike i njihove predstavnike (čl. 26. st. 7.). Određeni subjekti koji uvode sustav dodatno provode procjenu učinka na temeljna prava (čl. 27.), primjerice javna tijela i poduzeća koja UI koriste za procjenu kreditne sposobnosti ili za rizik i cijenu kod životnog i zdravstvenog osiguranja. Povrede stoje do 15 mil. € ili 3 % ukupnog godišnjeg prometa na svjetskoj razini (čl. 99. st. 4.).
Za visokorizične sustave koji su stavljeni na tržište ili u upotrebu već prije početka primjene tih obveza uredba vrijedi samo ako se nakon toga znatno promijeni njihov dizajn. Sustavi namijenjeni tijelima javne vlasti moraju u svakom slučaju biti usklađeni do 2. kolovoza 2030. (čl. 111. st. 2.).
Što vrijedi kod ograničenog rizika?
Za UI koja je u interakciji s ljudima ili generira sadržaj od 2. kolovoza 2026. vrijede obveze transparentnosti prema čl. 50.:
- St. 1., dobavljači: sustavi koji s ljudima razgovaraju ili se dopisuju oblikovani su tako da ljudi znaju da su u interakciji s UI, osim ako je to očito.
- St. 2., dobavljači: slike, videozapisi, audiozapisi i tekstovi generirani UI-jem strojno su čitljivo označeni. Za sustave stavljene na tržište prije 2. kolovoza 2026. vrijedi prijelazno razdoblje do 2. prosinca 2026. (čl. 111. st. 4.).
- St. 3., subjekti koji uvode sustav: tko koristi prepoznavanje emocija ili biometrijsku kategorizaciju, o tome obavješćuje osobe na koje se to odnosi.
- St. 4., subjekti koji uvode sustav: deepfakeovi i UI-tekstovi kojima je svrha informirati javnost o pitanjima od javnog interesa moraju se otkriti; kod tekstova to otpada ako ih čovjek urednički pregleda i za njih preuzme odgovornost.
Tipične slučajeve i kako napomena može izgledati objašnjava stranica Obveza označavanja UI prema čl. 50. Povrede također spadaju u stupanj do 15 mil. € ili 3 % (čl. 99. st. 4.).
Što vrijedi kod minimalnog rizika?
Svi ostali sustavi UI imaju minimalan rizik: za njih ne vrijede obveze iz čl. 5., 6. ili 50. Tu spadaju mnogi alati iz uredske svakodnevice, primjerice filtri za neželjenu poštu, pomagala za prevođenje i pravopis ili nacrti tekstova koje zaposlenici provjere prije upotrebe. Mogući su dobrovoljni kodeksi ponašanja (čl. 95.). Jedna obveza ostaje: mjere za kompetenciju u UI prema čl. 4., jer ona ne ovisi o razini rizika. Kako te mjere zabilježiti, pokazuje stranica Obveza kompetencije u UI. Za čl. 4. AI Act ne predviđa zaseban prekršaj s novčanom kaznom; više na stranici Kazne.
Jesu li GPAI modeli zaseban razred rizika?
Neki ih pregledi navode kao peti razred. Pravno poglavlje V. uređuje dobavljače UI modela opće namjene, primjerice velikih jezičnih modela iza chatbotova. Njihove obveze vrijede od 2. kolovoza 2025.; za modele stavljene na tržište prije tog dana dobavljači imaju vremena do 2. kolovoza 2027. (čl. 111. st. 3.). Novčane kazne Komisije prema čl. 101. moguće su od 2. kolovoza 2026. Poduzeće koje chatbot temeljen na takvom modelu samo koristi nije dobavljač modela. Za njegovu upotrebu vrijedi razina konkretne svrhe, a čl. 4. vrijedi uvijek.
Tipične primjene UI i njihovo razvrstavanje
Primjeri pokazuju uobičajeno razvrstavanje. Mjerodavni su uvijek konkretna svrha i vaša uloga dobavljača ili subjekta koji uvodi sustav.
| Primjena | Razina u pravilu | Što bi vaše poduzeće trebalo učiniti |
|---|---|---|
| ChatGPT ili Copilot za tekstove i istraživanje u uredu | minimalan rizik za vašu upotrebu; model iza njih uređuje poglavlje V. kod dobavljača | mjere za kompetenciju u UI (čl. 4.), pravila u politici za UI |
| Chatbot na web-stranici | ograničen rizik (čl. 50. st. 1.) | napomena da odgovara UI obveza je dobavljača (čl. 50. st. 1.); kao subjekt koji uvodi sustav pazite da se prikazuje; tko daje razviti bota pod vlastitim imenom, može i sam biti dobavljač |
| Predodabir prijava za posao pomoću UI | visok rizik (Prilog III. toč. 4.) | od 2. prosinca 2027. obveze subjekta koji uvodi sustav prema čl. 26.: obavijestiti kandidate (čl. 26. st. 11.); kod upotrebe prema radnicima unaprijed obavijestiti njihove predstavnike (čl. 26. st. 7.) |
| Procjena kreditne sposobnosti privatnih klijenata | visok rizik (Prilog III. toč. 5.), osim otkrivanja prijevara | obveze subjekta koji uvodi sustav prema čl. 26. i procjena učinka na temeljna prava (čl. 27.) |
| Prepoznavanje emocija kod radnika | zabranjeno (čl. 5. st. 1. toč. f), osim iz medicinskih ili sigurnosnih razloga | ne upotrebljavati |
| Filtar za neželjenu poštu | minimalan rizik | mjere za kompetenciju u UI (čl. 4.) |
| Generator slika za reklamne slike i grafike | minimalan rizik; ograničen rizik čim nastanu deepfakeovi | slike koje djeluju kao stvarne snimke stvarnih osoba, predmeta, mjesta ili događaja treba otkriti (čl. 50. st. 4.) |
| UI softver za dijagnostiku u medicinskom proizvodu | visok rizik (Prilog I.), ako sukladnost mora ocijeniti treća strana | obveze dobavljača od 2. kolovoza 2028.; kao subjekt koji uvodi sustav obveze prema čl. 26. |
Određivanje razreda rizika: četiri pitanja
Za svaki sustav UI u poduzeću prođite ova pitanja redom. Popis svih alata koji se koriste s njihovom svrhom najbolja je polazna točka.
- Potpada li svrha pod zabranu iz čl. 5.? Tada je upotreba zabranjena, neovisno o svim daljnjim pitanjima.
- Je li sustav dio proizvoda iz Priloga I. ili se upotrebljava u području iz Priloga III.? Tada je u pravilu riječ o UI visokog rizika; kod Priloga III. provjerite iznimku iz čl. 6. st. 3.
- Razgovara li sustav s ljudima ili generira slike, videozapise, zvuk ili tekstove? Tada dodatno vrijede obveze transparentnosti iz čl. 50.
- Koju ulogu ima vaše poduzeće? Tko sustav razvija ili ga nudi pod vlastitim imenom, dobavljač je; tko ga koristi u profesionalnom kontekstu, subjekt je koji uvodi sustav. Tko sustav UI, pa i sustav UI opće namjene kao što je ChatGPT, upotrebljava za svrhu iz Priloga III., može prema čl. 25. st. 1. toč. c sam postati dobavljač visokorizičnog sustava. O tome ovise konkretne obveze.
Ako nijedno od prva tri pitanja nije primjenjivo, riječ je o minimalnom riziku. Rokovi za sve razine nalaze se u kalendaru rokova EU AI Act-a.
Česta pitanja o razredima rizika
Koliko razreda rizika ima EU AI Act?
Uobičajena je podjela na četiri razine: neprihvatljiv rizik (zabranjeno), visok rizik, ograničen rizik i minimalan rizik. Neki pregledi UI modele opće namjene (GPAI) broje kao peti razred; uredba ih uređuje u zasebnom poglavlju. Pojam „razred rizika” sama uredba ne koristi.
U koji razred rizika spada ChatGPT?
To ovisi o upotrebi, a ne o alatu. Jezični model iza ChatGPT-a je UI model opće namjene; obveze za njega snosi dobavljač modela (poglavlje V.). Ako vaše poduzeće koristi ChatGPT za tekstove ili istraživanje, to je u pravilu minimalan rizik. Ako ga koristite primjerice za predodabir prijava za posao, upotreba može potpasti pod Prilog III., uz znatno strože obveze. Tko sustav UI, pa i sustav UI opće namjene kao što je ChatGPT, upotrebljava za svrhu iz Priloga III., može pritom prema čl. 25. st. 1. toč. c sam postati dobavljač visokorizičnog sustava. Čl. 4. vrijedi u svakom slučaju.
Je li chatbot UI visokog rizika?
U pravilu nije. Chatbot za upite kupaca potpada pod obveze transparentnosti iz čl. 50. st. 1.: ljudi moraju moći prepoznati da razgovaraju s UI, osim ako je to očito. UI visokog rizika postaje tek kada se upotrebljava u području iz Priloga III., primjerice za odluke o prijavama za posao ili o kreditima. Više na stranici Obveza označavanja UI prema čl. 50.
Tko razvrstava sustav UI?
Uredba ne predviđa službeno razvrstavanje. Dobavljač razvrstava svoj sustav; ako sustav iz Priloga III. prema čl. 6. st. 3. ne smatra visokorizičnim, to dokumentira prije stavljanja na tržište i registrira sustav (čl. 6. st. 4., čl. 49. st. 2.). Subjekti koji uvode sustav provjeravaju potpada li njihova vlastita svrha upotrebe pod područje iz Priloga III. Nadzor tržišta može provjeriti razvrstavanje (čl. 80.); nadležna su tijela za nadzor tržišta koja određuje svaka država članica (čl. 70.).
Vrijedi li obveza kompetencije u UI i kod minimalnog rizika?
Da. Čl. 4. nije vezan uz razinu rizika: dobavljači i subjekti koji uvode sustav poduzimaju mjere za podupiranje kompetencije u UI osoba koje u njihovo ime rade s UI, čak i kada se koriste samo jednostavni alati. Što to konkretno znači, objašnjava stranica Obveza kompetencije u UI prema čl. 4.
Od kada vrijede obveze za UI visokog rizika?
Za UI u područjima iz Priloga III. od 2. prosinca 2027., za UI u proizvodima iz Priloga I. od 2. kolovoza 2028. Digital Omnibus za UI (Uredba (EU) 2026/1744) pomaknuo je te rokove; bili su predviđeni 2. kolovoza 2026. i 2. kolovoza 2027. Za sustave koji su već prije toga stavljeni na tržište ili u upotrebu obveze vrijede samo nakon znatne promjene njihova dizajna; sustavi namijenjeni tijelima javne vlasti moraju biti usklađeni do 2. kolovoza 2030. (čl. 111. st. 2.). Svi rokovi nalaze se u kalendaru rokova.
Obučite tim odmah EU AI Act ukratko
Napomena: ovaj pregled služi općim informacijama i ne zamjenjuje pravni savjet. Izvor: Uredba (EU) 2024/1689 kako je izmijenjena Uredbom (EU) 2026/1744, EUR-Lex.