Osnove

EU AI Act ukratko

Uredba EU-a o UI (Uredba (EU) 2024/1689) ne regulira UI paušalno, nego prema riziku njezine primjene. Njezina obveza kompetencije u UI tiče se svakog poduzeća koje sustave UI koristi profesionalno i u vlastitoj odgovornosti (čl. 4, čl. 3. t. 4.), uz iznimke iz čl. 2.

Jedna obveza vrijedi za gotovo svako poduzeće koje UI koristi profesionalno

Neovisno o razredu rizika: UI-kompetencija vaših zaposlenika prema članku 4. Naša obuka je pokriva, na 26 jezika, s potvrdom za svaku osobu i jednim revizijskim izvješćem za cijelu tvrtku.

29,75 € po osobi, neto, država: Hrvatska (bez pretplate)

Obuči tim Kako to ide

Što je EU AI Act?

EU AI Act (Uredba (EU) 2024/1689) je uredba EU-a o umjetnoj inteligenciji: utvrđuje jedinstvena pravila za stavljanje na tržište, stavljanje u upotrebu i korištenje sustava UI u EU-u. Stupio je na snagu 1. kolovoza 2024. i kao uredba EU-a vrijedi izravno u svim državama članicama, bez potrebe za nacionalnim provedbenim zakonom. Cilj je pouzdana, sigurna i prava poštujuća primjena UI na europskom unutarnjem tržištu. Uredba slijedi pristup temeljen na riziku: što je viši rizik koji sustav UI nosi za ljude i društvo, to su stroži zahtjevi.

Važno: EU AI Act ima ekstrateritorijalnog učinka. Pod njega potpadaju i dobavljači izvan EU-a čim njihovi sustavi UI dođu na tržište EU-a ili se njihovi rezultati koriste u EU-u. Obveze uz to ne stupaju na snagu odjednom, nego postupno. Potpuni vremenski plan pronaći ćete na našoj stranici rokova.

Koje razrede rizika definira EU AI Act?

EU AI Act razvrstava UI prema riziku, uobičajeno u četiri razine: neprihvatljiv rizik (zabranjeno), visok rizik, ograničen rizik i minimalan rizik. Pojam „razred rizika“ sama uredba ne koristi; ona uređuje zabranjene prakse (čl. 5.), UI visokog rizika (čl. 6.), obveze transparentnosti (čl. 50.) i vlastite obveze za GPAI modele (poglavlje V.). Iz razvrstavanja proizlaze konkretne obveze koje pokazuju kartice i tablica; svaku razinu s primjerima objašnjava pregled razreda rizika s primjerima.

Neprihvatljiv rizik

Zabranjene prakse, npr. društveno bodovanje ili manipulativni sustavi. Zabranjene od 2. veljače 2025.

Visok rizik

UI u osjetljivim područjima (npr. odabir osoblja, odobravanje kredita, kritična infrastruktura). Strogi zahtjevi za upravljanje rizicima, kvalitetu podataka i ljudski nadzor.

Ograničen rizik

Obveze transparentnosti. korisnici npr. moraju znati da razgovaraju s chatbotom ili da je sadržaj generirala UI.

Minimalan rizik

Svi ostali sustavi UI za koje ne vrijede ni zabrane ni obveze za visok rizik ili transparentnost. Obveza kompetencije u UI prema čl. 4. vrijedi i ovdje.

Razredi rizika u EU AI Act-u: primjeri, obveze i rokovi
Razred rizikaPrimjeriŠto vrijediOd kada
Neprihvatljiv rizik (čl. 5.)Društveno bodovanje, manipulativne tehnike, prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama, neciljano prikupljanje fotografija licazabranjenood 2. veljače 2025., daljnje zabrane od 2. prosinca 2026.
Visok rizik (čl. 6., prilozi I. i III.)Odabir kandidata za posao, procjena kreditne sposobnosti, ispiti u obrazovanju, kritična infrastruktura, UI kao sigurnosna komponenta, npr. u medicinskim proizvodimaDobavljači: upravljanje rizicima, kvaliteta podataka, tehnička dokumentacija, ocjena sukladnosti. Subjekti koji uvode sustav: upotreba u skladu s uputama za upotrebu, ljudski nadzor, praćenje (čl. 26.)od 2. prosinca 2027. (Prilog III.) i 2. kolovoza 2028. (Prilog I.)
Ograničen rizik (čl. 50.)Chatbotovi, sadržaj generiran ili manipuliran pomoću UI (deep fake)Transparentnost: upozorenje na UI, označivanje sadržajaod 2. kolovoza 2026.
Minimalan rizikFiltri za neželjenu poštu, pomagala za prevođenje i pravopisnema obveza iz čl. 5., 6. ili 50.nema zasebnog roka
Svi razredi rizika: kompetencija u UI (čl. 4.)svaki sustav UI koji se koristi profesionalnomjere za kompetenciju uključenih osoba u UIod 2. veljače 2025., u novoj verziji od 27. srpnja 2026.

Čak i tko UI koristi samo uz minimalan ili ograničen rizik, ima jednu temeljnu obvezu koja vrijedi neovisno o razini rizika: kompetenciju zaposlenika u području UI. Sve zabranjene prakse, osam visokorizičnih područja iz Priloga III. i tipične primjene iz uredske svakodnevice nalaze se na stranici Razredi rizika u EU AI Act-u.

Neovisno o razini rizika, za gotovo sva poduzeća koja koriste UI vrijedi obveza kompetencije u UI prema članku 4., već od 2. veljače 2025. Više na stranici Čl. 4: kompetencija u UI.

U koji razred rizika spada vaš sustav UI?

Četiri pitanja ovim redoslijedom razjašnjavaju razvrstavanje. Jedan sustav može istodobno povlačiti više obveza, primjerice kao UI visokog rizika s obvezama transparentnosti.

  1. Zabranjeno? Ako upotreba potpada pod zabranjenu praksu iz čl. 5., nije dopuštena.
  2. Visok rizik? Ako je sustav UI sigurnosna komponenta proizvoda iz Priloga I. ili je sam takav proizvod i proizvod mora proći ocjenu sukladnosti koju provodi treća strana, ili ako se upotrebljava u području iz Priloga III., primjerice zapošljavanje, obrazovanje, kreditna sposobnost ili kritična infrastruktura, u pravilu je riječ o UI visokog rizika. Iznimke za sustave iz Priloga III. bez znatnog rizika uređuje čl. 6. st. 3.
  3. Obveze transparentnosti? Ako sustav komunicira s ljudima ili generira tekst, slike, zvuk ili video, vrijede obveze transparentnosti iz čl. 50.
  4. Inače minimalan rizik: Ako ništa od toga nije slučaj, nema obveza iz čl. 5., 6. ni 50.

U sva četiri slučaja vrijedi obveza kompetencije u UI prema čl. 4.

GPAI: modeli opće namjene

Posebnu ulogu imaju GPAI-modeli (General Purpose AI), veliki, svestrano primjenjivi UI-modeli kakvi stoje iza modernih chatbotova i generatora teksta ili slika. Za njih od 2. kolovoza 2025. vrijede vlastite obveze, primjerice glede tehničke dokumentacije, transparentnosti prema naknadnim dobavljačima i poštivanja autorskog prava. Za osobito moćne modele s mogućim sustavnim rizicima dolaze dodatni zahtjevi. Za modele stavljene na tržište prije 2. kolovoza 2025. dobavljači imaju vremena do 2. kolovoza 2027. (čl. 111. st. 3.). Novčane kazne Komisije prema čl. 101. prijete od 2. kolovoza 2026.

Koga se tiče? Dobavljači, subjekti koji uvode sustav i ostali

EU AI Act razlikuje nekoliko uloga, s različito dalekosežnim obvezama:

  • Dobavljači (Provideri): razvijaju sustav UI ili ga daju razviti te ga stavljaju na tržište ili u upotrebu pod vlastitim imenom ili žigom (čl. 3. t. 3.).
  • Subjekti koji uvode sustav (Deployers): upotrebljavaju sustav UI u okviru svoje nadležnosti, osim u osobnoj neprofesionalnoj djelatnosti (čl. 3. t. 4.).
  • Uvoznici i distributeri: uvoze ili distribuiraju sustave UI na tržištu EU-a; kod sustava UI visokog rizika moraju provjeriti njihovu sukladnost (čl. 23., 24.).

Ključno: čak i tko UI „samo" koristi, obuhvaćen je kao subjekt koji uvodi sustav (čl. 3. t. 4., čl. 4.), osobito glede kompetencije zaposlenika u UI.

Koje obveze vrijede i od kada?

EU AI Act stupa na snagu u fazama. Najvažniji rokovi u pregledu:

  • 1. kolovoza 2024.: Uredba stupa na snagu.
  • 2. veljače 2025.: Zabranjene prakse (čl. 5) i obveza kompetencije u UI (čl. 4) počinju vrijediti.
  • 2. kolovoza 2025.: Obveze za GPAI-modele (za modele stavljene na tržište prije tog datuma prijelazno razdoblje do 2. kolovoza 2027.), upravljačka struktura i odredbe o sankcijama stupaju na snagu, bez novčanih kazni za GPAI prema čl. 101.
  • 27. srpnja 2026.: Na snagu stupa Digital Omnibus (Uredba (EU) 2026/1744), preoblikuje članak 4. i odgađa rokove za UI visokog rizika.
  • 2. kolovoza 2026.: Uredba se primjenjuje općenito, među ostalim obveze transparentnosti prema čl. 50. i novčane kazne za GPAI prema čl. 101.
  • 2. prosinca 2026.: Nove zabrane prema čl. 5. (intimni prikazi stvarnih osoba bez pristanka, prikazi seksualnog zlostavljanja djece); kraj prijelaznog razdoblja za označivanje prema čl. 50. st. 2. kod sustava stavljenih na tržište prije 2. kolovoza 2026.
  • 2. prosinca 2027.: Obveze za sustave UI visokog rizika prema Prilogu III. (npr. ljudski resursi, obrazovanje, kreditna sposobnost).
  • 2. kolovoza 2028.: Obveze za sustave UI visokog rizika prema Prilogu I. odjeljku A (proizvodi koji potpadaju pod usklađeno zakonodavstvo EU-a, npr. medicinski proizvodi).

Sve pojedinosti i iznimke objašnjavamo na stranici rokova.

EU AI Act i GDPR: nije jedno ili drugo

EU AI Act ne zamjenjuje Opću uredbu o zaštiti podataka. Obje vrijede paralelno. Dok GDPR uređuje postupanje s osobnim podacima, EU AI Act adresira sustav UI kao takav i njegove rizike. Ako UI-aplikacija obrađuje osobne podatke, poduzeća moraju istovremeno poštivati oba propisa. Solidna kompetencija u UI pomaže zaposlenicima da prepoznaju upravo ta sučelja u svakodnevnom radu.

Sankcije za povrede

Povrede EU AI Act-a mogu izazvati osjetne novčane kazne. Čl. 99. stupnjuje novčane kazne u tri razine:

  • Do 35 mil. € ili 7 % svjetskog godišnjeg prometa, isključivo za zabranjene prakse prema članku 5.
  • Do 15 mil. € ili 3 %, za povrede određenih obveza dobavljača, subjekata koji uvode sustav i transparentnosti (npr. čl. 16., 26. i 50.).
  • Do 7,5 mil. € ili 1 %, za netočne ili obmanjujuće podatke prema tijelima.

Za dobavljače GPAI modela čl. 101. predviđa vlastite novčane kazne Komisije (do 3 % ili 15 mil. €, ovisno o tome koji je iznos viši). Za obvezu kompetencije u UI prema čl. 4. sam EU AI Act ne predviđa vlastiti okvir novčanih kazni; sankcije se utvrđuju prema nacionalnom pravu država članica. Za mala i srednja poduzeća te startupe kod triju razina vrijedi uvijek niži od dvaju iznosa kao gornja granica (čl. 99. st. 6.), za mala poduzeća srednje tržišne kapitalizacije od Digital Omnibusa kod razina za ostale obveze i netočne podatke (čl. 99. st. 6.a). Više na stranici Kazne.

Koje zahtjeve EU AI Act postavlja poduzećima?

Zahtjevi ovise o ulozi i riziku: svako poduzeće koje UI koristi profesionalno mora poticati kompetenciju svojih zaposlenika u UI (čl. 4.). Dobavljači i subjekti koji uvode sustave UI visokog rizika imaju dodatne obveze (čl. 16. i 26.), uz to dolaze obveze transparentnosti, primjerice za chatbotove i sadržaj tipa deep fake (čl. 50.). Praktično to znači:

  • Steknite pregled gdje se UI koristi u vašem poduzeću.
  • Poduzmite mjere za podupiranje kompetencije u UI prema članku 4., prilagođene ulozi i kontekstu primjene vaših zaposlenika.
  • Završite obuku EU AI Act i dokumentirajte je provjerljivo, kako biste poduzete mjere mogli objasniti.
  • Poštujte rokove EU AI Act-a, osobito nove rokove za sustave UI visokog rizika: 2. prosinca 2027. (Prilog III.) i 2. kolovoza 2028. (Prilog I.).

Česta pitanja o EU AI Act-u

Kada EU AI Act stupa na snagu?

EU AI Act stupio je na snagu 1. kolovoza 2024., a njegove se obveze primjenjuju u fazama do 2028. Od 2. veljače 2025. vrijede obveza kompetencije u UI prema čl. 4. i prve zabrane prema čl. 5., a od 2. kolovoza 2026. Uredba se primjenjuje općenito. Obveze za UI visokog rizika slijede 2. prosinca 2027. (Prilog III.) i 2. kolovoza 2028. (Prilog I.). Sve rokove pronaći ćete na stranici rokova.

Koji sustavi UI nisu obuhvaćeni EU AI Act-om?

Izuzeti su prije svega sustavi UI isključivo za vojne ili obrambene svrhe ili u svrhe nacionalne sigurnosti (čl. 2. st. 3.), UI posebno razvijena isključivo za znanstvena istraživanja i razvoj (st. 6.) te istraživanje, testiranje i razvoj prije stavljanja na tržište ili u upotrebu, osim testiranja u stvarnim uvjetima (st. 8.). Za fizičke osobe koje UI upotrebljavaju isključivo osobno i neprofesionalno ne vrijede obveze subjekata koji uvode sustav (st. 10.). UI koja se objavljuje na temelju besplatnih licencija za softver otvorenog koda izuzeta je, osim ako se stavlja na tržište ili u upotrebu kao UI visokog rizika ili kao sustav obuhvaćen čl. 5. ili 50. (st. 12.). Tko UI upotrebljava profesionalno, s druge je strane obuhvaćen.

Vrijedi li EU AI Act i za mala poduzeća?

Da. Obveza kompetencije u UI prema članku 4. vrijedi neovisno o veličini poduzeća za sve koji UI koriste profesionalno. Pri novčanim kaznama MSP-ovi su ipak manje opterećeni.

Moram li negdje prijaviti svoje sustave UI?

Obveza registracije postoji prije svega za određene sustave visokog rizika. Ako UI koristite samo u području minimalnog ili ograničenog rizika, u prvom je planu kompetencija vaših zaposlenika. Više odgovora prikuplja naša stranica s čestim pitanjima.

Obučite tim odmah Pogledajte kazne

Napomena: ovaj pregled je informativan i ne zamjenjuje pravni savjet.