EU AI Act na kratko
Uredba EU o umetni inteligenci (Uredba (EU) 2024/1689) UI ne ureja enotno, temveč glede na tveganje njene uporabe. Njena obveznost kompetence na področju UI zadeva vsako podjetje, ki sisteme UI poklicno uporablja v svoji pristojnosti (čl. 4, čl. 3, točka 4), z izjemami iz člena 2.
Ena obveznost velja za skoraj vsako podjetje, ki UI poklicno uporablja
Ne glede na razred tveganja: UI-kompetenca zaposlenih po členu 4. Naše usposabljanje jo pokriva, v 26 jezikih, s potrdilom za vsako osebo in enim revizijskim poročilom za celotno podjetje.
29,75 € na osebo, neto, država: Slovenija (brez naročnine)
Kaj je EU AI Act?
EU AI Act (Uredba (EU) 2024/1689) je uredba EU o umetni inteligenci: določa enotna pravila za dajanje sistemov UI na trg, njihovo dajanje v uporabo in uporabo v EU. Začel je veljati 1. avgusta 2024 in se kot uredba EU neposredno uporablja v vseh državah članicah, brez potrebe po nacionalni zakonodaji. Cilj je zanesljiva, varna in temeljnim pravicam skladna uporaba UI na enotnem trgu. Uredba sledi pristopu, ki temelji na tveganju: višje kot je tveganje sistema UI za ljudi in družbo, strožje so zahteve.
Pomembno: EU AI Act deluje ekstrateritorialno. Zajame tudi ponudnike izven EU, takoj ko njihovi sistemi UI pridejo na trg EU ali se njihovi rezultati uporabljajo v EU. Obveznosti ne začnejo veljati vse naenkrat, temveč postopno — celoten časovni načrt najdete na naši strani z roki.
Katere razrede tveganja opredeljuje EU AI Act?
EU AI Act razvršča UI glede na tveganje, običajno v štiri stopnje: nesprejemljivo tveganje (prepovedano), visoko tveganje, omejeno tveganje in minimalno tveganje. Uredba sama izraza „razred tveganja“ ne uporablja; ureja prepovedane prakse (čl. 5), UI z visokim tveganjem (čl. 6), obveznosti glede preglednosti (čl. 50) in lastne obveznosti za modele GPAI (poglavje V). Iz razvrstitve izhajajo konkretne obveznosti, ki jih kažejo kartice in preglednica; vsako stopnjo s primeri pojasnjuje pregled razredov tveganja s primeri.
Nesprejemljivo tveganje
Prepovedane prakse, npr. družbeno točkovanje ali manipulativni sistemi. Prepovedane od 2. februarja 2025.
Visoko tveganje
UI na občutljivih področjih (npr. zaposlovanje, odobravanje kreditov, kritična infrastruktura). Stroge zahteve glede obvladovanja tveganj, kakovosti podatkov in nadzora.
Omejeno tveganje
Obveznosti preglednosti, uporabnik mora npr. vedeti, da govori s klepetalnim robotom ali da je vsebina ustvarjena z UI.
Minimalno tveganje
Vsi preostali sistemi UI, za katere ne veljajo ne prepovedi ne obveznosti za visoko tveganje ali preglednost. Obveznost kompetence na področju UI po čl. 4 velja tudi tu.
| Razred tveganja | Primeri | Kaj velja | Od kdaj |
|---|---|---|---|
| Nesprejemljivo tveganje (čl. 5) | Družbeno točkovanje, manipulativne tehnike, prepoznavanje čustev na delovnem mestu in v izobraževalnih ustanovah, neciljno zajemanje podob obraza | prepovedano | od 2. februarja 2025, nadaljnje prepovedi od 2. decembra 2026 |
| Visoko tveganje (čl. 6, Prilogi I in III) | Izbira kandidatov za zaposlitev, ocenjevanje kreditne sposobnosti, preverjanje znanja v izobraževanju, kritična infrastruktura, UI kot varnostna komponenta, npr. v medicinskih pripomočkih | Ponudniki: obvladovanje tveganj, kakovost podatkov, tehnična dokumentacija, ugotavljanje skladnosti. Uvajalci: uporaba v skladu z navodili za uporabo, človeški nadzor, spremljanje (čl. 26) | od 2. decembra 2027 (Priloga III) in 2. avgusta 2028 (Priloga I) |
| Omejeno tveganje (čl. 50) | Klepetalni roboti, vsebine, ustvarjene ali manipulirane z UI (globoki ponaredki) | Preglednost: opozorilo, da gre za UI, označevanje vsebin | od 2. avgusta 2026 |
| Minimalno tveganje | Filtri za neželeno pošto, pripomočki za prevajanje in črkovanje | brez obveznosti iz čl. 5, 6 ali 50 | brez posebnega roka |
| Vsi razredi tveganja: kompetenca na področju UI (čl. 4) | vsak sistem UI, ki se uporablja poklicno | ukrepi za kompetenco udeleženih oseb na področju UI | od 2. februarja 2025, v novi različici od 27. julija 2026 |
Tudi kdor UI uporablja le na področju minimalnega ali omejenega tveganja, ima temeljno obveznost, ki velja ne glede na razred tveganja: kompetenco zaposlenih na področju UI. Vse prepovedane prakse, osem področij visokega tveganja iz Priloge III in tipične uporabe iz pisarniškega vsakdana so na strani Razredi tveganja v EU AI Act.
V kateri razred tveganja spada vaš sistem UI?
Razvrstitev razjasnijo štiri vprašanja v tem vrstnem redu. En sistem lahko sproži več obveznosti hkrati, na primer kot UI z visokim tveganjem z obveznostmi glede preglednosti.
- Prepovedano? Če uporaba spada med prepovedane prakse iz čl. 5, ni dovoljena.
- Visoko tveganje? Če je sistem UI varnostna komponenta izdelka iz Priloge I ali je sam tak izdelek in mora izdelek opraviti ugotavljanje skladnosti s strani tretje osebe, ali če se uporablja na področju iz Priloge III, na primer zaposlovanje, izobraževanje, kreditna sposobnost ali kritična infrastruktura, gre praviloma za UI z visokim tveganjem. Izjeme za sisteme iz Priloge III brez znatnega tveganja ureja čl. 6(3).
- Obveznosti glede preglednosti? Če sistem komunicira z ljudmi ali ustvarja besedilo, slike, zvok ali video, veljajo obveznosti glede preglednosti iz čl. 50.
- Sicer minimalno tveganje: Če nič od tega ne velja, ni obveznosti iz čl. 5, 6 ali 50.
V vseh štirih primerih velja obveznost kompetence na področju UI po čl. 4.
GPAI: modeli s splošnim namenom
Posebno vlogo imajo modeli GPAI (General Purpose AI), veliki, vsestransko uporabni modeli UI, kakršni stojijo za sodobnimi klepetalnimi roboti ter generatorji besedil in slik. Zanje veljajo od 2. avgusta 2025 lastne obveznosti glede tehnične dokumentacije, preglednosti do nadaljnjih ponudnikov in spoštovanja avtorskih pravic. Za posebej zmogljive modele z morebitnimi sistemskimi tveganji pridejo dodatne zahteve. Za modele, dani na trg pred 2. avgustom 2025, imajo ponudniki čas do 2. avgusta 2027 (čl. 111(3)). Globe Komisije po členu 101 grozijo od 2. avgusta 2026.
Koga zadeva? Ponudniki, uvajalci in drugi
EU AI Act razlikuje med več vlogami — z različno obsežnimi obveznostmi:
- Ponudniki (Provider): sistem UI razvijejo ali ga dajo razviti in ga dajo na trg ali v uporabo pod lastnim imenom ali znamko (čl. 3, točka 3).
- Uvajalci (Deployer): sistem UI uporabljajo v svoji pristojnosti, razen v okviru osebne nepoklicne dejavnosti (čl. 3, točka 4).
- Uvozniki in distributerji: uvažajo ali distribuirajo sisteme UI na trg EU; pri sistemih UI z visokim tveganjem morajo preveriti njihovo skladnost (čl. 23, 24).
Ključno: tudi tisti, ki UI zgolj uporablja, je zajet kot uvajalec (čl. 3, točka 4, čl. 4), zlasti glede kompetence zaposlenih na področju UI.
Katere obveznosti veljajo in od kdaj?
EU AI Act začne veljati postopno. Najpomembnejši roki v pregledu:
- 1. avgust 2024: Uredba začne veljati.
- 2. februar 2025: Prepovedane prakse (čl. 5) in obveznost kompetence na področju UI (čl. 4) se neposredno uporabljajo.
- 2. avgust 2025: Začnejo veljati obveznosti za modele GPAI (za modele, dane na trg pred tem datumom, prehodno obdobje do 2. avgusta 2027), struktura upravljanja in sankcijske določbe, brez glob za GPAI po čl. 101.
- 27. julij 2026: Začne veljati Digital Omnibus (Uredba (EU) 2026/1744), na novo oblikuje čl. 4 in prestavi roke za UI z visokim tveganjem.
- 2. avgust 2026: Uredba se splošno uporablja, med drugim obveznosti glede preglednosti po čl. 50 in globe za GPAI po čl. 101.
- 2. december 2026: Nove prepovedi po čl. 5 (intimne upodobitve resničnih oseb brez privolitve, upodobitve spolne zlorabe otrok); konec prehodnega obdobja za označevanje po čl. 50(2) pri sistemih, danih na trg pred 2. avgustom 2026.
- 2. december 2027: Obveznosti za sisteme UI z visokim tveganjem po Prilogi III (npr. kadrovanje, izobraževanje, kreditna sposobnost).
- 2. avgust 2028: Obveznosti za sisteme UI z visokim tveganjem po Prilogi I, oddelek A (izdelki, ki jih urejajo harmonizacijski predpisi EU, npr. medicinski pripomočki).
Vse podrobnosti in izjeme razlagamo na strani z roki.
EU AI Act in GDPR: ni eno ali drugo
EU AI Act ne nadomesti Splošne uredbe o varstvu podatkov, obe veljata vzporedno. Medtem ko GDPR ureja ravnanje z osebnimi podatki, EU AI Act naslavlja sistem UI kot tak in njegova tveganja. Kadar aplikacija UI obdeluje osebne podatke, morajo podjetja upoštevati obe uredbi hkrati. Solidna kompetenca na področju UI pomaga zaposlenim prepoznati prav ta stičišča v vsakdanjem delu.
Sankcije za kršitve
Kršitve EU AI Act lahko sprožijo občutne globe. Člen 99 globe stopnjuje v treh stopnjah:
- Do 35 mio. € ali 7 % svetovnega letnega prometa, samo pri prepovedanih praksah po členu 5.
- Do 15 mio. € ali 3 %, pri kršitvah nekaterih obveznosti ponudnikov, uvajalcev in obveznosti glede preglednosti (npr. čl. 16, 26 in 50).
- Do 7,5 mio. € ali 1 %, pri napačnih ali zavajajočih podatkih organom.
Za ponudnike modelov GPAI člen 101 predvideva lastne globe Komisije (do 3 % ali 15 mio. €, odvisno od tega, kateri znesek je višji). Za obveznost kompetence na področju UI po čl. 4 EU AI Act sam ne predvideva lastnega razpona glob; sankcije se ravnajo po nacionalnem pravu držav članic. Za mala in srednja podjetja ter zagonska podjetja velja pri vseh treh stopnjah kot zgornja meja vedno nižji od obeh zneskov (čl. 99(6)), za mala podjetja s srednje veliko tržno kapitalizacijo od Digital Omnibus pri stopnjah za druge obveznosti in napačne podatke (čl. 99(6a)). Več na strani Globe.
Katere zahteve postavlja EU AI Act podjetjem?
Zahteve so odvisne od vloge in tveganja: vsako podjetje, ki UI uporablja poklicno, mora spodbujati kompetenco svojih zaposlenih na področju UI (čl. 4). Ponudniki in uvajalci UI z visokim tveganjem imajo dodatne obveznosti (čl. 16 in 26), poleg tega veljajo obveznosti glede preglednosti, na primer pri klepetalnih robotih in globokih ponaredkih (čl. 50). V praksi to pomeni:
- Pridobite pregled, kje se v vašem podjetju UI uporablja.
- Sprejmite ukrepe za podporo kompetenci na področju UI po členu 4, prilagojene vlogi in kontekstu uporabe vaših zaposlenih.
- Opravite usposabljanje EU AI Act in ga dokumentirajte preverljivo, da boste sprejete ukrepe lahko pojasnili.
- Upoštevajte roke EU AI Act, zlasti nove roke za sisteme UI z visokim tveganjem 2. decembra 2027 (Priloga III) in 2. avgusta 2028 (Priloga I).
Pogosta vprašanja o EU AI Act
Kdaj začne veljati EU AI Act?
EU AI Act je začel veljati 1. avgusta 2024, njegove obveznosti pa se uporabljajo postopno do leta 2028. Od 2. februarja 2025 veljata obveznost kompetence na področju UI po čl. 4 in prve prepovedi po čl. 5, od 2. avgusta 2026 se uredba uporablja splošno. Obveznosti za UI z visokim tveganjem sledijo 2. decembra 2027 (Priloga III) in 2. avgusta 2028 (Priloga I). Vse roke najdete na strani z roki.
Katerih sistemov UI EU AI Act ne zajema?
Izvzeti so predvsem sistemi UI izključno za vojaške, obrambne ali nacionalne varnostne namene (čl. 2(3)), UI, posebej razvita izključno za namene znanstvenih raziskav in razvoja (čl. 2(6)), ter raziskovalne dejavnosti, dejavnosti testiranja in razvoja pred dajanjem na trg ali v uporabo, razen testiranja v realnih razmerah (čl. 2(8)). Za fizične osebe, ki UI uporabljajo izključno osebno in nepoklicno, ne veljajo obveznosti uvajalcev (čl. 2(10)). UI, objavljena na podlagi prostih in odprtokodnih licenc, je izvzeta, razen če je dana na trg ali v uporabo kot UI z visokim tveganjem ali kot sistem UI iz člena 5 ali 50 (čl. 2(12)). Kdor UI uporablja poklicno, je nasprotno zajet.
Ali EU AI Act velja tudi za mala podjetja?
Da. Obveznost kompetence na področju UI po členu 4 velja za vse, ki UI poklicno uporabljajo, ne glede na velikost podjetja. Pri globah pa so MSP manj obremenjena.
Ali moram svoje sisteme UI kje prijaviti?
Obveznost registracije velja zlasti za določene sisteme z visokim tveganjem. Če UI uporabljate samo na področju minimalnega ali omejenega tveganja, je v ospredju kompetenca vaših zaposlenih. Dodatne odgovore zbira naša stran FAQ.
Usposobite svojo ekipo zdaj Oglejte si globe
Opomba: ta pregled je informativen in ne pomeni pravnega svetovanja.