Vodnik

Razredi tveganja v EU AI Act: pregled s primeri in obveznostmi

EU AI Act (Uredba (EU) 2024/1689) deli UI glede na tveganje na štiri stopnje: prepovedane prakse (čl. 5), UI z visokim tveganjem (čl. 6 s Prilogama I in III), omejeno tveganje z obveznostmi glede preglednosti (čl. 50) in minimalno tveganje brez posebnih obveznosti. Izraza „razred tveganja“ v tej obliki v uredbi ni, to je običajno poimenovanje teh stopenj. Modeli UI za splošne namene (GPAI) imajo lastna pravila v poglavju V. Ne glede na stopnjo za ponudnike in uvajalce velja čl. 4: ukrepi za kompetenco na področju UI.

Piramida tveganj EU AI Act

Višja kot je stopnja, strožja so pravila. Grafika prikazuje štiri stopnje z njihovo pravno podlago, ob njih lastna pravila za modele GPAI, spodaj pa obveznost, ki velja za vse stopnje.

Razredi tveganja v EU AI Act kot piramida Štiri stopnje od zgoraj navzdol: prepovedano po čl. 5, na primer družbeno točkovanje; visoko tveganje po čl. 6 s Prilogama I in III, na primer izbira kandidatov za zaposlitev; omejeno tveganje po čl. 50 z obveznostmi glede preglednosti za klepetalne robote in globoke ponaredke; minimalno tveganje brez obveznosti iz čl. 5, 6 in 50, na primer filtri za neželeno pošto. Ob strani: modeli GPAI z lastnimi pravili v poglavju V od 2. avgusta 2025. Spodaj: čl. 4, kompetenca na področju UI, velja na vseh stopnjah za ponudnike in uvajalce. Prepovedano čl. 5 · družbeno točkovanje Visoko tveganje čl. 6, Prilogi I in III · izbira kandidatov Omejeno tveganje čl. 50 · preglednost: klepetalni roboti, globoki ponaredki Minimalno tveganje brez obveznosti iz čl. 5, 6, 50 · npr. filtri neželene pošte Modeli GPAI lastna pravila poglavje V obveznosti za ponudnike modelov od 2. avgusta 2025 Čl. 4 Kompetenca na področju UI: velja na vseh stopnjah za ponudnike in uvajalce get-ai-conform.com/sl/eu-ai-act-risikoklassen · Uredba (EU) 2024/1689, sprem. z Uredbo (EU) 2026/1744 · stanje 10. 11. 2026
Vir: AI-Konform, po Uredbi (EU) 2024/1689, kakor je bila spremenjena z Uredbo (EU) 2026/1744, stanje 10. novembra 2026. Odprite grafiko kot SVG (v nemščini): za vdelavo z navedbo vira get-ai-conform.com.

Ena obveznost velja v vsakem razredu tveganja

Ukrepe za kompetenco na področju UI po čl. 4 potrebujete ne glede na razvrstitev. Usposabljanje AI-Konform je eden takih ukrepov: v 26 jezikih, s potrdilom o udeležbi za vsako osebo in revizijskim poročilom za podjetje.

29,75 € na osebo, neto, država: Slovenija (brez naročnine)

Usposobi ekipo Kaj usposabljanje zajema

Pregled: razredi tveganja, obveznosti in roki

Preglednica povzema, kaj velja na kateri stopnji in od kdaj. Umestitev celotnega zakona z vlogami in sankcijami ponuja stran EU AI Act v pregledu.

Razredi tveganja v EU AI Act: pravna podlaga, primeri, obveznosti in roki
StopnjaPravna podlagaPrimeriObveznostiOd kdaj
Nesprejemljivo tveganječl. 5družbeno točkovanje, prepoznavanje čustev na delovnem mestu, manipulativne tehnikeprepovedano, za ponudnike in uvajalceod 2. februarja 2025; še dve prepovedi od 2. decembra 2026
Visoko tveganječl. 6 s Prilogama I in IIIpredizbor kandidatov za zaposlitev, ocenjevanje kreditne sposobnosti, UI kot varnostna komponenta izdelkaPonudniki: obvladovanje tveganj, kakovost podatkov, dokumentacija, ugotavljanje skladnosti, registracija. Uvajalci: uporaba v skladu z navodili za uporabo, človeški nadzor, hramba dnevnikov (čl. 26)Priloga III od 2. decembra 2027, Priloga I od 2. avgusta 2028
Omejeno tveganječl. 50klepetalni roboti, globoki ponaredki, besedila UI o temah javnega interesaopozorilo, da gre za UI, označevanje vsebinod 2. avgusta 2026
Minimalno tveganjeni posebne določbefiltri za neželeno pošto, pripomočki za prevajanje, osnutki besedil v pisarnibrez obveznosti iz čl. 5, 6 ali 50; prostovoljni kodeksi ravnanja (čl. 95)brez posebnega roka
Modeli GPAI (lastna pravila)poglavje Vveliki jezikovni modeli za klepetalnimi roboti in besedilnimi pomočnikiPonudnik modela: tehnična dokumentacija, politika spoštovanja avtorskih pravic, povzetek vsebin, uporabljenih za učenje; več pri sistemskem tveganjuod 2. avgusta 2025, obstoječi modeli do 2. avgusta 2027
Vse stopnje: kompetenca na področju UIčl. 4vsak sistem UI, ki se uporablja poklicnoukrepi za kompetenco udeleženih oseb na področju UIod 2. februarja 2025, v novi različici od 27. julija 2026

En sistem lahko sproži več obveznosti hkrati, na primer kot UI z visokim tveganjem, ki se obenem pogovarja z ljudmi. Odločilen je namen uporabe, ne orodje: isti program je lahko v pisarni minimalno tvegan, pri izbiri kadrov pa visokotvegan.

Katere prakse UI so prepovedane?

Čl. 5 nekatere prakse v celoti prepoveduje. Prepoved velja za dajanje na trg, dajanje v uporabo in uporabo, torej tudi za podjetja, ki tak sistem le uporabljajo. Od 2. februarja 2025 so prepovedani:

  • Manipulacija: subliminalne, namerno manipulativne ali zavajajoče tehnike, ki bistveno spremenijo vedenje ljudi in jim povzročijo znatno škodo ali je razumno verjetno, da jim jo bodo povzročile (točka a).
  • Izkoriščanje šibkih točk: UI, ki izkorišča starost, invalidnost ali poseben socialni ali ekonomski položaj, z enako posledico (točka b).
  • Družbeno točkovanje: ocenjevanje ljudi v določenem obdobju na podlagi njihovega družbenega vedenja ali njihovih značilnosti, če to vodi v neupravičeno ali s kontekstom nepovezano škodljivo obravnavo (točka c).
  • Napovedovanje kaznivih dejanj zgolj na podlagi oblikovanja profilov ali osebnostnih lastnosti (točka d).
  • Podatkovne zbirke obrazov: vzpostavitev ali širitev z neciljnim zajemanjem podob obraza z interneta ali s posnetkov videonadzora (točka e).
  • Prepoznavanje čustev na delovnem mestu in v izobraževalnih ustanovah, razen iz zdravstvenih ali varnostnih razlogov (točka f).
  • Biometrična kategorizacija, da se izpeljejo občutljive značilnosti, kot so politično prepričanje, članstvo v sindikatu, vera ali spolna usmerjenost (točka g).
  • Biometrična identifikacija na daljavo v realnem času v javno dostopnih prostorih za namene kazenskega pregona, z ozkimi izjemami (točka h).

Od 2. decembra 2026 se dodata dve prepovedi, uvedeni z Digital Omnibus za UI: UI, ki ustvarja ali manipulira intimne upodobitve določljivih oseb brez njihove privolitve, in UI, ki ustvarja ali manipulira upodobitve spolne zlorabe otrok (točki ba in bb). Podjetja, ki uporabljajo generatorje slik, prepoved kršijo šele, če sistem uporabljajo v ta namen (čl. 5(1a), točka b). Kršitve čl. 5 spadajo v najvišjo stopnjo glob: do 35 mio. € ali 7 % skupnega svetovnega letnega prometa (čl. 99(3)).

Kdaj je sistem UI visokotvegan?

Po čl. 6 v stopnjo visokega tveganja vodita dve poti. Prvič, UI kot varnostna komponenta izdelka ali kot sam izdelek, za katerega velja zakonodaja EU o izdelkih iz Priloge I in katerega skladnost mora ugotoviti tretja oseba, na primer medicinski pripomočki, igrače ali dvigala. Te obveznosti veljajo od 2. avgusta 2028. Drugič, UI na enem od osmih področij iz Priloge III, od 2. decembra 2027:

  1. Biometrija: identifikacija na daljavo, kategorizacija po občutljivih značilnostih, prepoznavanje čustev (če ni že prepovedano).
  2. Kritična infrastruktura: varnostne komponente za digitalno infrastrukturo, cestni promet ter oskrbo z vodo, plinom, ogrevanjem in električno energijo.
  3. Izobraževanje: sprejem, ocenjevanje učnih izidov, razvrščanje po ravneh, nadzor pri preverjanju znanja.
  4. Zaposlovanje: ciljno usmerjeni oglasi za delovna mesta, pregledovanje in ocenjevanje prijav, odločitve o napredovanju ali odpovedi, dodeljevanje nalog, spremljanje uspešnosti.
  5. Bistvene storitve: javne ugodnosti in storitve pomoči, kreditna sposobnost fizičnih oseb (razen odkrivanja goljufij), tveganje in cena pri življenjskem in zdravstvenem zavarovanju, klici v sili in triaža.
  6. Kazenski pregon, kolikor ga dovoljuje pravo Unije ali nacionalno pravo.
  7. Migracije, azil in nadzor meje, prav tako le v dovoljenem okviru.
  8. Pravosodje in demokratični procesi: podpora sodiščem, vplivanje na volitve.

Ni vsak sistem iz Priloge III samodejno visokotvegan. Po čl. 6(3) razvrstitev odpade, če sistem ne pomeni znatnega tveganja, na primer ker opravlja le ozko postopkovno nalogo, izboljšuje rezultat predhodno zaključene človeške dejavnosti, zaznava vzorce odločanja, ne da bi nadomestil človeško oceno, ali opravlja pripravljalno nalogo. Če sistem izvaja oblikovanje profilov fizičnih oseb, vedno šteje za visokotveganega. Kdor se sklicuje na izjemo, svojo oceno dokumentira pred dajanjem na trg (čl. 6(4)) in sistem registrira (čl. 49(2)).

Večina obveznosti zadeva ponudnike: obvladovanje tveganj, kakovost podatkov, tehnična dokumentacija, vodenje evidenc, preglednost, človeški nadzor, točnost in robustnost (čl. 9 do 15), poleg tega ugotavljanje skladnosti in registracija. Podjetja, ki UI z visokim tveganjem le uporabljajo, so uvajalci in imajo lastne obveznosti po čl. 26: sistem uporabljati v skladu z navodili za uporabo, človeški nadzor zaupati osebam s potrebno kompetenco, spremljati delovanje, hraniti dnevnike ter pred uporabo na delovnem mestu obvestiti delavce in njihove predstavnike (čl. 26(7)). Nekateri uvajalci dodatno opravijo oceno učinka na temeljne pravice (čl. 27), na primer javni organi in podjetja, ki UI uporabljajo za ocenjevanje kreditne sposobnosti ali za tveganje in ceno pri življenjskem in zdravstvenem zavarovanju. Kršitve stanejo do 15 mio. € ali 3 % skupnega svetovnega letnega prometa (čl. 99(4)).

Za visokotvegane sisteme, ki so bili dani na trg ali v uporabo že pred začetkom uporabe teh obveznosti, uredba velja le, če se po tem bistveno spremeni njihova zasnova. Sistemi, namenjeni javnim organom, morajo biti v vsakem primeru usklajeni do 2. avgusta 2030 (čl. 111(2)).

Kaj velja pri omejenem tveganju?

Za UI, ki je v interakciji z ljudmi ali ustvarja vsebine, od 2. avgusta 2026 veljajo obveznosti glede preglednosti po čl. 50:

  • Odst. 1, ponudniki: sistemi, ki z ljudmi govorijo ali si z njimi dopisujejo, so zasnovani tako, da ljudje vedo, da so v interakciji z UI, razen če je to očitno.
  • Odst. 2, ponudniki: slike, videi, zvočni posnetki in besedila, ustvarjeni z UI, so označeni v strojno berljivem formatu. Za sisteme, dane na trg pred 2. avgustom 2026, velja prehodno obdobje do 2. decembra 2026 (čl. 111(4)).
  • Odst. 3, uvajalci: kdor uporablja prepoznavanje čustev ali biometrično kategorizacijo, o tem obvesti zadevne osebe.
  • Odst. 4, uvajalci: globoki ponaredki in besedila UI, ki naj bi javnost obveščala o zadevah javnega interesa, se razkrijejo; pri besedilih to odpade, če jih človek uredniško pregleda in zanje odgovarja.

Tipične primere in kako je lahko obvestilo videti, pojasnjuje stran Obveznost označevanja UI po čl. 50. Kršitve prav tako spadajo v stopnjo do 15 mio. € ali 3 % (čl. 99(4)).

Kaj velja pri minimalnem tveganju?

Vsi preostali sistemi UI imajo minimalno tveganje: zanje ne veljajo obveznosti iz čl. 5, 6 ali 50. Sem spadajo številna orodja iz pisarniškega vsakdana, na primer filtri za neželeno pošto, pripomočki za prevajanje in črkovanje ali osnutki besedil, ki jih zaposleni pred uporabo preverijo. Mogoči so prostovoljni kodeksi ravnanja (čl. 95). Ena obveznost ostaja: ukrepi za kompetenco na področju UI po čl. 4, saj ta ni odvisna od stopnje tveganja. Kako te ukrepe zabeležite, kaže stran Obveznost kompetence na področju UI. Za čl. 4 AI Act ne predvideva posebnega prekrška z globo; več na strani Globe.

Ali so modeli GPAI poseben razred tveganja?

Nekateri pregledi jih navajajo kot peti razred. Pravno poglavje V ureja ponudnike modelov UI za splošne namene, na primer velikih jezikovnih modelov za klepetalnimi roboti. Njihove obveznosti veljajo od 2. avgusta 2025; za modele, dane na trg pred tem dnem, imajo ponudniki čas do 2. avgusta 2027 (čl. 111(3)). Globe Komisije po čl. 101 so mogoče od 2. avgusta 2026. Podjetje, ki klepetalnega robota na podlagi takega modela le uporablja, ni ponudnik modela. Za njegovo uporabo velja stopnja konkretnega namena, čl. 4 pa velja vedno.

Tipične uporabe UI in njihova razvrstitev

Primeri kažejo običajno razvrstitev. Odločilna sta vedno konkretni namen in vaša vloga ponudnika ali uvajalca.

Tipične uporabe UI v podjetju in njihova razvrstitev po EU AI Act
UporabaStopnja pravilomaKaj naj stori vaše podjetje
ChatGPT ali Copilot za besedila in raziskovanje v pisarniminimalno tveganje za vašo uporabo; model v ozadju ureja poglavje V pri ponudnikuukrepi za kompetenco na področju UI (čl. 4), pravila v politiki UI
Klepetalni robot na spletni straniomejeno tveganje (čl. 50(1))obvestilo, da odgovarja UI, je obveznost ponudnika (čl. 50(1)); kot uvajalec pazite, da se prikaže; kdor da robota razviti pod svojim imenom, je lahko sam ponudnik
Predizbor prijav na delovno mesto z UIvisoko tveganje (Priloga III, točka 4)od 2. decembra 2027 obveznosti uvajalca po čl. 26: obvestiti kandidate (čl. 26(11)); pri uporabi v razmerju do delavcev vnaprej obvestiti njihove predstavnike (čl. 26(7))
Ocenjevanje kreditne sposobnosti zasebnih strankvisoko tveganje (Priloga III, točka 5), razen odkrivanja goljufijobveznosti uvajalca po čl. 26 in ocena učinka na temeljne pravice (čl. 27)
Prepoznavanje čustev pri delavcihprepovedano (čl. 5(1), točka f), razen iz zdravstvenih ali varnostnih razlogovne uporabljati
Filter za neželeno poštominimalno tveganjeukrepi za kompetenco na področju UI (čl. 4)
Generator slik za oglasne slike in grafikeminimalno tveganje; omejeno tveganje, takoj ko nastanejo globoki ponaredkislike, ki delujejo kot pristni posnetki resničnih oseb, predmetov, krajev ali dogodkov, razkriti (čl. 50(4))
Diagnostična programska oprema z UI v medicinskem pripomočkuvisoko tveganje (Priloga I), če mora skladnost ugotoviti tretja osebaobveznosti ponudnika od 2. avgusta 2028; kot uvajalec obveznosti po čl. 26

Določitev razreda tveganja: štiri vprašanja

Za vsak sistem UI v podjetju pojdite po vrsti skozi ta vprašanja. Seznam vseh uporabljenih orodij z njihovim namenom je najboljše izhodišče.

  1. Ali namen spada pod prepoved iz čl. 5? Potem je uporaba prepovedana, ne glede na vsa nadaljnja vprašanja.
  2. Ali je sistem del izdelka iz Priloge I ali se uporablja na področju iz Priloge III? Potem gre praviloma za UI z visokim tveganjem; pri Prilogi III preverite izjemo iz čl. 6(3).
  3. Ali se sistem pogovarja z ljudmi ali ustvarja slike, videe, zvok ali besedila? Potem dodatno veljajo obveznosti glede preglednosti iz čl. 50.
  4. Kakšno vlogo ima vaše podjetje? Kdor sistem razvije ali ga ponuja pod svojim imenom, je ponudnik; kdor ga uporablja poklicno, je uvajalec. Kdor sistem UI, tudi sistem UI za splošne namene, kot je ChatGPT, uporablja za namen iz Priloge III, lahko po čl. 25(1), točka c, sam postane ponudnik visokotveganega sistema. Od tega so odvisne konkretne obveznosti.

Če nobeno od prvih treh vprašanj ne drži, gre za minimalno tveganje. Roki vseh stopenj so v koledarju rokov EU AI Act.

Pogosta vprašanja o razredih tveganja

Koliko razredov tveganja pozna EU AI Act?

Običajna je razdelitev na štiri stopnje: nesprejemljivo tveganje (prepovedano), visoko tveganje, omejeno tveganje in minimalno tveganje. Nekateri pregledi modele UI za splošne namene (GPAI) štejejo kot peti razred; uredba jih ureja v posebnem poglavju. Uredba sama izraza „razred tveganja“ ne uporablja.

V kateri razred tveganja spada ChatGPT?

To je odvisno od uporabe, ne od orodja. Jezikovni model za ChatGPT je model UI za splošne namene; obveznosti zanj nosi ponudnik modela (poglavje V). Če vaše podjetje uporablja ChatGPT za besedila ali raziskovanje, gre praviloma za minimalno tveganje. Če ga uporabljate na primer za predizbor prijav na delovno mesto, lahko uporaba spada pod Prilogo III, z bistveno strožjimi obveznostmi. Kdor sistem UI, tudi sistem UI za splošne namene, kot je ChatGPT, uporablja za namen iz Priloge III, lahko pri tem po čl. 25(1), točka c, sam postane ponudnik visokotveganega sistema. Čl. 4 velja v vsakem primeru.

Ali je klepetalni robot UI z visokim tveganjem?

Praviloma ne. Klepetalni robot za vprašanja strank spada pod obveznosti glede preglednosti iz čl. 50(1): ljudje morajo prepoznati, da govorijo z UI, razen če je to očitno. UI z visokim tveganjem postane šele, če se uporablja na področju iz Priloge III, na primer za odločitve o prijavah na delovno mesto ali o kreditih. Več na strani Obveznost označevanja UI po čl. 50.

Kdo razvrsti sistem UI?

Uredba uradne razvrstitve ne predvideva. Ponudnik razvrsti svoj sistem; če sistema iz Priloge III po čl. 6(3) ne šteje za visokotveganega, to dokumentira pred dajanjem na trg in sistem registrira (čl. 6(4), čl. 49(2)). Uvajalci preverijo, ali njihov lastni namen uporabe spada na področje iz Priloge III. Nadzor trga lahko razvrstitev preveri (čl. 80); pristojni so organi za nadzor trga, ki jih določi vsaka država članica (čl. 70).

Ali obveznost kompetence na področju UI velja tudi pri minimalnem tveganju?

Da. Čl. 4 ni vezan na stopnjo tveganja: ponudniki in uvajalci sprejmejo ukrepe za podporo kompetenci na področju UI oseb, ki v njihovem imenu delajo z UI, tudi če se uporabljajo le preprosta orodja. Kaj to konkretno pomeni, pojasnjuje stran Obveznost kompetence na področju UI po čl. 4.

Od kdaj veljajo obveznosti za UI z visokim tveganjem?

Za UI na področjih iz Priloge III od 2. decembra 2027, za UI v izdelkih iz Priloge I od 2. avgusta 2028. Digital Omnibus za UI (Uredba (EU) 2026/1744) je te roke prestavil; predvidena sta bila 2. avgust 2026 in 2. avgust 2027. Za sisteme, ki so bili dani na trg ali v uporabo že pred tem, obveznosti veljajo le po bistveni spremembi njihove zasnove; sistemi, namenjeni javnim organom, morajo biti usklajeni do 2. avgusta 2030 (čl. 111(2)). Vsi roki so v koledarju rokov.

Usposobite svojo ekipo zdaj EU AI Act v pregledu

Opomba: ta pregled je namenjen splošnim informacijam in ne pomeni pravnega svetovanja. Vir: Uredba (EU) 2024/1689, kakor je bila spremenjena z Uredbo (EU) 2026/1744, EUR-Lex.