Čo je vysokorizikový AI systém?
Vysokorizikový AI systém je podľa AI Act systém, ktorý môže významne ovplyvniť zdravie, bezpečnosť alebo základné práva ľudí, napríklad AI pri nábore zamestnancov či posudzovaní úverov.
Vysvetlenie
AI Act určuje vysokorizikové systémy dvoma spôsobmi. Prvou skupinou sú AI systémy, ktoré sú bezpečnostnou súčasťou výrobkov regulovaných v EÚ, napríklad zdravotníckych pomôcok, strojov či hračiek (príloha I). Druhou sú oblasti vymenované v prílohe III: biometria, kritická infraštruktúra, vzdelávanie, zamestnanosť a riadenie ľudí, prístup k dôležitým službám (napríklad úverové hodnotenie či životné a zdravotné poistenie), presadzovanie práva, migrácia a justícia.
Na takéto systémy sa vzťahujú prísne požiadavky: riadenie rizík, kvalitné dáta, technická dokumentácia, automatické záznamy, transparentnosť, ľudský dohľad, presnosť a kybernetická bezpečnosť. Väčšinu povinností nesie poskytovateľ, no aj firma, ktorá systém používa, musí dodržiavať návod, zabezpečiť dohľad človekom a uchovávať záznamy.
Po úprave z roku 2026 (nariadenie (EÚ) 2026/1744) sa pravidlá pre systémy z prílohy III uplatňujú od 2. decembra 2027 a pre systémy z prílohy I od 2. augusta 2028. Bežné firemné použitia, ako chatbot, písanie textov či spracovanie faktúr, vysokorizikové nie sú.
Príklad z firmy
Firma zvažuje nástroj, ktorý automaticky hodnotí životopisy uchádzačov. Ide o oblasť zamestnanosti, preto si od dodávateľa vyžiada dokumentáciu, nastaví kontrolu výsledkov personalistom a uchádzačov informuje.
Súvisiace pojmy
Súvisiaca služba AI-CO
Bezpečnosť AI a AI Act: AI Act a bezpečnosť AI vo firme od 490 €: súpis AI nástrojov, smernica, AI gramotnosť podľa čl. 4, označenie chatbota podľa čl. 50 a kontrola dát a GDPR.
Neviete, kde začať? Objednať AI Discovery zadarmo, náš človek prejde s vami firmu a do 24 hodín máte mapu príležitostí.