ES dirbtinio intelekto (DI) akte DI sistemos diferencijuojamos pagal jų keliamą riziką žmonių saugumui, gerovei ir teisėms. DI akte apibrėžti 4 DI sistemų rizikos lygiai.
Nepriimtina rizika
ES mano, kad kai kurios DI sistemos yra visiškai nepriimtinos, todėl jas draudžia:
- DI grindžiamas manipuliavimas ir apgaudinėjimas
- DI grindžiamas pažeidžiamumų išnaudojimas
- socialinis vertinimas taškais
- atskirų nusikalstamų veikų rizikos vertinimas ar prognozavimas
- netikslinis interneto ar vaizdo stebėjimo kamerų medžiagos rinkimas siekiant sukurti ar išplėsti veido atpažinimo duomenų bazes
- emocijų atpažinimas darbo vietose ir švietimo įstaigose
- biometrinių duomenų skirstymas į kategorijas siekiant nustatyti tam tikrus saugomus bruožus
- nuotolinis biometrinis atpažinimas realiuoju laiku teisėsaugos tikslais viešai prieinamose erdvėse
Didelė rizika
DI sistemos, kurios gali kelti rimtą pavojų sveikatai, saugumai ar pagrindinėms teisėms, priskiriamos didelės rizikos kategorijai. Šiai kategorijai priskiriamos DI sistemos apima DI saugos komponentus ypatingos svarbos infrastruktūros objektuose, švietimo įstaigose naudojamus DI sprendimus, nuo kurių gali priklausyti galimybė įgyti išsilavinimą ir žmogaus profesinio gyvenimo eiga, DI naudojimo atvejus teisėsaugos srityje, kurie gali pažeisti pagrindines teises, ir kt.
pavyzdys Traukinių valdymo sistema, kuri naudojama siekiant užtikrinti saugumą visoje geležinkelių infrastruktūroje, bus laikoma didelės rizikos.
pavyzdys Prašymų išduoti vizą automatizuotas nagrinėjimas bus laikomas didelės rizikos, nes tai daro didelį poveikį pagrindinėms teisėms migracijos srityje.
Didelės rizikos DI sistemoms, prieš pateikiant jas rinkai, taikomos griežtos pareigos, įskaitant būtinybę atlikti rizikos vertinimą ir turėti rizikos valdymo sistemas, būtinybę turėti aukštos kokybės duomenų rinkinius ir tinkamas žmogiškosios priežiūros priemones.
Skaidrumo rizika
DI akte nustatyti konkretūs informacijos atskleidimo įpareigojimai, kuriais siekiama užtikrinti, kad žmonės būtų informuojami, kai tai būtina pasitikėjimui išsaugoti. Pavyzdžiui, naudojant DI sistemas, pokalbių robotus, žmonės turėtų būti informuojami, kad jie bendrauja su DI sistema ir, atitinkamai, galėtų priimti šia informacija grįstą sprendimą.
Daugiau apie DI skaidrumo iššūkius skaitykite šiame Gide.
Minimali arba neegzistuojanti rizika
DI akte nenustatomos taisyklės DI sistemoms, kurios laikomos keliančiomis minimalią riziką arba nekeliančiomis rizikos. Tai apima, pvz., vaizdo žaidimus su DI arba nepageidaujamų el. laiškų filtrus.