Preskočiť na obsah
23. apríla 2021

Európska Komisia verejne predstavila horizontálny regulačný rámec pre umelú inteligenciu (Akt o umelej inteligencii)

Dňa 21.4.2021 Európska komisia verejne predstavila horizontálny regulačný rámec pre umelú inteligenciu (Artificial Intelligence Act). Spolu s legislatívou v oblasti digitálnych služieb  ide v oblasti digitálnej agendy a jednotného digitálneho trhu o politicky najdôležitejšiu iniciatívu Európskej komisie pod vedením jej predsedníčky U. von der Leyen. Hlavným cieľom Aktu o umelej inteligencii (AIA) je dynamickejší vývoj a využitie umelej inteligencie v EÚ a zabezpečenie bezpečnosti a základných práv používateľov systémov, resp. produktov a služieb využívajúcich technológie umelej inteligencie (AI). Ústredným konceptom, na ktorom je postavený Akt o umelej inteligencii , je koncept rizika, ktoré AI pre bezpečnosť, zdravie a ľudské práva umelá inteligencia predstavuje.

 

Európska komisia týmto zároveň navrhuje nové pravidlá a konkrétne kroky pre vybudovanie excelentnosti a posilnenie dôvery v umelú inteligenciu. Predstavený právny rámec pre AI je postavený na rizikovom profile jednotlivých AI technológií, pričom je doplnený o novú reguláciu pre strojové zariadenia (Machinery Regulation), ktorá nahrádza pôvodnú smernicu pre strojové zariadenia a zároveň zjednodušuje administratívnu záťaž pre podniky pre zabezpečenie súladu s novými pravidlami. Nové generácie strojov, ktoré budú mať v sebe integrované AI systémy, budú predmetom jednotného hodnotiaceho procesu, čím sa zníži administratívna ako aj finančná záťaž podnikov pri získavaní povolenia na používanie.

 

Základné rizikové kategórie v rámci predloženého návrhu Aktu o umelej inteligencii sú:

  • AI systémy, ktoré predstavujú neakceptovateľné riziko a ktoré sú v princípe zakázané. Toto zahŕňa AI systémy alebo aplikácie, ktoré manipulujú ľudské správanie za účelom obchádzania slobodnej vôle užívateľov.
  • Vysoko-rizikové AI systémy sa delia podľa oblasti aplikácie a budú podliehať striktným pravidlám a požiadavkám predtým ako sa môžu dostať na trh. Ide o AI systémy nasadzované napr. v rámci kritickej infraštruktúry, ale aj v procese vzdelávania, vymožiteľnosti práva či kontrole hraníc. Špecifickou kategóriou bude využívanie diaľkových biometrických identifikačných systémov.
  • Systémy AI s limitovaným rizikom sa budú riadiť špecifickými požiadavkami na transparentnosť (napr. pri využívaní AI systémov ako sú chatboty, užívatelia by si mali byť vedomí, že sú v interakcii so strojov, aby sa mohli rozhodnúť na základe pravdivej informácie, či chcú v interakcii pokračovať alebo nie).
  • Systémy AI, ktoré predstavujú minimálne riziko, pričom väčšina AI systémov spadá práve do tejto rizikovej kategórie, sa budú môcť voľne využívať a navrhovaná regulácia tu nebude zasahovať (napr. spamové filtre v elektronickej pošte), pričom Akt o umelej inteligencii navrhuje dobrovoľné pravidlá vychádzajúce z kódexov správania. 

    Pokiaľ ide o riadiacu štruktúru (governance), v rámci Aktu o umelej inteligencii  sa navrhuje, aby na nové pravidlá dohliadali národné kompetentné orgány dohľadu nad trhom, s jedným ústredným národným orgánom dohľadu. Vytvorí sa aj Európska rada pre umelú inteligenciu (European Artificial Intelligence Board), ktorej úlohou bude uľahčovať vykonávanie týchto pravidiel. Členské štáty EÚ budú zohrávať kľúčovú rolu pri dohľade a vynútiteľnosti nového regulačného rámca pre AI.

     

    Podpredsedníčka vlády a ministerka Veronika Remišová v súvislosti s predloženým návrhom uviedla: „Európa vstupuje v rámci celosvetovej éry umelej inteligencie do podpory budovania dôveryhodnej a excelentnej umelej inteligencie, čoho neoddeliteľnou súčasťou je aj Slovenská Republika. Naším cieľom je, aby nový regulačný rámec pre umelú inteligenciu zabezpečil využitie tejto technológie bezpečným, dôveryhodným, pre spoločnosť prospešným a najmä európskym spôsobom. V rámci našich prác sa zameriame na udržateľnosť ďalšieho vývoja, bezpečnosť a dodržiavania základných práv našich občanov pri využívaní tejto technológie s cieľom podporiť jej zodpovedný výskum, vývoj a nasadzovanie. Prvoradým v interakcii medzi strojom a ľuďmi je a vždy by mal byť človek, ktorého osobné, etické, kultúrne a spoločenské hodnoty musia byť rešpektované.“

     

    Spoločne s legislatívnym návrhom Aktu o umelej inteligencii  Európska komisia zverejnila aj aktualizovaný Koordinovaný plán pre umelú inteligenciu, ktorého prvá verzia bola publikovaná v decembri 2018. Plán stanovuje opatrenia, ktoré majú za cieľ posilniť zavádzanie AI, investície a inováciu v rámci EÚ. Vzhľadom na dynamický vývoj AI technológií, ako aj vývoj EÚ v kontexte pandémie COVID-19 bola potrebná jeho aktualizácia, jeho základné kontúry však ostali zachované.

     

    Plné znenie tlačovej správy EK spolu s odkazmi na predložené návrhy:

    https://ec.europa.eu/commission/presscorner/detail/en/ip_21_1682

Používaním stránok prevádzkovaných Marian Novota súhlasite s používaním cookies, ktoré nám pomáhajú zabezpečiť lepšie služby

Súhlasim