UE AI zákon. Ako Európa reguluje používanie umelej inteligencie | AI v podnikaní #68

Čo je AI zákon a prečo je dôležitý pre MSP (malé a stredné podniky)?

AI zákon je prvá regulácia svojho druhu na svete. Prvá, ktorá komplexne rieši umelú inteligenciu z ľudského pohľadu na AI. Jeho cieľom je zabezpečiť, aby systémy AI používané v Európe boli bezpečné a podporovali inovácie, pričom rešpektujú základné práva, so zvláštnym zameraním na:

• zdravotnú starostlivosť – napríklad rešpektovanie súkromia údajov pacientov,
• vzdelávanie – dodržiavanie hodnôt, ktoré podporuje Európska únia a vyhýbanie sa diskriminácii,
• ochranu hraníc – zabezpečenie bezpečnosti bez porušovania práv občanov,
• verejné služby – dodržiavanie osvedčených postupov v oblasti ochrany údajov, práva na informácie a jasnej komunikácie.

Pre MSP prinesie AI zákon predovšetkým väčšiu právnu istotu, pretože jasne definuje rámec pre inovácie: princípy navrhovania, vývoja a aplikácie systémov AI. Uľahčí to firmám investovať do riešení založených na AI, čím sa znížia právne riziká. Okrem toho regulácie platné v celej Únii zabránia fragmentácii trhu.

Regulácie Európskej únie týkajúce sa umelej inteligencie boli prijaté Európskym parlamentom a Radou Európy 9. decembra 2023. Teraz musia byť formálne prijaté oboma inštitúciami, aby nadobudli účinnosť.

Kľúčové aspekty AI zákona pre podnikanie

AI zákon EÚ zavádza súbor požiadaviek pre systémy AI, v závislosti od úrovne rizika. Tieto požiadavky zahŕňajú, mimo iného:

• povinnosť transparentnosti a informovania používateľov v prípade interakcií s chatbotmi, biometrickými systémami alebo technológiami rozpoznávania emócií,
• zákaz používania citlivých atribútov na biometrickú kategorizáciu,
• povinné hodnotenie súladu pred vstupom na trh pre systémy s vysokým rizikom,
• povinná registrácia v databáze EÚ — po nadobudnutí účinnosti AI zákona budú musieť byť registrované systémy AI používané v kľúčových sektoroch, ako sú vzdelávanie, zamestnanosť, zdravotná starostlivosť a presadzovanie práva.

Výrobcovia a spoločnosti používajúce systémy AI budú tiež povinní monitorovať riziká po ich uvedení na trh. To priamo ovplyvní firmy navrhujúce a implementujúce systémy AI.

Úrovne rizika systémov AI podľa AI zákona EÚ

AI zákon klasifikuje systémy AI do štyroch kategórií na základe ich úrovne rizika:

1. Neprijateľné riziko
2. Vysoké riziko
3. Obmedzené riziko
4. Minimálne riziko

Poďme sa bližšie pozrieť na to, ako bude každá skupina definovaná, spolu s príkladmi systémov a ich klasifikácií.

Neprijateľné riziko

Európska únia ukladá úplný zákaz používania technológií uvedených v AI zákone ako systémy s neprijateľným rizikom. Tieto sú predovšetkým systémy navrhnuté na využívanie zraniteľnosti jednotlivcov voči sugestii na manipuláciu alebo klamanie, systémy, ktoré dávajú umelej inteligencii schopnosť rozhodovať v kľúčových záležitostiach, a tie, ktoré by mohli viesť k zneužitiu moci. Príklady AI s neprijateľným rizikom zahŕňajú:

• autonómne zbrane fungujúce bez ľudskej kontroly,
• systémy hodnotenia dôveryhodnosti používané orgánmi činnými v trestnom konaní,
• automatické identifikačné systémy jednotlivcov na verejných priestranstvách, ako sú tie založené na záznamoch z kamerového dohľadu,
• systémy umelej inteligencie, ktoré môžu byť škodlivé pre jednotlivcov s fyzickým alebo duševným postihnutím,
• AI používaná na účely presadzovania práva, s obmedzenými výnimkami,
• systémy umelej inteligencie využívajúce škodlivé “subliminálne” a manipulatívne techniky.

Pre podniky je posledná kategória obzvlášť dôležitá. Preto bude transparentnosť v prevádzke systémov poskytujúcich návrhy používateľom a zákazníkom kľúčová pre dodržiavanie novej legislatívy Európskej únie.

Vysoké riziko

Umelá inteligencia klasifikovaná ako riešenie AI s vysokým rizikom bude musieť spĺňať prísne požiadavky pred vstupom na trh. To zahŕňa hodnotenia súladu a prísne testovanie pred schválením na použitie. Táto kategória rizika zahŕňa osem oblastí, ako sú:

• autonómne vozidlá,
• medicínske diagnostické systémy,
• prediktívne algoritmy podporujúce justičný systém,
• riadenie migrácie a azylu, kontrola hraníc, ako aj
• zamestnanosť a riadenie pracovnej sily.

Obmedzené riziko

Legislatórii venovali šťastne oveľa menej pozornosti systémom s obmedzeným rizikom, ktoré sa najčastejšie používajú v podnikaní. Táto kategória zahŕňa:

• AI chatboty – používané na zákaznícky servis alebo odpovedanie na často kladené otázky vo forme voľne plynúceho rozhovoru,
• systémy rozpoznávania emócií – používané napríklad na zhromažďovanie údajov o názoroch zákazníkov na spoločnosť,
• biometrické kategorizácie – ako hodnotenie pohlavia alebo veku zákazníkov v kamennej predajni,
• generovanie obrázkov, zvuku alebo videa – napriek hrozbe, ktorú predstavujú deep fakes, táto oblasť bude podliehať obmedzenému súboru povinností.

Nízke alebo minimálne riziko

Riešenia AI s nízkym rizikom nie sú predmetom právnych regulácií. AI zákon len spomenie, že tvorcovia a používatelia takýchto riešení by mali dobrovoľne stanoviť politiky používania. To sa týka riešení, ako sú:

• systémy odporúčania obsahu v streamovacích službách, alebo
• chatboty na webových stránkach odpovedajúce na typické otázky zákazníkov.

Aké požiadavky kladie AI zákon na riešenia používané mojou spoločnosťou?

Aby ste skontrolovali, či umelá inteligencia používaná spoločnosťou spĺňa AI zákon, mali by ste:

• kategorizovať ju do jednej zo štyroch vyššie popísaných rizikových kategórií,
• ak ide o AI s vysokým rizikom, vykonať hodnotenie súladu,
• používať osvedčené postupy týkajúce sa AI s nízkym rizikom.

Poďme sa pozrieť na príklady často používaných AI riešení spoločnosťami. Aké požiadavky budú musieť splniť?

Chatbot zákazníckeho servisu, ktorý poskytuje základné informácie o produktoch alebo odpovedá na typické otázky zákazníkov, bude pravdepodobne klasifikovaný ako systém s minimálnym rizikom. Bude musieť:

• informovať používateľov, že interagujú s AI,
• poskytnúť možnosť byť presmerovaní na ľudského konzultanta,
• dodržiavať všeobecné požiadavky týkajúce sa transparentnosti, nediskriminácie atď.

Systém odporúčania produktov v e-commerce bude pravdepodobne považovaný za systém s nízkym rizikom. Bude potrebné informovať zákazníkov, že dostávajú personalizované odporúčania a poskytnúť možnosť ich vypnutia.

Na druhej strane, systém automatickej medicínskej diagnostiky bude klasifikovaný ako systém s vysokým rizikom. Bude musieť prejsť prísnym hodnotením pred vstupom na trh a byť pod dohľadom človeka. Okrem toho bude potrebné monitorovať jeho prevádzku a hlásiť incidenty.

Systém prevencie mestských zločinov bude tiež považovaný za systém s vysokým rizikom. Bude musieť dodržiavať regulácie týkajúce sa ochrany súkromia a iných základných práv. Jeho prevádzka bude musieť byť pod neustálym ľudským dohľadom.

Nie je jasné, do ktorej kategórie spadnú systémy rozhodovania založené na AI. Je pravdepodobné, že systém náboru založený na AI, ktorý robí rozhodnutia o zamestnávaní samostatne, bude považovaný za riešenie AI s neprijateľným rizikom. Na druhej strane, systém podpory náboru, ktorý pomáha ľuďom vykonávať ich prácu, by bol považovaný za riešenie s vysokým rizikom.

Pre dobro používateľov, ako aj pre možné zmeny v klasifikáciách, je veľmi dôležité pristupovať k navrhovaniu a používaniu systémov AI eticky a zodpovedne od samého začiatku.

Aké budú dôsledky nedodržania AI zákona?

Nedodržiavanie AI zákona by mohlo viesť k významným pokutám pre spoločnosti, od 35 miliónov € alebo 7% celosvetového obratu pre veľké podniky po 7,5 milióna € alebo 1,5% pre MSP. Nelegálne systémy AI by mohli byť stiahnuté z trhu a ich používanie by mohlo byť obmedzené.

Ako sa pripraviť na účinnosť AI zákona?

Ako teda pripraviť spoločnosť, ktorá používa umelú inteligenciu, na účinnosť AI zákona v roku 2025? Tu sú niektoré tipy, ako sa MSP a startupy môžu na tento moment pripraviť:

• sledovať pokrok prác a časový plán implementácie regulácií,
• vyhodnotiť systémy AI, ktoré sa už používajú, a prispôsobiť ich novým požiadavkám,
• venovať osobitnú pozornosť etickým aspektom pri navrhovaní AI.

Zhrnutie

Úvod AI zákona je veľkou zmenou pre ekosystém AI v Európe. Avšak s jasnými a konzistentnými pravidlami sľubuje zabezpečiť bezpečný a etický rozvoj tejto technológie, čo by malo byť prospešné predovšetkým pre MSP a startupy.

AI zákon, ktorý nadobudne účinnosť v roku 2025, prinesie významné zmeny v tom, ako môžu malé a stredné podniky (MSP) využívať umelú inteligenciu. Pre MSP to predovšetkým znamená nevyhnutnosť starostlivého zváženia a analýzy AI riešení, ktoré používajú, ako z hľadiska dodržiavania regulácií, tak aj potenciálneho dopadu na zákazníkov a komunitu.

Pre majiteľov a manažérov malých podnikov je zásadné pochopiť, ako sú ich systémy AI klasifikované z hľadiska rizika a aké kroky sú potrebné na ich zosúladenie s nadchádzajúcimi reguláciami. Zoberme si napríklad systémy AI používané v správe zákazníkov alebo marketingu, ktoré sa predtým používali pomerne voľne. Teraz budú vyžadovať dôkladnú analýzu na súlad s AI zákonom. To by mohlo vytvoriť nové príležitosti pre firmy špecializujúce sa na právne poradenstvo v oblasti technológií, poskytujúce MSP podporu pri prispôsobovaní sa týmto novým požiadavkám.

Ak sa vám náš obsah páči, pridajte sa k našej komunite usilovných včiel na Facebooku, Twitteri, LinkedIn, Instagrame, YouTube, Pinterest, TikTok.