Regulácia AI. Čo potrebujete vedieť ako podnikateľ? | AI v podnikaní #47

Pochopenie regulácií AI. Čo to je a ako mení podnikanie?

Umelá inteligencia je súbor technológií a metód, ktoré umožňujú strojom napodobňovať ľudské kognitívne schopnosti. Systémy AI sa môžu učiť a riešiť problémy spôsobmi, ktoré sú čoraz podobnejšie ľuďom. Kľúčovú úlohu zohráva strojové učenie a hlboké učenie, ktoré umožňujú algoritmom optimalizovať sa na základe údajov.

Aplikácie AI sú takmer neobmedzené:

• generovanie obsahu – textu, ako to robia ChatGPT a Bard, alebo obrázkov v Midjourney a DALL-E-3,
• preklady – veľmi užitočné pre medzinárodné podnikanie,
• rozpoznávanie obrázkov a zvuku – používa sa napríklad pri kontrole pracovného prostredia pomocou kamier alebo záznamov hovorov z call centier,
• pokročilá analýza údajov z rôznych zdrojov – od sociálnych médií po senzory z priemyselných zariadení.

To je skutočná revolúcia, ktorá mení tvár mnohých odvetví. AI umožňuje firmám automatizovať procesy, lepšie porozumieť zákazníkom alebo vyvíjať nové produkty. Technológia však prináša aj riziká – a preto je potrebná regulácia.

Regulácie AI: kľúčové pojmy a princípy

Pri implementácii AI riešení vo vašej spoločnosti musíte byť oboznámení s aktuálnymi reguláciami týkajúcimi sa používania umelej inteligencie. Najdôležitejšie z nich sú:

• autorské právo,
• zákon o ochrane údajov,
• zákony týkajúce sa zodpovednosti za prevádzku umelej inteligencie používané spoločnosťami.

Autorské právo vs. umelá inteligencia

Autorské právo chráni osobné a majetkové práva tvorcov. V mnohých krajinách môžu byť chránené iba dielo vytvorené človekom. V dôsledku toho právnici majú tendenciu interpretovať, že diela vytvorené výlučne AI v automatizovanom procese nie sú predmetom autorského práva, aj keď umelá inteligencia zvyčajne nie je schopná vytvárať obsah bez spolupráce človeka.

V kontexte podnikania sú regulačné obavy týkajúce sa autorstva:

• používanie diel živých autorov na učenie umelej inteligencie – to sa týka spoločností, ktoré vytvárajú svoje modely alebo učia existujúce pomocou verejne dostupných údajov; skutočne, všetky diela – od maľby a sochárstva po branding a texty publikované na webových stránkach – sú predmetom autorského práva,
• ochrana firemných materiálov vytvorených s umelou inteligenciou – tu je potrebné starostlivo prečítať pravidlá a predpisy jednotlivých AI nástrojov, aby sa zistilo, aké regulácie vyžadujú. Typicky však prenášajú práva na dielo vytvorené v spolupráci s AI na osobu, ktorá zadáva podnety alebo pokyny pre umelú inteligenciu, pričom si ponechávajú právo používať vytvorený obsah na propagačné alebo výskumné účely.

30. október 2023, bol dňom prvého rozsudku v slávnom prípade porušenia autorských práv, ktorý podali traja americkí umelci Sarah Anderson, Kelly McKernan a Karla Ortiz proti trom spoločnostiam stojacim za poprednými generátormi obrázkov Midjourney, Stable Diffusion a Dream Up.

Umelci vo svojej žalobe uviedli, že modely umelej inteligencie boli učené na ich dielach bez ich povolenia, a tak mohli generovať diela, ktoré kopírujú ich dielo, čím porušujú ich autorské práva. Súd však ich nároky zamietol v 28-stranovom rozhodnutí, v ktorom uviedol, že v USA musia byť autorské práva registrované, aby sa mohlo žalovať za ich údajné porušenie. Umelci neboli schopní identifikovať, ktoré z ich diel boli zahrnuté v súbore obrázkov stiahnutých z internetu a použitých na školenie umelej inteligencie.

Zákon o ochrane osobných údajov

Zákon o ochrane údajov (RODO) reguluje spracovanie osobných údajov, čo je kľúčové pre mnohé aplikácie AI. Systémy AI často zbierajú a spracovávajú obrovské množstvá údajov, čím vyzývajú podniky, aby zabezpečili ich bezpečnosť. Pre podnikateľov to znamená nielen zabezpečiť získané informácie, ale aj zabezpečiť ich transparentné spracovanie a zodpovednosť počas celého procesu. V praxi to vyžaduje implementáciu účinných bezpečnostných mechanizmov a vhodných postupov správy údajov, aby sa zabezpečilo, že sú chránené súkromie a práva používateľov.

Zodpovednosť AI

Nové regulácie sa v súčasnosti vyvíjajú na uľahčenie nárokov na náhradu škody spôsobenej systémami AI. Kľúčovou otázkou je otázka občianskej zodpovednosti – či je zodpovedný výrobca, používateľ alebo samotný systém za činnosti AI. Očakávané regulácie môžu zaviesť takéto riešenia ako:

• povinné poistenie pre výrobcov AI, alebo
• špeciálne kompenzačné fondy.
• Preto je dôležité, aby podnikatelia pozorne sledovali tieto zmeny a pripravili sa na nové požiadavky a povinnosti.

Ako mení AI právne prostredie pre malé podniky?

Revolúcia AI je príležitosťou pre malé spoločnosti – vďaka novým technológiám môžu súťažiť s veľkými hráčmi. Implementácia pokročilých nástrojov AI však zahŕňa splnenie prísnych právnych štandardov. A to si vyžaduje finančné výdavky a znalosti, ktoré si menší hráči nemusia vždy dovoliť.

Preto sa menší podnikatelia musia vopred oboznámiť s aktuálnymi a plánovanými reguláciami – to im umožní minimalizovať právne riziká a zodpovedne implementovať AI. Stojí za to využiť služby právnikov špecializujúcich sa na nové technológie.

Zdroj: DALL-E 3, podnet: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Príklady aplikácií AI v podnikaní a ich právna regulácia AI

Aké sú právne dilemy pri implementácii AI v praxi? Tu sú príklady:

• chatboti – použitie ChatGPT vo firme pod licenciou, ktorá nie je podnikateľská, zahŕňa prijatie podmienok účasti na “vedeckom experimente” vykonávanom OpenAI; vedené rozhovory môžu byť preskúmané a použité na vytvorenie dátových súborov na učenie ďalšej generácie umelej inteligencie,
• voiceboti – môžu zbierať osobné údaje bez vedomia volajúcich, čo vyvoláva obavy o súkromie; pretože údaje sa týkajú nielen predmetu rozhovoru, ale aj napríklad záznamu hlasu osoby. Malý vzor je dostatočný na to, aby ho “klonoval”, t.j. vytvoril kópiu pomocou umelej inteligencie, ktorá môže vytvárať prirodzene znejúce záznamy akéhokoľvek obsahu, ktorý bude znieť ako výroky tejto osoby,
• personalizácia – algoritmy, ktoré zbierajú a kategorizujú údaje o používateľoch, môžu porušovať princíp rovnakého zaobchádzania; existuje tiež riziko, že môžu byť použité na manipuláciu, vytváranie informačných bublín na základe presnej personalizácie správy; preto jedným z základných princípov etiky AI, ako aj budúcich regulácií týkajúcich sa používania umelej inteligencie, bude transparentnosť pri používaní údajov – ale ako to bude vyzerať v praxi, je neznáme,
• autonómne vozidlá – vyžadujú nové regulácie týkajúce sa bezpečnosti a zodpovednosti za možné nehody s bezšoférskymi vozidlami.

Ako vidíte, na prvý pohľad nesúvisiace technické otázky naznačujú dodržiavanie mnohých regulácií. A to sú len vybrané príklady najbližšie k dnešnej podnikateľskej realite.

Kľúčové právne výzvy implementácie regulácie AI v malých podnikoch

Čo konkrétne môže spôsobovať nespavosť majiteľom menších spoločností, ktoré implementujú pokročilé systémy AI? Tieto sú predovšetkým:

• komplexné a meniace sa regulácie – v rýchlo sa meniacom prostredí nástrojov AI je ťažké držať krok s technologickými inováciami, zatiaľ čo právne regulácie týkajúce sa nich sa pomaly objavujú, takže zostáva sledovať regulácie používaných nástrojov a konzultovať s právnikom špecializujúcim sa na právo ovplyvnené oblasťou činnosti spoločnosti,
• zodpovednosť za chyby AI – to je jedna z hlavných otázok pre podnikateľov pri implementácii najnovších vývojov v oblasti umelej inteligencie, otázka znie, kto bude zodpovedný za akékoľvek škody v prípade porušenia ochrany údajov zákazníkov alebo plagiátorstva spáchaného generátorom príspevkov na sociálnych médiách,
• práva na diela vytvorené AI – ako chrániť duševné vlastníctvo, ak je vytvorené v spolupráci s umelou inteligenciou tak, aby bola ochrana účinná v rámci daného právneho systému? To je veľmi dôležitá otázka v absencii regulácií a praktických spôsobov, ako rozlíšiť medzi obsahom generovaným človekom a obsahom vytvoreným človekom,
• neúmyselná diskriminácia – ako eliminovať algoritmické predsudky, ktoré môžu viesť napríklad k vytvoreniu segmentov “prvotriednych” a “druhotriednych” zákazníkov podľa pravidiel kategorizácie, ktoré chápe iba AI.

To sú základné dilemy, ktorým čelí spoločnosti implementujúce pokročilé riešenia založené na umelej inteligencii.

Príručka pre podnikateľov: Ako zabezpečiť súlad s reguláciami AI?

Zákony regulujúce používanie umelej inteligencie sa stále vyvíjajú v mnohých krajinách. Zákonom bude možné zabezpečiť súlad s reguláciami AI až po ich nadobudnutí účinnosti. V októbri 2023 Biely dom zverejnil Návrh zákona o právach AI pre Spojené štáty, ktorý obsahuje päť princípov na ochranu občanov pred škodami spôsobenými umelou inteligenciou. Tieto princípy sa zaoberajú bezpečnosťou a efektívnosťou systémov, ochranou pred algoritmickou diskrimináciou, ochranou údajov, informáciami a vysvetlením a alternatívnymi možnosťami. Jeho podrobné znenie nájdete tu: https://www.whitehouse.gov/ostp/ai-bill-of-rights/

Regulácia upravujúca umelú inteligenciu v Spojených štátoch ustanovuje nové štandardy pre bezpečnostné testovanie a ochranu AI zamerané na ochranu súkromia Američanov, ako aj na podporu inovácií a konkurencie, a na posilnenie pozície USA ako lídra v oblasti vývoja umelej inteligencie na medzinárodnej úrovni. Kľúčové opatrenia zahŕňajú:

• ustanovenie požiadaviek na bezpečnostné testovanie a zdieľanie výsledkov spoločnosťami vyvíjajúcimi pokročilé systémy AI,
• vypracovanie štandardov, nástrojov a testov bezpečnosti AI,
• boj proti diskriminácii spôsobenej algoritmami,
• ochrana spotrebiteľov, pacientov, zamestnancov a študentov,
• zabezpečenie zodpovedného vládneho používania AI.

Európska únia zase pracuje na “Zákone o AI”, súbore regulácií pokrývajúcich každú aplikáciu AI v EÚ. Je určený na pokrytie všetkých nástrojov a záujmových skupín – štátov, podnikateľov a jednotlivcov – a na rozdelenie systémov AI do kategórií rizika:

1. Systémy, ktoré predstavujú neoprávnené riziká – napríklad na základe subliminálnych techník,
2. Vysokorizikové systémy – ako biometrická identifikácia alebo správa kritickej infraštruktúry,
3. Obmedzené rizikové systémy.

Zodpovednosť za riadne fungovanie vysokorizikových systémov spočíva predovšetkým na ich dodávateľoch, čo môže byť pre spoločnosti poskytujúce takéto riešenia dosť zaťažujúce. Plný text “Zákona o umelej inteligencii” nájdete tu: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206

Takže ako minimalizovať právne riziká pri implementácii AI vo vašej spoločnosti? Tu sú niektoré praktické tipy. Po prvé:

• zamerajte sa na predpokladané dopady implementácie systémov AI, aby ste vopred zachytili potenciálne riziká,
• od začiatku majte na pamäti mechanizmy na kontrolu a dohľad nad činnosťou algoritmov, ako sú ľudské alebo automatizované nástroje, ktoré monitorujú ich správanie,
• skontrolujte, či používate dôveryhodných poskytovateľov technológie AI, prečítajte si regulácie a aktualizácie,
• pozorne sledujte aktualizácie regulácií AI a dodržiavajte ich.
• Keď máte pochybnosti, vyhľadajte radu od právnikov špecializujúcich sa na nové technológie.

Budúcnosť regulácie AI. Čo môžu podnikatelia očakávať?

Regulácia AI je stále v plienkach, ale už je zrejmé, že sa posúvame smerom k väčšej kontrole a dohľadu nad technológiou. Príkladom je “Zákon o AI” EÚ, ktorý ukladá prísne normy pre vysokorizikové systémy.

Na druhej strane sú hlasy, napríklad z Veľkej Británie, ktoré obhajujú voľnejšie regulácie, ktoré nebudú potláčať inováciu. Možno budúcnosť bude zlatou strednou cestou?

Bez ohľadu na presné riešenia sa zdá, že je isté, že regulácie AI sa budú čoraz viac sprísňovať, takže podniky by ich mali zohľadniť pri implementácii nových technológií vo svojich spoločnostiach.

Zhrnutie

Revolúcia v oblasti umelej inteligencie je obrovskou obchodnou príležitosťou. Avšak pri zavádzaní pokročilých riešení AI v malej firme by si mali byť vedomí mnohých právnych nástrah. Existujúce a plánované regulácie môžu mnohým podnikateľom spôsobovať bolesti hlavy. Preto je kľúčové získať včasné porozumenie právnym aspektom AI, vykonať dôkladné analýzy rizík a dodržiavať všetky požiadavky. Potom budú môcť podniky aj zákazníci plne využiť výhody umelej inteligencie.

Ak sa vám náš obsah páči, pridajte sa k našej komunite usilovných včiel na Facebooku, Twitteri, LinkedIn, Instagrame,YouTube,Pinterest,TikTok.