6 najväčších obchodných nešťastí spôsobených AI | AI v podnikaní #58

Ako sa vyhnúť obchodným neúspechom pri implementácii AI?

Obchodné neúspechy v AI môžu mať vážne následky pre spoločnosti, preto je potrebné veľmi starostlivo testovať systémy strojového učenia pred ich uvedením na trh. Inak môžu veľké investície do nových technológií skončiť v zásadnej finančnej a reputačnej katastrofe.

Ako sa teda vyhnúť obchodným neúspechom pri implementácii umelej inteligencie? Hoci sa prvá rada môže zdať príliš jednoduchá na to, aby fungovala, je to: “Venovať pozornosť kvalite dát!”

Druhá rada sa týka rozsiahleho testovania v uzavretom prostredí pred uvoľnením nástroja na verejnosť. Nemali by ste testovať len technický výkon nástroja, ale aj overiť jeho:

• etickú súladnosť — cieľom testov je znížiť predsudky a stereotypy reprodukované AI,
• právnu súladnosť — overenie, že dáta používané nástrojmi AI, ako aj obsah, ktorý generujú, sú v súlade so zákonmi krajiny.

Aj obri v oblasti umelej inteligencie dnes túto radu nedodržiavajú, uvoľňujú chatboty do sveta označené ako “skoré experimenty” alebo “výskumné projekty.” Avšak, ako technológia dozrieva a zákony upravujúce používanie umelej inteligencie nadobúdajú účinnosť, tieto problémy sa stanú naliehavejšími.

Google Photos

Zoznam obchodných neúspechov súvisiacich s používaním umelej inteligencie začína prípadom z roku 2015. Vtedy aplikácia Google Photos, ktorá používala skorú verziu umelej inteligencie na rozpoznávanie obrázkov (počítačové videnie), nesprávne označila fotografie čiernych ľudí ako fotografie goríl. Tento obchodný neúspech sa stal, pretože tréningová dátová sada použitá na učenie algoritmu obsahovala príliš málo fotografií čiernych ľudí.

Čo je viac, Google mal podobný problém s inteligentnou domácou kamerou Nest, ktorá nesprávne identifikovala niektorých tmavokožných ľudí ako zvieratá. Tieto incidenty ukazujú, že systémy počítačového videnia stále majú problémy s rozpoznávaním charakteristík rôznych rás.

Obchodné neúspechy: Diskriminácia na základe veku

V roku 2023 sa iTutor Group dohodol na zaplatení 365 000 dolárov na vyrovnanie žaloby týkajúcej sa používania diskriminačného náborového softvéru. Zistilo sa, že softvér automaticky odmietal ženské kandidátky nad 55 rokov a kandidátky nad 60 rokov, bez ohľadu na ich skúsenosti alebo kvalifikácie.

Amazon sa podobne dopustil obchodných neúspechov. Už v roku 2014 spoločnosť pracovala na AI, ktorá mala pomôcť s náborovým procesom. Systém mal problémy s hodnotením životopisov ženských kandidátok, pretože sa učil z dát, ktoré obsahovali prevažne dokumenty predložené mužmi. V dôsledku toho Amazon projekt na implementáciu umelej inteligencie v procese zrušil.

Tieto prípady ukazujú, že automatizácia náborového procesu nesie riziko perpetuovania predsudkov a nespravodlivého zaobchádzania s kandidátmi.

Zdroj: DALL·E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

ChatGPT vymýšľa falošné súdne precedensy

Ďalší prípad je veľmi súčasný. V roku 2023 právnik Steven A. Schwartz použil ChatGPT na nájdenie minulých právnych prípadov pre žalobu proti leteckej spoločnosti Avianca. Avšak sa ukázalo, že aspoň šesť z prípadov poskytnutých AI bolo falošných – obsahovali nesprávne mená, čísla prípadov a citácie.

To sa stalo, pretože veľké jazykové modely (LLM) halucinuje, t.j. vytvárajú pravdepodobné odpovede, keď nemôžu nájsť správne fakty. Preto je potrebné overiť ich odpovede zakaždým. A Schwartz tento krok preskočil. Preto ho sudca pokutoval 5 000 dolárov za “hrubú nedbanlivosť”.

Obchodné neúspechy: Apple Watch, ktoré nefungujú správne na ľuďoch s tmavšou pokožkou

Podľa žaloby z roku 2021 nefunguje aplikácia na meranie kyslíka v krvi na Apple Watch správne pre ľudí s tmavšími tónmi pleti. Apple tvrdí, že aplikáciu testoval na “širokej škále typov a tónov pleti,” ale kritici tvrdia, že technologické zariadenia stále nie sú navrhnuté s ohľadom na tmavokožných ľudí.

Zdroj: DALL·E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Zillow v nehnuteľnostiach

Zillow, realitná spoločnosť, spustila program Zillow Offers na nákup domov a ich rýchly predaj v roku 2018. CNN informovalo, že Zillow odkúpilo 27 000 domov od svojho spustenia v apríli 2018, ale do konca septembra 2021 predalo iba 17 000. Zillow uviedlo, že obchodný neúspech bol spôsobený jeho používaním umelej inteligencie. Algoritmus nesprávne predpovedal ceny domov, čo spôsobilo, že Zillow preplatilo za nákupy. Hoci spoločnosť program okamžite zrušila, musela prepustiť 25 percent svojich zamestnancov. Neúmyselným nákupom domov za ceny vyššie ako súčasné odhady budúcich predajných cien spoločnosť zaznamenala stratu 304 miliónov dolárov.

Rasistický chatbot Microsoftu

V roku 2016 Microsoft vydal experimentálny AI chatbot s názvom Tay. Mal sa učiť interakciou s používateľmi Twitteru (teraz X). Do 16 hodín sa Tay “naučil” zverejňovať urážlivé, rasistické a sexistické tweety. Používatelia Twitteru úmyselne provokovali bota, ktorý nemal správne bezpečnostné mechanizmy používané v chatbotoch dnes, ako sú ChatGPT, Microsoft Copilot a Google Bard. Microsoft rýchlo deaktivoval bota a ospravedlnil sa za incident, ale Tay je jedným z väčších obchodných neúspechov Microsoftu.

Obchodný neúspech sa stal aj Googlu, ktorý v roku 2020 vydal bot s názvom Meena. Meta (predtým Facebook) sa tiež nedokázala vyhnúť podobnej chybe. V auguste 2022 spustila nový AI chatbot s názvom BlenderBot 3, ktorý bol navrhnutý na chatovanie s ľuďmi a učenie sa z týchto interakcií.

V priebehu niekoľkých dní od jeho vydania sa objavili správy o tom, že chatbot robil urážlivé, rasistické a fakticky nesprávne vyhlásenia v rozhovoroch. Napríklad tvrdil, že Donald Trump vyhral voľby v USA v roku 2020, šíril antisemitistické konšpiračné teórie a kritizoval Facebook.

Ak sa vám náš obsah páči, pridajte sa k našej komunite usilovných včiel na Facebooku, Twitteri, LinkedIn, Instagrame, YouTube, Pinterest, TikTok.