Detektory obsahu AI. Stoja za to? | AI v podnikaní #38

Dnes vývojári detektorov AI obsahu predstavujú tieto nástroje ako prostriedky na ochranu autenticity. Otázka znie, sú hodné dôvery a investície? V tomto článku sa pozrieme na to, ako fungujú detektory AI obsahu, prečo by mohli zaniknúť, aké výzvy prinášajú a aké etické dilemy vyvolávajú.

Detektory AI obsahu

Detektory AI obsahu sú založené na jazykových modeloch podobných tým, ktoré sa používajú na generovanie AI obsahu. Môžu byť rozdelené na tie, ktorých úlohou je kontrolovať pôvod obrázkov, textov a hudby generovanej s podporou umelej inteligencie. Každý typ “detektora AI” funguje trochu inak, ale žiadny z nich nemôže s absolútnou istotou rozlíšiť medzi obsahom vytvoreným človekom a obsahom generovaným AI.

Detektory obrázkov generovaných AI zohrávajú čoraz dôležitejšiu úlohu kvôli moci médií generovať falošné správy. Analyzujú anomálie, charakteristické štýly a vzory a hľadajú znaky, ktoré zanechali modely ako DALL-E.

Medzi prominentné detektory používané na identifikáciu obrázkov patrí nástroj “AI or Not” od Optic, ktorý využíva databázy obrázkov generované Midjourney, DALL-E a Stable Diffusion. Hoci sú výsledky neisté, je to krok k rozvoju presnejších identifikačných metód v budúcnosti.

Zdroj: AI or Not (https://www.aiornot.com/)

Za činnosťou detektorov AI, ktoré rozpoznávajú texty generované AI, stoja pokročilé algoritmy, ktoré analyzujú štruktúru a výber slov textu a potom rozpoznávajú vzory špecifické pre AI. Využívajú:

• klasifikátory – algoritmus, ktorý klasifikuje text a kontroluje štýl, tón a gramatiku. Napríklad popis produktu, ktorý by mohol vyhovovať akémukoľvek produktu svojho typu, môže byť klasifikovaný ako dielo AI,
• embeddingy (embeddingy) – numerické reprezentácie slov umožňujú strojom pochopiť kontext ich použitia. Vďaka nim program “chápe”, že text s monotónnym výberom slov môže byť dielom AI,
• perplexita – čo je miera nepredvídateľnosti textu. Texty písané ľuďmi majú tendenciu mať vyššiu perplexitu, hoci texty, ktoré sú inherentne jednoduché, utilitárne v typickej forme alebo písané cudzincami, môžu byť mylne klasifikované ako generované AI,
• rozmanitosť (burstiness) – tento faktor popisuje variabilitu v dĺžke a štruktúre viet. Ľudia majú tendenciu písať rozmanitejšie texty ako umelá inteligencia.

Vyššie uvedené prvky spolu využívajú detektory AI obsahu na posúdenie, či sa zaoberáme textom vytvoreným človekom alebo strojom.

Prečo používať detektory AI obsahu?

Detektory AI obsahu fungujú v rôznych oblastiach – od vzdelávania po marketing a nábor. Tu sú hlavné dôvody, prečo ich mať ako nástroj na pomoc pri hodnotení, ale nie ako definitívny dôkaz, či bol obsah generovaný:

• Identifikácia AI-modifikovaných fotografií známych osôb – na zistenie, či fotografia zobrazuje skutočnú situáciu,
• Prevencia dezinformácií – V kontexte boja proti dezinformáciám efektívne detektory AI obsahu pomáhajú moderátorom sociálnych médií odhaľovať šírenie falošných informácií na identifikáciu a elimináciu opakujúceho sa obsahu generovaného botmi,
• Obmedzenie publikovania textov s nízkou hodnotou – Detektory AI obsahu môžu pomôcť vydavateľom odmietnuť texty obsahujúce generické informácie generované ChatGPT, Bing alebo Bard po zadaní jednoduchého dotazu.

Je však dôležité pamätať na to, že pôvod textu nie je základom na zníženie hodnotenia stránky Google. Blog Google Search Center uvádza, že je kľúčové, aby Google “odmeňoval kvalitný obsah bez ohľadu na to, ako bol vytvorený […]. Automatizácia sa už dlho používa na generovanie užitočného obsahu, ako sú športové výsledky, predpovede počasia a prepisy. AI môže otvoriť nové úrovne vyjadrenia a kreativity a byť kľúčovým nástrojom na podporu vytvárania skvelého webového obsahu.”

Nedôveryhodnosť detektorov AI obsahu. Realita alebo mýtus?

Aj keď sú detektory AI obsahu všadeprítomné, ich účinnosť môže byť otázna. Hlavné problémy sú:

• nízka účinnosť pri detekcii AI obsahu,
• problémy s falošnými pozitívami, ako aj
• ťažkosti pri prispôsobovaní detektorov rýchlo sa diverzifikujúcim a zlepšujúcim novým modelom AI.

Testy vykonané spoločnosťou OpenAI ukázali, že ich klasifikátor rozpoznal text generovaný GPT iba 26% času. Zaujímavým príkladom nedôveryhodnosti generátorov môže byť experiment vykonaný spoločnosťou TechCrunch, ktorý ukázal, že nástroj GPTZero správne identifikoval päť z siedmich textov generovaných AI. Kým klasifikátor OpenAI identifikoval iba jeden.

Zdroj: GPTZero (https://gptzero.me/)

Okrem toho existuje riziko získania falošného pozitíva, teda identifikácie textu napísaného človekom ako generovaného AI. Napríklad začiatok druhej kapitoly Don Quijota od Miguela de Cervantesa bol detektorom OpenAI označený ako najpravdepodobnejšie napísaný umelou inteligenciou.

Aj keď sa chyby v analýze historických literárnych textov môžu považovať za zábavnú zvedavosť, situácia sa stáva zložitejšou, keď chceme používať detektory ako nástroje na hodnotenie textov. Ústava USA bola označená ZeroGPT ako 92,15% napísaná umelou inteligenciou. A podľa štúdie publikovanej výskumníkmi na Stanfordovej univerzite bolo 61% esejí TOEFL napísaných študentmi, ktorí nie sú rodenými hovorcami angličtiny, klasifikovaných ako generované AI. Bohužiaľ, neexistujú údaje o tom, aké vysoké je percento textov mylne klasifikovaných ako pozitívne v iných jazykoch.

Ďalším problémom je zmena klasifikácie pri následných spusteniach detektora. To je spôsobené tým, že sa často stáva, že detektor ako ZeroGPT alebo Scribbr mení klasifikáciu textových fragmentov, ktoré raz označí ako generované AI a inokedy ako napísané človekom.

Zdroj: Scribbr (https://www.scribbr.com/ai-detector/)

Detektory obrázkov a videí AI sa primárne používajú na identifikáciu deepfake a iného obsahu generovaného AI, ktorý môže byť použitý na šírenie dezinformácií.

Aktuálne detekčné nástroje ako Deepware, Illuminarty a FakeCatcher neposkytujú testovacie výsledky o svojej spoľahlivosti. V právnom kontexte detekcie vizuálneho materiálu generovaného AI existujú iniciatívy na pridávanie vodoznakov k obrázkom AI. Avšak, toto je veľmi nespoľahlivý spôsob – môžete si jednoducho stiahnuť obrázok bez vodoznaku. Midjourney pristupuje k vodoznakovaniu inak, ponecháva na používateľoch, aby sa rozhodli, či chcú obrázok takto označiť.

Vyhýbanie sa detekcii AI. Je to možné a ako?

Podnikatelia by mali byť vedomí toho, že detektory AI obsahu nie sú náhradou za hodnotenie kvality človekom a nie sú vždy spoľahlivé. Ich praktické problémy s údržbou môžu predstavovať značné ťažkosti, rovnako ako snaha vyhnúť sa klasifikácii vášho obsahu ako generovaného AI. Najmä keď je AI jednoducho nástrojom v rukách profesionála – to znamená, že to nie je “obsah generovaný AI”, ale skôr “obsah, ktorý bol vytvorený v spolupráci s AI.”

Je relatívne jednoduché pridať niekoho do generovaných materiálov, takže spôsob, akým sú vytvorené, je naozaj ťažké detekovať. Ak osoba, ktorá používa generatívnu AI, vie, aký efekt dosiahnuť, môže jednoducho manuálne upraviť výsledky.

Základná otázka spočíva v dôvode, prečo sa chceme vyhnúť detekcii, ak bol obsah generovaný AI.

• Ak ide o etickú otázku a týka sa napríklad autorstva publikovanej vedeckej práce – zostáva sa spoliehať na profesionálnu etiku vedca a zodpovedné používanie nástrojov založených na AI.
• Ak zamestnávateľ chce, aby zamestnanci prestali používať AI – zostáva zmluvné usporiadanie pre používanie generatívnej umelej inteligencie.

To tiež vyvoláva otázku, či chceme podporovať zodpovedné používanie AI prostredníctvom zákazov a kritikov (ZeroGPT a GPTZero!), alebo prostredníctvom ocenenia transparentnosti, budovania dôvery a čestného používania pokročilých technológií.

Zdroj: ZeroGPT (https://www.zerogpt.com/)

Zhrnutie

Odpoveď na otázku, či sú detektory AI obsahu hodné používania, je ďaleko od jasnej. Detektory AI obsahu sú stále vo vývoji a ich budúcnosť je ťažko predvídateľná. Jedna vec je istá – budú sa vyvíjať spolu s rozvojom technológie AI. Pokroky v AI, vrátane rastúcej schopnosti jazykových modelov napodobňovať štýl písania človeka, znamenajú, že detekcia AI obsahu by sa mohla stať ešte zložitejšou. Pre podniky je to signál sledovať tieto vývoj a nespoliehať sa iba na nástroje, ale na ich hodnotenie obsahu a jeho vhodnosti pre účel, na ktorý bol vytvorený. A múdro využívať rýchlo sa rozvíjajúcu umelú inteligenciu.

Ak sa vám náš obsah páči, pridajte sa k našej komunite usilovných včiel na Facebooku, Twitteri, LinkedIn, Instagrame, YouTube, Pinterest, TikTok.