Co je umělá inteligence a co od ní čekat ve firmě

AI není jedna technologie

Pojem umělá inteligence zastřešuje více přístupů. Některé systémy třídí záznamy, odhadují budoucí vývoj nebo hledají neobvyklé chování. Generativní AI vytváří nový text, obraz, zvuk nebo programový kód podle zadání a vzorů naučených z dat. Společným znakem je odvozování výstupu, nikoli pouhé mechanické provedení pevně zadané posloupnosti kroků.

Rozdíl mezi běžnou automatizací a AI je důležitý pro řízení rizik. Automatizace zpravidla vykoná přesně popsané pravidlo. Model AI pracuje s pravděpodobností a jeho odpověď může být nepřesná, neúplná nebo při stejném tématu formulovaná jinak. Kontrola proto musí odpovídat významu rozhodnutí, které výstup ovlivní.

Kde AI ve firmě přináší hodnotu

Nejlepší první použití bývá tam, kde člověk zpracovává velké množství podobných informací a výsledek lze ověřit. AI může připravit souhrn dokumentu, navrhnout strukturu odpovědi, vyhledat souvislosti v interních znalostech, roztřídit požadavky nebo upozornit na neobvyklou událost.

Přínos se neměří počtem použitých modelů. Měří se kratším časem zpracování, nižší chybovostí, lepší dostupností informací nebo kvalitnějším rozhodnutím. Pokud firma neumí popsat současný proces a očekávaný výsledek, samotné nasazení AI tuto nejasnost nevyřeší.

• Podpora vyhledávání a práce s interními znalostmi.
• Třídění požadavků, dokumentů a provozních událostí.
• Příprava návrhů, které před použitím zkontroluje člověk.
• Detekce odchylek v datech, provozu nebo chování systémů.

Co AI neumí zaručit

Plynule napsaná odpověď není důkaz pravdivosti. Model může vytvořit přesvědčivě znějící tvrzení, které nemá oporu v podkladech. Nezná automaticky interní pravidla firmy, aktuální stav systému ani skutečný úmysl člověka. Bez řízeného přístupu také nemá dostat citlivé nebo osobní informace.

Riziko roste s dopadem použití. Jinou kontrolu potřebuje návrh nadpisu a jinou doporučení, které může ovlivnit zaměstnance, zákazníka, finance nebo dostupnost kritické služby. Odpovědnost za použití výstupu zůstává organizaci a konkrétní roli, která rozhodnutí přijala.

AI může urychlit práci. Nemůže převzít odpovědnost za účel, data, kontrolu a následky rozhodnutí.

Jak AI zavádět odpovědně

Začněte konkrétním případem použití. Určete vlastníka, povolená data, očekávaný výstup, způsob lidské kontroly a postup při chybě. Teprve potom vybírejte model nebo dodavatele. Tím se oddělí obchodní potřeba od momentálního nadšení pro určitou technologii.

Pravidla musí být použitelná v každodenní práci. Zaměstnanec potřebuje poznat, která data do nástroje vložit nesmí, kdy musí odpověď ověřit a komu hlásí neobvyklé chování. Organizace zároveň potřebuje evidovat schválené nástroje, významné změny a incidenty.

• Popište účel a měřitelný přínos.
• Určete vlastníka systému a vlastníka výsledného rozhodnutí.
• Vymezte povolené zdroje dat a retenční pravidla.
• Nastavte lidskou kontrolu podle dopadu chyby.
• Pravidelně ověřujte kvalitu, bezpečnost a skutečné používání.

Jak AI souvisí s odolností organizace

AI přidává novou závislost mezi technologiemi, daty, dodavatelem a lidským úsudkem. Pokud není jasné, odkud odpověď vychází a kdo ji ověřuje, může zrychlit také špatné rozhodnutí. Proto patří do stejné mapy odolnosti jako identity, oprávnění, procesy a krizové role.

Prověření odolnosti nesleduje jen bezpečnost modelu. Zjišťuje také, zda organizace pozná chybný výstup, zda dokáže službu bezpečně omezit a zda má náhradní postup pro situaci, kdy AI není dostupná nebo jí nelze důvěřovat.