Umělá inteligence ve firmách: inovace, která potřebuje řízení

Rok 2026 definitivně ukončil debatu o tom, zda se regulace umělé inteligence firem dotkne. AI Act je již částečně účinný a odpovědnost za používání umělé inteligence dnes leží přímo na vedení organizací. Řada firem přitom AI využívá způsobem, který by při bližším pohledu neobstál ani před interním auditem – natož před regulátorem. Otázka proto nezní, zda AI řešit, ale zda ji máte skutečně pod kontrolou. 

Umělá inteligence se v posledních letech stala běžnou součástí každodenního fungování firem. V roce 2026 ji organizace používají nejen k automatizaci procesů nebo analýze dat, ale i k hodnocení zaměstnanců, řízení zákaznických vztahů, stanovování cen či k podpoře strategického rozhodování. Právě tato „neviditelná“ integrace AI do klíčových procesů však dnes představuje jedno z největších rizik. 

AI Act již není pouze plánovanou regulací. Jeho vybraná ustanovení jsou účinná a další se postupně uplatňují. Firmy, které AI využívají, musí být schopny doložit, že vědí, kde a jak umělou inteligenci používají, jaká rizika s tím souvisejí a kdo za tato rozhodnutí nese odpovědnost. Pro řadu organizací je toto zjištění nepříjemné – zejména ve chvíli, kdy si uvědomí, že odpověď na tyto otázky nemají. 

Z praxe dnes vidíme případy, kdy oddělení HR využívá nástroje založené na AI pro předvýběr kandidát aniž by bylo jasné, na základě jakých kritérií systém rozhoduje a zda nevykazuje diskriminační chování. V jiných firmách jsou AI nástroje používány k hodnocení výkonnosti zaměstnanců nebo k návrhům personálních opatření, přičemž odpovědnost za výsledné rozhodnutí zůstává formálně na manažerovi, který však fungování algoritmu nerozumí a nemá možnost jeho výstupy reálně ověřit. 

Dalším častým scénářem je využívání AI v zákaznické komunikaci. Automatizované systémy dnes rozhodují o tom, jaké nabídky zákazník obdrží, jaké ceny mu budou nabídnuty nebo jak bude řešena jeho reklamace. Pokud takový systém chybně vyhodnotí situaci, dopad nejde na vrub dodavatele technologie, ale na odpovědnost samotné organizace. V kontextu AI Act navíc může jít o vysoce rizikový systém, u něhož regulace vyžaduje zvýšenou míru kontroly a dokumentace. 

Setkáváme se také s případy, kdy zaměstnanci používají generativní AI nástroje k přípravě analýz, prezentací nebo podkladů pro rozhodování vedení, aniž by existovala jasná pravidla pro práci s daty. Citlivé nebo obchodně významné informace se tak mohou neúmyslně dostat mimo organizaci. Z pohledu regulace i reputace firmy jde o riziko, které si management často uvědomí až ve chvíli, kdy je pozdě. 

Společným jmenovatelem těchto situací není špatný úmysl, ale absence řízení. Umělá inteligence se do procesů dostala rychleji, než vznikla pravidla, odpovědnosti a kontrolní mechanismy. AI Act však v roce 2026 jasně stanovuje, že tento přístup již není akceptovatelný. 

Firmy, které chtějí AI využívat dlouhodobě a bezpečně, musí přejít od nahodilého používání k systematickému řízení. To znamená mít přehled o všech AI systémech v organizaci, rozumět jejich účelu a rizikovosti, mít jasně definované odpovědnosti a být schopen doložit soulad s platnou regulací. Nejde přitom o omezení inovací, ale o vytvoření prostředí, ve kterém mohou inovace fungovat bez zbytečných právních a reputačních rizik. 

BDO v této oblasti navazuje na své dlouhodobé zkušenosti s regulacemi, řízením rizik a informačními systémy. Pomáháme organizacím přenést požadavky AI Act do prakticky fungujících procesů. Zaměřujeme se na to, aby vedení firem mělo reálný přehled o tom, jak je AI používána, kdo za ni odpovídá a jak jsou řízena související rizika. Součástí naší podpory je také sladění požadavků AI Act s dalšími osvědčenými rámci, jako jsou NIST AI Risk Management Framework nebo norma ISO/IEC 42001. 

Rok 2026 je pro mnoho firem zlomový. Umělá inteligence se definitivně stala oblastí, kterou nelze ponechat pouze na IT nebo jednotlivých odděleních. Je to téma strategického řízení. Organizace, které jej uchopí včas a systematicky, získají stabilní základ pro bezpečné inovace. Ty ostatní riskují, že se s AI Act setkají poprvé až při kontrole nebo při řešení konkrétního problému. 

BDO je připravena být partnerem, který vám pomůže tuto oblast uchopit s potřebným nadhledem, odborností a v souladu s již platnou regulací. Rádi s vámi nezávazně prodiskutujeme, jak se využívání umělé inteligence konkrétně týká vaší organizace a jaký postup dává v roce 2026 největší smysl.