Shadow AI – neregulované používanie nástrojov umelej inteligencie

Používanie nástrojov umelej inteligencie, resp. umelej inteligencie vo všeobecnosti sa do chodu organizácie často nedostáva rozhodnutím vedenia alebo IT oddelenia. Dostáva sa tam cez každodenné pracovné návyky zamestnancov, ktorý sa len snažia robiť svoju prácu efektívnejšie.

Niekto si cez ChatGPT preloží dokument. Niekto si nechá cez Gemini zhrnúť zmluvu. Niekto vloží do Claude internú komunikáciu a niekto si cez AI agenta nechá pripraviť celé zadanie.

Problémom pritom nie je samotné používanie umelej inteligencie. Problém vzniká vtedy, keď organizácia nevie, či bol AI nástroj použitý, aký nástroj bol použitý, aké dáta doň boli vložené a čo sa s nimi ďalej stalo.

1. Právne riziká Shadow AI

Práve neriadené používanie nástrojov umelej inteligencie v organizácii sa označuje ako Shadow AI. Shadow AI je však potrebné vnímať nielen ako bezpečnostné riziko pre organizáciu, ale rovnako aj ako zásadné právne riziko. Príkladne možno poukázať na aspekty:

1. Ochrany osobných údajov a súlad s GDPR - ak zamestnanec vloží do verejného AI nástroja^[1] osobné údaje klientov, pacientov, uchádzačov o zamestnanie alebo kolegov, organizácia stráca kontrolu nad tým, na aký účel sa dáta ďalej spracúvajú, na akom právnom základe, kto k nim má prístup, prípadne či sú prenášané mimo priestoru EÚ. Bez konkrétnej regulácie a opatrení tu môže hroziť postih dozorného orgánu, kde sú pokuty aj v rámci preventívneho účinku často až drakonické.
2. Mlčanlivosti a ochrany dôverných informácii – ak zamestnanec vloží do verejného AI nástroja interné alebo mlčanlivosťou chránené dôverné informácie, napríklad obchodné zmluvy, analýzy či iné citlivé údaje, môže tým porušiť svoju povinnosť mlčanlivosti alebo povinnosť mlčanlivosti na strane organizácie. Takéto porušenie môže založiť nielen pracovnoprávnu zodpovednosť zamestnanca, ale za určitých okolností aj zodpovednosť samotnej organizácie voči klientom, obchodným partnerom, spoločníkom alebo akcionárom.
3. Kyberbezpečnosti organizácie –  Shadow AI predstavuje riziko aj z pohľadu kybernetickej bezpečnosti. Ak organizácia nevie, aké AI nástroje zamestnanci používajú a aké dáta do nich vkladajú, stráca schopnosť včas identifikovať incident, vyhodnotiť jeho rozsah a prijať nápravné opatrenia. Rizikom je aj čoraz častejšie sa vyskytujúci tzv. prompt injection attack. Zjednodušene možno vysvetliť, že ide o situáciu, keď útočník vloží do prostredia, z ktorého AI čerpá dáta alebo inštrukcie (napr. e‑mail, webovú stránku), škodlivý text (resp. modifikuje prompt) , ktorý zmení správanie AI nástroja. Nástroj potom môže bez vedomia používateľa začať odosielať interné údaje mimo organizáciu, ignorovať bezpečnostné obmedzenia alebo vykonávať neželané akcie. Pri Shadow AI je problém v tom, že organizácia často ani netuší, že takýto nástroj bol vôbec použitý, takže nemá šancu prompt injection včas odhaliť a zastaviť. Zároveň treba pamätať na kyberbezpečnostnú reguláciu (NIS2, zákon o kybernetickej bezpečnosti, prípadne DORA), ktorá mnohým organizáciám ukladá povinnosť riadiť a kontrolovať svoje IT prostredie, starostlivo vyberať a kontrolovať externých dodávateľov nástrojov vrátane nástrojov umelej inteligencie a celý tento postup dokumentovať.
4. Súladu s AI Actom - používanie AI nástrojov v oblastiach ako HR, zdravotníctvo, finančné služby, poisťovníctvo alebo verejná správa (teda vo vysoko regulovaných oblastiach) môže spadať do režimu vysokorizikových systémov podľa AI Act-u. Ak zamestnanec bez vedomia vedenia využije verejný AI nástroj napríklad na automatizované posudzovanie životopisov alebo na prácu so zdravotnou dokumentáciou, môže tým bez schválenia organizácie použiť AI nástroj spôsobom, ktorý môže podliehať pravidlám pre vysokorizikové AI systémy podľa AI Act-u, bez toho, aby o tom organizácia vôbec vedela., t. j. bez toho, aby tomu prispôsobila svoje procesy a (AI) dokumentáciu. Organizácia tým reálne riskuje porušenie povinností, ktoré sú s vysokorizikovými systémami spojené, vrátane hrozby sankcií podľa AI Act-u, kde sa maximálne pokuty za nesplnenie povinností pri vysokorizikových systémoch pohybujú až do výšky 15 000 000 EUR alebo 3% celosvetového ročného obratu.
5. Zodpovednosti zamestnancov – Bez jasne nastavených interných pravidiel je veľmi ťažké preukázať, že konkrétny zamestnanec porušil konkrétnu pracovnú povinnosť. Ak organizácia v internej úprave (napr. smernici) nešpecifikuje, aké používanie AI je prípustné a aké nie, resp. výslovne nezakáže vkladanie určitých typov dát do verejných AI nástrojov, bude len ťažko dokazovať zavinené porušenie povinnosti zamestnanca; bez preukázaného zavinenia navyše ani nemôže úspešne požadovať náhradu škody, ak nejaká vznikne. Aj v prípade, ak by bolo zavinené porušenie povinnosti preukázané, pri škode spôsobenej z nedbanlivosti je rozsah náhrady škody zo zákona limitovaný. Ak sa navyše na vzniku škody podieľalo aj nedostatočné nastavenie interných pravidiel, školení alebo kontrolných mechanizmov zo strany zamestnávateľa, môže to ovplyvniť rozsah náhrady škody, ktorú možno od zamestnanca požadovať. Napríklad práve tým, že používanie AI nereguloval, neškolil zamestnancov a jasne im nekomunikoval, aké dáta do AI nástrojov nepatria. To nadobúda význam aj vo svetle povinnosti podľa AI Act-u zaisťovať AI gramotnosť osôb pracujúcich s týmito technológiami; organizácia, ktorá zamestnancov neškolí, tak zanedbáva nielen pracovnoprávnu (preventívnu) povinnosť.
6. Zodpovednosti vedenia organizácie – vedenie organizácie, resp. obchodnej spoločnosti má vo všeobecnosti povinnosť konať s odbornou starostlivosťou; ak je používanie AI zo strany zamestnancov predvídateľnou, resp. faktickou realitou (čo v súčasnej dobe nepochybne je), a vedenie napriek tomu nenastaví pravidlá, kontrolné mechanizmy a primerané opatrenia, môže byť neskôr problematické tvrdiť, že konalo informovane a s potrebnou starostlivosťou. Inými slovami – zodpovednosť za následky Shadow AI nemusí ísť výhradne za zamestnancom; časť rizika nesie aj vedenie, ktoré používanie AI vedome tolerovalo bez toho, aby ho účinne regulovalo a riadilo.
    

2. Ako dostať používanie AI v organizácii pod kontrolu

Cieľom regulácie používania AI v organizácii by nemalo byť zakazovať nástroje umelej inteligencie, ale nastaviť jasné podmienky, za ktorých ju môžu zamestnanci bezpečne používať. V praxi ide o niekoľko základných krokov, ktoré je možné škálovať podľa veľkosti organizácie a napokon aj samotného odvetvia jej činnosti.

Prvým krokom je primárne zistiť, aké AI nástroje sa v organizácií reálne používajú, kým a na aké typy úloh. To nie je dôležité len z pohľadu regulácie, ale aj ako podklad pre prípadnú implementáciu vlastného „enterprise“ AI riešenia. Kým totiž organizácie nevie, na čo jej zamestnanci AI používajú dnes, ťažko pre nich navrhne zmysluplnú a bezpečnú alternatívu do budúcna.

Nemožno zároveň predpokladať, že sa každý zamestnanec otvorene prizná k používaniu neschválených nástrojov. Preto má zmysel pracovať aj s predpokladom, pri akých typoch pracovných pozícií a úloh je používanie AI pravdepodobné (práca s textami, analýza dát, komunikácia so zákazníkmi), a sústrediť sa pri mapovaní najmä na tieto oblasti. Je rok 2026 a realita dní je taká, že AI nástroje sa budú využívať čoraz častejšie a pri stále širšom spektre činností. Otázkou v súčasnosti teda nie je „či“, ale „ako a za akých podmienok“.

Na tomto základe je potom vhodné pripraviť prehľadnú a zrozumiteľnú AI smernicu. Jej účelom nemá byť zamestnanca zahltiť množstvom pravidiel, ale vysvetliť mu, prečo je táto téma dôležitá, aké riziká sú s používaním AI spojené a aké základné hranice pri jej používaní organizácia nastavuje.

Aj stručná smernica by však mala obsahovať aspoň minimálny rámec. Mala by určiť, ktoré AI nástroje sú povolené, ktoré len podmienečne a ktoré zakázané, aké typy dát sa do verejných AI nástrojov nesmú vkladať, prípadne ako má zamestnanec postupovať, ak si nie je istý, či je konkrétne použitie prípustné. Rovnako by mala stručne upraviť aj to, komu sa hlási incident alebo nedovolené použitie AI nástroja. To je vhodné vymedziť v súčinnosti s osobou zodpovednou za ochranu osobných údajov (DPO), ak ju organizácia má. Pri mnohých AI incidentoch totiž nejde len o technický, či bezpečnostný problém, ale zároveň aj o potenciálne narušenie ochrany osobných údajov, kde je úloha DPO kľúčová pri posúdení rizika a povinnosti incident oznámiť dozornému orgánu alebo dotknutým osobám. Popri samotnej smernici je v praxi veľmi vhodné pripraviť aj krátky interný „one-pager“ alebo informačný leták so základnými pravidlami.

S prijatím internej smernice, aj v kontexte povinností vyplývajúcich z AI Act-u, odporúčané aj prakticky zamerané školenie zamestnancov. Cieľom nie je ľudí vystrašiť, ale zrozumiteľne im vysvetliť, čo je Shadow AI, aké riziká prináša z pohľadu GDPR, mlčanlivosti a kyberbezpečnosti a na konkrétnych príkladoch ukázať, aké dáta do AI nástrojov nepatria a ako majú postupovať, keď si nie sú istí.

3. Shadow AI, resp. AI nezmizne. Otázka je, či ju regulujete

Fenomén Shadow AI nevzniká z úmyslu uškodiť, ale v dnešnej digitálnej dobe najmä z tlaku na rýchlosť a efektivitu zamestnanca. Zamestnanci budú nepochybne používať nástroje aj bez regulácie, a ak organizácia neponúkne bezpečné ale zároveň najmä prakticky použiteľné riešenia, je reálne očakávať, že siahnu po nástrojoch mimo rámca tých zavedených. V závislosti od povahy a veľkosti organizácie preto často dáva zmysel uvažovať aj o nasadení „enterprise“ AI riešení, ktoré umožnia využívať umelú inteligenciu v kontrolovanom prostredí organizácie, ale zároveň zohľadnia reálne potreby používateľov, aby zamestnanci nemali motiváciu hľadať „vlastné“ alternatívy.

Otázka v dnešnej dobe preto nestojí, tak či sa vo vašej organizácii AI používa. Otázka je, či je jej používanie riadené, ideálne s jasnými a predvídateľnými pravidlami, sprevádzané vzdelávaním zamestnancov a primeranými technickými opatreniami, alebo prebieha „skryto“, mimo Vašej kontroly. V prvom prípade môže AI prinášať reálnu pridanú hodnotu pri rizikách, ktoré kontrolujete. V druhom prípade ide o zdroj významných právnych, bezpečnostných a reputačných rizík, ktoré sa skôr, či neskôr môžu prejaviť. Či už v podobe bezpečnostného incidentu, sporu s partnerom / klientom, alebo pri kontrole regulátora.

Pre organizácie tak dnes nie je konkurenčnou výhodou len to, že AI vôbec používajú, ale najmä to, že ju používajú riadene, bezpečne a v súlade s právom. Kto si realitu dnešných dní prizná, uchopí ju a nastaví rozumné pravidlá, má šancu využiť potenciál umelej inteligencie bez toho, aby z nej vzišlo právne či bezpečnostné riziko.

_{[1] Za tzv. verejné AI nástroje považujeme najmä AI nástroje verejne dostupné cez internet, ak sú používané mimo schváleného firemného účtu, workspace alebo enterprise režimu. Môže ísť napríklad o osobné/free účty v nástrojoch typu ChatGPT, Gemini, Claude, Grok, Canva AI, GeminiLM a pod. Rozhodujúce nie je samotný názov nástroja, ale to, či má organizácia má kontrolu nad tým, aké dáta sa do nástroja vkladajú, kde sa uchovávajú, kto k nim má prístup a či môžu byť použité na ďalšie spracovanie alebo zlepšovanie modelu.}