Čarovná sila Ai: Prínosy, bezpečnosť a výzvy regulácie

Generatívne modely sú v bežnej práci, deepfake podvody majú reálne obete a Európa má prvý komplexný zákon o AI na svete. Ten už platí, hoci nie presne tak, ako sa pôvodne očakávalo. Tu je, čo sa za tri roky reálne zmenilo a čo z toho vyplýva pre prax.

Prínosy: posun od sľubov k prevádzke

Zoznam prínosov AI sa za posledné roky obsahovo veľmi nezmenil: automatizácia rutiny, podpora diagnostiky v medicíne, optimalizácia dopravy, personalizácia či urýchlenie výskumu. Zmenila sa miera, do akej sú tieto prínosy reálne nasadené, a tým aj povaha otázky.

Pred troma rokmi znela otázka: „Dá sa to vôbec použiť?“ Dnes znie skôr: „Oplatí sa to?“ Generatívne nástroje sa presunuli z dema do dennej praxe v písaní, kóde, zákazníckej podpore a spracovaní dokumentov. To je skutočný posun.

Súčasne sa ukázali aj limity. Úspora času pri rutine je merateľná, ale prínos sa rýchlo stráca tam, kde výstup musíte dôkladne kontrolovať. Náklad nezmizol, iba sa presunul z tvorby do overovania.

Pri zavádzaní AI do procesu preto nemá zmysel merať iba to, koľko času ušetrí model. Dôležitejšie je, koľko času zaberie celý cyklus vrátane kontroly a opráv. Bez tohto čísla je ROI nasadenia AI odhad, nie fakt.

zdroj: pixabay

Keď sa to vymkne kontrole: čo z obáv ostalo

Pôvodný koncept menoval superinteligenciu, autonómne zbrane, porušovanie súkromia, nezamestnanosť a zaujatosť. Tri roky dát nám dnes umožňujú zoradiť tieto obavy podľa toho, čo sa reálne deje, a čo zostáva skôr špekuláciou.

Najväčší a najlepšie zdokumentovaný posun je zneužitie AI na podvody. Medzinárodná správa o bezpečnosti AI (International AI Safety Report) z roku 2025 zaraďuje medzi reálne, nie hypotetické riziká rozsiahle podvody, kybernetické útoky a tvorbu sexualizovaných deepfakov. Tie najtvrdšie zasahujú najmä ženy, deti a ďalšie zraniteľné skupiny.

Správa delí riziká pokročilých systémov do troch kategórií: zneužitie, technické zlyhania a systémové riziká. Varuje aj pred manipuláciou verejnej mienky pri voľbách cez cielené dezinformačné kampane.

Kybernetická bezpečnosť sa medzitým posunula z teoretického rizika na ekonomický problém prvého rádu. V roku 2026 sa kybernetická neistota zaradila medzi najvýznamnejšie globálne riziká v dvojročnom horizonte, hoci nie medzi prvých päť. Pre firmy to znamená, že nejde len o IT problém, ale o prevádzkové a finančné riziko.

Deepfake už nie je okrajový jav. Začiatkom roka 2026 viacero štátov dočasne zablokovalo prístup ku generátoru Grok pre nekonsenzuálne deepfaky. Indonézia, Malajzia aj Filipíny obmedzili prístup v januári 2026, pričom samotná spoločnosť xAI obmedzila generovanie obrázkov len na platiacich používateľov. To je konkrétny príklad rizika, ktoré pred troma rokmi existovalo najmä ako varovanie.

Naopak, superinteligencia a autonómne zbrane zostávajú témami diskusie bez jasného merateľného dopadu na bežnú prevádzku väčšiny organizácií. Nezamestnanosť z automatizácie je zatiaľ skôr lokálna než plošná. AI dokáže automatizovať časť vstupnej práce, ale technické, procesné a právne prekážky stále brzdia plošné nasadenie. Hrozba teda existuje, jej rozsah je však otvorená otázka, nie hotový fakt.

Najčastejšie zneužitie: realita namiesto zoznamu

Pôvodný text uvádzal dezinformácie, phishing, škodlivý softvér, manipuláciu dát a porušovanie súkromia ako potenciálne spôsoby zneužitia. Tri roky neskôr sú prvé tri z nich doložené reálnymi prípadmi.

Falošné celebritné reklamy na investičné podvody spôsobili merateľné škody. Austrálsky regulátor už v roku 2024 varoval pred deepfake videami verejných osobností ako návnadou na podvodné obchodné platformy. Brazílske úrady v roku 2025 rozbili schému, ktorá využívala deepfake reklamy s celebritami.

Phishing poháňaný generatívnymi modelmi je dnes lacnejší, rýchlejší a presvedčivejší než v minulosti. Aj preto kyberriziko vystúpilo medzi významné globálne hrozby.

Pre praktickú obranu z toho plynie jednoduchý záver: najväčšiu návratnosť dnes neprináša sledovanie špekulatívnych rizík, ale základná hygiena proti AI-poháňanému phishingu a deepfake podvodom. Overujte identitu pri finančných transakciách iným kanálom, buďte skeptickí voči „celebritným“ investičným ponukám a školte ľudí na rozpoznanie sofistikovanejších útokov.

Regulácia: najväčšia zmena za posledné roky

Ešte pred tromi rokmi sme o regulácii uvažovali ako o abstraktnej možnosti. Európska únia medzitým prijala AI Act, vôbec prvý komplexný právny rámec pre AI na svete. Formálne ho Rada EÚ prijala 21. mája 2024, do účinnosti vstúpil 1. augusta 2024 a jeho povinnosti sa zavádzajú v postupných fázach.

Dôležitý je však obrat, ktorý prišiel v rokoch 2025 – 2026 a ktorý išiel proti pôvodnému očakávaniu. Mnohí čakali sprísňovanie; namiesto toho prišlo odloženie časti termínov. Do konca roka 2025 bolo zrejmé, že implementácia naráža na praktické a časové limity. Európska komisia preto 19. novembra 2025 predložila návrh Digital Omnibus on AI, ktorý priniesol zjednodušenie a odklad časti povinností pre vysokorizikové systémy.

Konkrétne to znamená tieto posuny:

• Vysokorizikové systémy podľa prílohy III (biometria, kritická infraštruktúra, vzdelávanie, zamestnanosť, migrácia, presadzovanie práva): povinnosti sa posunuli z 2. augusta 2026 na 2. december 2027, teda o 16 mesiacov.
• Systémy zabudované do produktov (výťahy, hračky a podobne): pravidlá sa začnú uplatňovať od 2. augusta 2028.
• Transparentnosť (článok 50): povinnosť označovať syntetický obsah strojovo čitateľným spôsobom sa pre systémy uvedené na trh pred 2. augustom 2026 posunula na 2. december 2026, teda len o štyri mesiace. Samotné pravidlá transparentnosti nadobúdajú účinnosť v auguste 2026.

Pribudol aj nový zákaz systémov, ktoré generujú nekonsenzuálny sexuálne explicitný obsah alebo materiál zobrazujúci sexuálne zneužívanie detí, napríklad „nudifikačné“ aplikácie. To priamo reaguje na deepfake prípady opísané vyššie.

Pokuty nie sú symbolické. Ak AI systém pracuje s osobnými údajmi v rozpore s GDPR, najmä pri biometrii alebo rozpoznávaní emócií, sankcie môžu dosiahnuť až 20 000 000 EUR alebo 4 % celosvetového ročného obratu.

Čo z toho vyplýva pre prax

Odklad termínov nie je dôvod prestať sa pripravovať. Je to skôr priestor urobiť prípravu poriadne. Skutočné riziko nie je v tom, že by sa pravidlá zmäkčili. Nezmäkčili sa, najmä sa posunuli. Riziko je v tom, že odklad uspí organizácie do nečinnosti a v roku 2027 ich termín zastihne nepripravené.

Prvý praktický krok je inventúra. Zmapujte, ktoré AI systémy organizácia používa, kto ich vlastní, na aké účely slúžia a či niektorý z nich nespadá do vysokorizikovej alebo zakázanej kategórie.

Merateľný výstup tejto fázy je jednoduchý: zoznam systémov s priradenou rizikovou kategóriou a dátumom, ku ktorému sa na ne vzťahuje konkrétna povinnosť. Bez takéhoto zoznamu sa príprava na AI Act ľahko zmení na všeobecnú debatu bez vlastníka a termínu.

Záver

Za tri roky sa debata o AI posunula z roviny „čo by mohlo byť“ do roviny „čo už je a čo s tým“. Prínosy sú reálne, ale ich návratnosť treba merať na celom pracovnom cykle, nie na izolovanom úkone.

Najvážnejšie riziká sa ukázali byť tie najprízemnejšie: podvody, phishing a deepfaky, nie superinteligencia. Regulácia, ktorá bola v roku 2023 len témou na diskusiu, je dnes platným zákonom s odloženými, no nie zrušenými termínmi a s pokutami v desiatkach miliónov eur.

Čarovná sila AI ostáva. Lenže kúzlo má dnes návod na použitie, dátum účinnosti a sankciu za porušenie.