Dne 2. srpna 2026 nabyla účinnosti pravidla pro transparentnost systémů umělé inteligence podle článku 50 nařízení Evropského parlamentu a Rady (EU) 2024/1689 (tzv. AI Act).
Tato pravidla stanovují povinnosti při využívání AI systémů a rozlišují čtyři základní režimy.
1. Transparentnost chatbotů
První režim se týká systémů AI určených k přímé interakci s fyzickými osobami, typicky chatbotů nebo hlasových asistentů. Poskytovatel takového systému musí zajistit, aby byl navržen a vyvinut tak, že dotčená osoba bude vyrozuměna, že komunikuje se systémem AI, a nikoli s člověkem – ledaže je to zřejmé již z okolností a kontextu použití pro přiměřeně informovanou, pozornou a obezřetnou osobu. Výjimka platí pro systémy AI zákonně oprávněné k odhalování, prevenci, vyšetřování či stíhání trestných činů, ovšem ani ona neplatí, jsou-li takové systémy veřejně dostupné za účelem hlášení trestné činnosti – tam se informační povinnost uplatní znovu.
2. Označování obsahu vytvořeného umělou inteligencí
Druhý režim ukládá poskytovatelům AI systémů (včetně obecných systémů AI) vytvářejících syntetický obrazový, zvukový, video či textový obsah povinnost zajistit, aby byly jejich výstupy označeny ve strojově čitelném formátu a zjistitelné jako uměle vytvořené nebo manipulované, a to účinným, interoperabilním, robustním a spolehlivým technickým řešením, pokud je to technicky proveditelné. Tato povinnost dopadá na poskytovatele AI nástroje (např. vývojáře generativního modelu), nikoliv na jeho uživatele. Neuplatní se navíc tam, kde AI plní pouze asistenční funkci standardní editace nebo podstatně nemění vstupní data poskytnutá uživatelem ani jejich význam, ani tam, kde je to zákonem povoleno pro účely odhalování či stíhání trestných činů.
3. Systémy rozpoznávání emocí a biometrické kategorizace
Třetí režim stanovuje povinnost subjektů, které v rámci svého provozu využívají systém rozpoznávání emocí (zjišťující nebo odvozující emoce či záměry osob z biometrických údajů) nebo systém biometrické kategorizace (zařazující osoby do kategorií jako pohlaví, věk nebo etnický původ na základě biometrických údajů), informovat o provozu takového systému fyzické osoby, které jsou mu vystaveny, a zpracovávat osobní údaje v souladu s příslušnými předpisy o ochraně osobních údajů. Mimo oblast donucovacích orgánů (kde se povinnost neuplatní za podmínky zachování záruk práv třetích osob) přichází uplatnění těchto systémů v úvahu například v medicíně či marketingu, případně v budoucnu také v prostředí call center. Mimo rámec této informační povinnosti stojí čistě vedlejší prvky biometrické kategorizace neoddělitelně spjaté s jinou službou, jako jsou filtry na sociálních sítích či virtuální zkoušení produktů v e-shopech.
4. Transparentnost deep fake obsahu a textů ve veřejném zájmu
Čtvrtý režim rozlišuje dvě samostatné povinnosti.
První se vztahuje výhradně na tzv. deep fake obsah, tedy obrazové, zvukové nebo video materiály vytvořené či upravené umělou inteligencí, které se znatelně podobají existujícím osobám, objektům, místům nebo událostem a mohly by se dotčené osobě mylně jevit jako autentické. Subjekty zavádějící takový obsah jsou povinny zveřejnit, že byl uměle vytvořen nebo s ním bylo manipulováno, a to jasně a zřetelně. Je-li obsah součástí zjevně uměleckého, tvůrčího, satirického nebo fiktivního díla, omezuje se tato povinnost jen na zveřejnění existence takového obsahu způsobem, který nebrání vlastnímu užívání nebo požitku z díla.
Druhá povinnost se týká textů vytvořených nebo upravených umělou inteligencí, které jsou publikovány za účelem informování veřejnosti o záležitostech veřejného zájmu – typicky zpravodajský či publicistický obsah. Tato povinnost se tedy nevztahuje na obrazové reklamní vizuály ani na texty, které nemají informační funkci ve věcech veřejného zájmu. Neuplatní se ani tehdy, byl-li text podroben lidské redakční kontrole a za jeho zveřejnění nese odpovědnost konkrétní fyzická nebo právnická osoba (typicky vydavatel), ani v případech zákonného použití pro trestněprávní účely.
Co z toho vyplývá?
AI Act zavádí rozdílné požadavky na transparentnost podle typu AI systému, povahy vytvořeného obsahu i postavení subjektu, který AI vyvíjí nebo využívá. Z hlediska využívání AI při tvorbě obsahu je důležité zejména rozlišovat mezi obecnou povinností poskytovatele označovat syntetické výstupy technickým (strojově čitelným) způsobem a povinností zavádějícího subjektu (typicky marketingové nebo PR agentury, nikoli nutně zadavatele kampaně) zveřejnit umělý původ obsahu navenek, a to pouze v případech výslovně stanovených nařízením – především u deep fake obsahu a u textů ve veřejném zájmu. Mimo tyto vymezené případy nevzniká ze samotného AI Actu povinnost viditelně označovat AI původ obsahu v grafice či doprovodném textu. Úřad pro AI, zřízený samostatným rozhodnutím Evropské komise jako útvar zřízený a organizačně začleněný do struktury Evropské komise, má zároveň podporovat vypracování dobrovolných kodexů správné praxe pro odhalování a označování uměle vytvořeného obsahu, které mohou v budoucnu rozšířit standard transparentnosti nad rámec zákonného minima.