Od 2. srpna platí nová pravidla pro AI obsah. Co musíte označovat a co naopak ne?

Umělá inteligence se během posledních let stala běžnou součástí marketingu, médií i firemní komunikace. Firmy dnes využívají AI pro tvorbu textů, obrázků, videí i zvuku. Spolu s tím ale přichází i nová legislativa.

Od 2. srpna 2026 začala v celé Evropské unii platit pravidla transparentnosti podle článku 50 AI Actu, která zavádějí povinnost označovat některé typy obsahu vytvořeného nebo upraveného pomocí umělé inteligence. Tento článek vychází z praktického průvodce České asociace umělé inteligence, jejímž jsme členem od roku 2024. 

Přesto kolem této povinnosti panuje řada mýtů. Jeden z nich je například:

"Každý obsah vytvořený AI se musí označovat."

Ve skutečnosti to tak není.

Není potřeba označovat všechno

AI Act nerozšiřuje povinnost na každý obrázek vytvořený v Midjourney ani na každý text napsaný pomocí ChatGPT.

Viditelné označení se podle článku 50 týká především dvou situací:

• deepfaků,  
• některých AI generovaných textů zveřejněných ve veřejném zájmu. 

Vedle toho existuje ještě druhá vrstva označování, a to technická metadata nebo digitální vodoznaky, které řeší poskytovatelé AI systémů. Ty se běžných uživatelů netýkají. 

Co je podle AI Actu deepfake?

Slovo deepfake si většina lidí spojuje s falešnými videi politiků nebo celebrit. Definice AI Actu je ale širší.

Aby byl obsah považován za deepfake, musí být splněny všechny následující podmínky:

• jde o obraz, video nebo zvuk, 
• obsah vznikl nebo byl upraven pomocí AI, 
• podobá se skutečné osobě, objektu, místu, subjektu nebo události, 
• může na člověka působit jako autentický nebo pravdivý. 

Důležité je, že zákon nezkoumá úmysl autora. Není rozhodující, zda chtěl někoho oklamat. Rozhodující je, jak může obsah působit na veřejnost. 

Kdo má povinnost obsah označit?

Povinnost dopadá na takzvaný zavádějící subjekt, tedy na organizaci nebo osobu, která AI používá při své profesní činnosti a rozhoduje o zveřejnění obsahu.

Typicky se může jednat například o:

• firmy,  
• reklamní agentury, 
• média,  
• e-shopy,  
• školy,  
• veřejné instituce. 

Naopak čistě soukromé použití AI mimo profesní činnost se této povinnosti netýká. Pokud si například vytvoříte AI obrázek pro pozvánku na narozeninovou oslavu, označovat jej nemusíte. Pokud ale stejný obrázek použije reklamní agentura v marketingové kampani, situace je jiná. 

Jak má označení vypadat?

AI Act nepředepisuje konkrétní podobu ani povinnou formulaci.

Stanovuje ale několik zásad:

• označení musí být jasně viditelné, 
• nesmí být schované v metadatech nebo obchodních podmínkách, 
• uživatel jej musí vidět při prvním kontaktu s obsahem, 
• musí být čitelné bez použití speciálních nástrojů. 

Evropská komise doporučuje využívat například označení:

AI Generated 
AI Modified 

nebo odpovídající grafické ikony. 

Kdy označení potřeba není?

Jednou z nejzajímavějších částí metodiky jsou praktické příklady.

1. AI vytvoří fantasy scénu nad Pražským hradem
   Pokud je zřejmé, že jde o nereálnou scénu (například obří roboti útočící na Pražský hrad), obvykle nepůjde o deepfake.
   Samotný fakt, že obrázek vytvořila AI, totiž nestačí. 
    
2. AI vytvoří fotku prezidenta sedícího s drakem v hospodě
   Ani zde typicky nejde o deepfake.
   Přestože je na obrázku skutečná osoba, nikdo jej pravděpodobně nebude považovat za autentickou fotografii skutečné události. 
    
3. AI upraví produktovou fotografii
   Pokud AI pouze vytvoří nové pozadí a samotný výrobek odpovídá realitě, obvykle nejde o deepfake.
   Pozor ale na situaci, kdy AI změní vlastnosti produktu tak, že působí lépe než ve skutečnosti. V takovém případě už mohou vstupovat do hry nejen pravidla AI Actu, ale také ochrana spotřebitele. 

Kdy už označení potřeba je?

Naopak typickými deepfaky jsou například:

• AI video, které věrohodně napodobuje televizní zpravodajství, 
• falešné vystoupení politika, 
• naklonovaný hlas moderátora podcastu, 
• realistická fotografie události, která se nikdy nestala. 

V těchto případech může veřejnost nabýt dojmu, že sleduje skutečný záznam reality, a právě zde AI Act požaduje viditelné označení. 

Co texty vytvořené pomocí ChatGPT?

Ani zde neplatí, že se musí označovat každý AI text.

Povinnost se týká pouze textů, které mohou významně ovlivňovat veřejné mínění nebo rozhodování veřejnosti, například v oblastech:

• zpravodajství,  
• politika,  
• zdravotnictví,  
• bezpečnost,  
• počasí,  
• finance.  

Pokud AI vytvoří článek a před zveřejněním jej odborně zkontroluje odpovědný redaktor, označení není nutné. Stejně tak se neoznačují běžné marketingové texty, reklamní slogany nebo popisy produktů vytvořené pomocí AI. 

Umění, satira a fikce mají výjimku

AI Act myslí také na uměleckou tvorbu. Deepfaky použité v rámci zjevně uměleckého, satirického nebo fikčního díla se označují také, ale pravidla jsou mírnější.

Informace může být uvedena například:

• v titulcích, 
• v popisu díla, 
• v programu, 
• u vstupu na výstavu. 

Pokud ale není pro publikum jasné, že jde o fikci, výjimka se neuplatní. 

Tři otázky, které si položte před zveřejněním

Při rozhodování, zda obsah označit, doporučuje metodika jednoduchý postup:

1. Vznikl nebo byl upraven pomocí AI? 
2. Připomíná skutečnou osobu, místo, objekt nebo událost? 
3. Mohl by působit jako skutečný záznam reality? 

Pokud na všechny tři otázky odpovíte ano a obsah zveřejňujete v rámci profesní činnosti, pravděpodobně jde o deepfake, který je potřeba označit. 

Na co si dát pozor?

Je důležité rozlišovat dvě různé povinnosti:

• viditelné označení, které řeší ten, kdo obsah zveřejňuje, 
• technické označení (metadata nebo digitální vodoznaky), které řeší poskytovatelé AI systémů. 

To, že například ChatGPT nebo jiný AI nástroj ukládá metadata o původu obsahu, nezbavuje uživatele povinnosti obsah viditelně označit, pokud to AI Act vyžaduje. 

Závěr

Nová pravidla rozhodně neznamenají, že bude nutné označovat každý obrázek nebo text vytvořený umělou inteligencí. AI Act se zaměřuje především na situace, kdy může AI obsah působit jako skutečný záznam reality nebo ovlivňovat veřejnost v citlivých oblastech.

Pro firmy, marketéry i média proto bude klíčové naučit se rozlišovat mezi běžným využitím AI a obsahem, který naplňuje definici deepfaku. Správné označování nebude jen otázkou legislativní povinnosti, ale také transparentnosti a důvěryhodnosti komunikace.

Zdroj článku