Mezi nejčastější otázky, které na školeních o AI a právu dostávám, patří: „Musíme AI obsah nějak označovat?“
Ano a ne.
Podle evropského nařízení o AI (AI Act) platí od roku 2026 povinnost označovat AI obsah. Běžný text, obrázky či videa vygenerované umělou inteligencí označují automaticky sami poskytovatelé nástrojů v metadatech. Vy máte povinnost viditelně označit pouze tzv. deepfake.
Od 2. srpna letošního roku se tak AI obsah označí sám. Nástroje, které jsou na trhu už déle, mají na zavedení označení čas do prosince 2026.
Evropská legislativa říká, že AI nástroje, které generují obsah, tedy text, obrázky, videa, hudbu nebo jiné audio, musí tento obsah samy označit.
Jak bude technické označení AI obsahu vypadat?
Nebude lidským okem patrné. Bude schované v metadatech.
Evropa vydala kodex, ve kterém našeptává, jak by takové označení mělo vypadat:
- texty budou (s ohledem na svou povahu) označené neviditelným vodoznakem
- ostatní obsah by měl mít kromě vodoznaku ještě další vrstvy značení
- v metadatech se zachytí, kdy a v jakém nástroji obsah vznikl
Označení má být robustní, tedy jen tak „nesmazatelné“ a strojově čitelné. Ti poskytovatelé AI nástrojů, kteří ke kodexu přistoupí, by měli zpřístupnit i svůj „stínový nástroj“. Tedy něco jako „rentgen“, ve kterém si budeme moct ověřit, jestli obsah pochází právě z jejich AI dílny.
Tento typ označování se týká poskytovatelů AI nástrojů. Jde o technické řešení a obsah se tak „na pozadí“ označí automaticky, bez vašeho přičinění.
Označování se netýká překladů, korektur a podobných drobnějších úprav, kterými jste si v AI nástroji jen vypomohli.
Máte vy sami povinnost AI obsah označit?
Ano. Ale jen a pouze v případě, že obsah, který generujete, je tzv. deepfake. Tato nová povinnost začíná platit 2. srpna 2026.
Co je to deepfake podle AI actu?
Jsou to obrázky, videa, audia, která falešně působí jako existující lidé, situace, místa, přestože se o realitu nejedná (totéž platí i pro fiktivní osoby, situace nebo místa, pokud na nás působí jako autentický záznam reality). Jinými slovy: obsah má potenciál zmást diváka, zda se kouká na realitu.
Tak například:
- Video ze safari, na kterém přibrzdí vozík a na klín holčičky vyskočí malé mládě pumy.
- Video prezidenta, na kterém vám vysvětluje, jak je skvělé investovat do nové investiční platformy.
- Fotka zaplněného Václavského náměstí, která ilustruje článek k demonstraci, na kterou dorazilo pár desítek lidí.
Co je a není deepfake v reklamě?
V případě reklamy bude záležet na tom, jak celou kampaň koncipujete.
Tak například:
🐹 Roztančení křečci v ponožkách jsou jasným fantasy.
✨ Realistická kočka mlsající Whiskas se šťastnou jiskrou v oku nemá potenciál mást.
🫂 Fiktivní (byť realisticky vypadající) pár na billboardu, objímající se při západu slunce s Coca Colou v ruce, nemá potenciál vyvolat v nás, zákaznících, pocit, že je to realita. Klasická reklamní stylizace je tu jasným signálem, že nejde o autentický záznam:
👕 Pokud si na produktové fotky trička vypůjčíte mě jako modelku (ač jsem vám nikdy modelem nestála), už je potřeba obrázek jako deepfake označit:
(A taky se mě ideálně zeptat, zda jsem s tím v pohodě. #GDPRisnotdead)
Jak deepfake správně označovat?
Cílem je, aby bylo hned jasné, že koukáme na AI. Evropa vytvořila grafiku, kterou pro to můžete použít. Ke stažení ji najdete na stránkách Evropské komise.
Základem je označení „AI“:
K němu pak (buď do druhé vrstvy nebo vedle) přidáte „modified“ nebo „generated“ - podle míry originality vašeho obsahu:
Tedy:
👉🏻 pokud je celé video generované v AI → AI generated
👉🏻 pokud video tvoříte sami a voiceover (s deepfake potenciálem) je generovaný AI → AI modified
Shrnutí: povinnost označovat AI obsah a deepfaky
- AI obsah se označí sám - řeší to poskytovatel nástroje, ne vy. Lidským okem tento příznak neuvidíte.
- Deepfake označujete vy - pokud tvoříte obsah, který má potenciál mást ohledně své autenticity. Toto označení musí být viditelné na první dobrou.
Při označování nezapomínejte na pravidla přístupnosti - popisek (alt text) by měl být čitelný i pro hlasové čtečky zrakově postižených.
Startujeme v srpnu letošního roku. Moje osobní prosba zní: nečekejte. Deepfaky zaplavují svět raketovou rychlostí. Pojďme budovat důvěryhodné značky a nepřitápějme pod kotlem dezinformací.
Chcete v tom u vás v týmu udělat jasněji? Napište mi. Ráda dorazím se školením Právo a AI nebo na to mrkneme v rámci individuální konzultace.
Často kladené otázky (FAQ):
Musím označovat texty vygenerované v ChatGPT?
Ne, vy sami texty viditelně označovat nemusíte. Technické označení do metadat vloží sám poskytovatel (OpenAI). Výjimka pak platí pro novinářskou činnost - pokud AI články neprochází redakční kontrolou, musí se viditelně jako AI generované označit.
Kde stáhnu oficiální EU štítky pro označení AI deepfaků?
Oficiální grafické prvky „AI Generated“ a „AI Modified“ vytvořila Evropská komise a jsou zdarma ke stažení na jejím oficiálním webu.
Týká se povinnost označování běžných překladů přes DeepL?
Ne, drobné úpravy, jazykové korektury, překlady nebo stylistické vylepšení textu se viditelně ani skrytě označovat nemusí.
.png)
