Evropská komise je výkonným orgánem Evropské unie, který navrhuje a prosazuje unijní legislativu napříč členskými státy. Právě ona nyní dohlíží na uplatnění dosud nejrozsáhlejšího souboru pravidel pro umělou inteligenci na světě. Od 2. srpna začala v celé EU – tedy i v Česku – platit a být vymahatelná nová pravidla pro transparentnost AI, která vycházejí z článku 50 evropského nařízení AI Act. Cílem je, aby lidé snáze poznali, kdy komunikují s chatbotem nebo kdy se dívají na obrázky, videa či texty vytvořené umělou inteligencí.
- Nová pravidla vycházejí z článku 50 nařízení AI Act a platí v celé EU od 2. srpna.
- Firmy musí označovat obsah generovaný umělou inteligencí a informovat uživatele, když komunikují s AI, a nikoli s člověkem.
- Za porušení hrozí pokuty až 15 milionů eur nebo tři procenta ročního celosvětového obratu.
- Pravidla se nevztahují na čistě soukromé a osobní použití AI.
„Tyto povinnosti mají posílit důvěru a integritu v informačním ekosystému,“ uvedla Evropská komise ve svých nových pokynech. „Lidé by měli vědět, když komunikují s umělou inteligencí nebo jsou vystaveni obsahu, který vytvořila. Pomůže jim to činit informovaná rozhodnutí a vyhnout se dezinformacím nebo klamání.“
Kdy musí obsah nést značku AI
Pravidla rozlišují dvě základní situace. Pokud stroje pomáhaly při tvorbě „autenticky vypadajícího“ deepfake obsahu – tedy obrázku, zvuku, videa nebo publikovaného textu – musí nést značku „AI“. Pokud je obrázek, zvuk, video nebo text vytvořen umělou inteligencí zcela, musí být označen jako „AI-Generated“.
Regulátoři jako příklady druhé kategorie uvádějí „plně uměle vytvořená deepfake videa s politiky nebo smyšlenými událostmi“, „hudbu či umění zcela složené umělou inteligencí“ nebo „zprávy shrnuté umělou inteligencí“. Označeny musí být i další typy AI, například modely, které rozpoznávají emoce nebo zpracovávají biometrické údaje.
„Cíl je jednoduchý: kdykoli hraje umělá inteligence zásadní roli, máte právo to vědět,“ uvedla Komise ve svém vysvětlujícím videu.
Na koho pravidla míří a koho se netýkají
Nová pravidla se zaměřují především na firmy a organizace, které umělou inteligenci využívají při poskytování služeb nebo obsahu veřejnosti. Naopak se nevztahují na používání AI pro čistě soukromé a osobní účely – z povinností jsou vyňaty například skupinové chaty i „zjevně umělecká“, satirická a fiktivní díla.
Komise bude dohlížet také na poskytovatele takzvaných obecných modelů umělé inteligence. Ti budou muset dokumentovat informace, zveřejňovat souhrny tréninkových dat a zavést pravidla pro dodržování autorských práv. Dodržování budou vymáhat vnitrostátní orgány.
Pokuty mohou dosáhnout milionů eur
Nařízení má i sankční nástroje. Firmám hrozí pokuty až 15 milionů eur (zhruba 375 milionů korun) nebo tři procenta ročního celosvětového obratu. Pro instituce, orgány a agentury EU je horní hranice 750 tisíc eur (přibližně 19 milionů korun). U malých a středních podniků a malých společností se střední tržní kapitalizací se přihlédne k přiměřenosti.
Pro čtenáře v Česku to prakticky znamená, že tuzemské firmy nasazující chatboty nebo generující obsah pomocí AI budou muset jasně sdělovat, kdy jde o stroj a kdy o člověka, a viditelně označovat uměle vytvořený materiál.
Kritika od části technologického průmyslu
Nová pravidla staví Evropu do role nejvýraznějšího regulátora technologií umělé inteligence. Část průmyslu je kritizuje s argumentem, že představují nepřiměřenou zátěž, která zpomalí inovace.
Evropský regulátor naopak tvrdí, že pravidla vývoj zjednoduší tím, že vytvoří jednotný trh s harmonizovanými pravidly. „Řeší také možná rizika pro zdraví, bezpečnost a základní práva lidí, přičemž chrání demokracii a právní stát,“ uvedla Komise. „Zajištění jeho účinného uplatňování je nyní klíčovou prioritou Komise.“
Uvítáte, když u online obsahu jasně uvidíte, že ho vytvořila umělá inteligence, nebo se obáváte, že nová pravidla firmy jen zatíží? Napište nám svůj názor.
