Právo umělé inteligence

AI Act v praxi: ohlédnutí za workshopem

AI Act v praxi: ohlédnutí za workshopem

Povinnosti podle AI Actu závisejí na tom, k čemu společnost AI používá a v jaké roli vystupuje. Na workshopu v Kampusu Hybernská jsme probrali, jak se v nich zorientovat a promítnout je do smluv, interních pravidel a každodenního provozu.

Ve čtvrtek 12. listopadu 2026 jsme v Kampusu Hybernská v Praze uspořádali workshop „AI Act v praxi: Co musí inovativní společnosti znát“. Připravili jsme ho ve spolupráci s prg.ai a B4I (brain4industry) jako součást pátého ročníku festivalu Dny AI 2026. Akci spolufinancovala EU, partnerem bylo Ministerstvo průmyslu a obchodu. Odborný program otevřeli Jaroslav Menčík, partner, a Bohdan Zubač, advokát.

Role, povinnosti a termíny

V úvodní prezentaci jsme se zaměřili na to, co dnes musí společnosti řešit.

Jaroslav Menčík přednáší na workshopu AI Act v praxi
Jaroslav Menčík, partner
  • Riziko a role společnosti. AI Act rozlišuje zakázané postupy, vysoce rizikové systémy, systémy s povinnostmi transparentnosti a obecné modely AI. Povinnosti se liší podle toho, zda společnost vystupuje jako poskytovatel, zavádějící subjekt, dovozce nebo distributor. Nařízení dopadá i na subjekty mimo EU, pokud se výstup jejich systému používá v EU.
  • Vysoce rizikové systémy. Patří sem například AI pro nábor a výběr zaměstnanců, hodnocení úvěruschopnosti nebo AI jako bezpečnostní komponenta regulovaných produktů, například zdravotnických prostředků. Poskytovatelé řeší řízení rizik, dokumentaci a posouzení shody. Zavádějící subjekty musí systém používat podle návodu, zajistit lidský dohled a kvalitu vstupních dat, sledovat provoz a uchovávat protokoly. Banky a pojišťovny musí před zavedením posoudit dopad na základní práva.
  • Transparentnost. Chatbot musí uživatele informovat, že komunikuje s AI, pokud to není zjevné. Poskytovatelé musí syntetický obsah strojově čitelně označit, zavádějící subjekty musí u deepfakes zveřejnit, že jde o uměle vytvořený obsah. Označovat se ale nemusí každý text vytvořený AI: povinnost se týká textů o věcech veřejného zájmu, které neprošly lidskou redakční kontrolou. Informace musí být jasná a musí zaznít nejpozději při první interakci. Nesmí být schovaná v podmínkách.
  • Termíny. Zákazy a povinnost AI gramotnosti platí od 2. února 2025, pravidla pro obecné modely AI od 2. srpna 2025. Nejbližší termín je 2. prosince 2026. Tzv. AI Digital Omnibus k tomuto dni doplňuje dva nové zákazy (nekonsenzuální sexuální deepfakes identifikovatelné osoby a materiál představující zneužívání dětí). Současně končí přechodné období pro strojové značení výstupů generativní AI uvedené na trh před 2. srpnem 2026. Povinnosti pro vysoce rizikové systémy následují 2. prosince 2027 (příloha III) a 2. srpna 2028 (příloha I).
  • GDPR a další předpisy. AI Act GDPR nenahrazuje. Pokud systém AI pracuje s osobními údaji, platí oba režimy současně. Místo odděleného „AI auditu“ a „GDPR auditu“ proto doporučujeme jeden proces řízení datových a technologických rizik. Často přitom rozhoduje oblast použití, ne samotná technologie.
  • Česká implementace. Ministerstvo průmyslu a obchodu připravuje zákon o umělé inteligenci a novelu zákona o dozoru nad trhem s výrobky. Ani jeden předpis zatím nebyl vyhlášen. Podle návrhu má dozor nad trhem vykonávat Český telekomunikační úřad, regulační sandbox ÚNMZ a Česká agentura pro standardizaci.

Zkušenosti z praxe

Na právní část navázali hosté. Ondřej Kramoliš, Senior Legal Counsel v Gen Digital, se věnoval řízení AI v globální technologické společnosti a souvisejícím právním a provozním otázkám. Monika Nguyen, Account & Project Manager v Cocoon, se zaměřila na zkušenosti designové a brandingové agentury s generativní AI, včetně práce s referencemi a transparentnosti obsahu vytvořeného AI. Tématem Petra Voplakala ze Středočeského inovačního centra byla podpora implementace AI z evropských programů EDIH a příklady projektů typu PoC a PoT.

Ondřej Kramoliš z Gen Digital přednáší na workshopu AI Act v praxi
Ondřej Kramoliš, Gen Digital

Na závěr jsme dali prostor otázkám a diskusi, poté následoval networking.

Šest kroků pro společnosti

Prezentaci jsme uzavřeli praktickým postupem, kterým může začít každá společnost:

  1. Inventura AI nástrojů. Zahrnout i nástroje, které jednotlivé týmy používají neformálně.
  2. Klasifikace rizika. Každý způsob použití posoudit zvlášť: jde o zakázanou praktiku, vysoce rizikový systém, nebo se uplatní povinnosti transparentnosti?
  3. Určení role. Poskytovatel, zavádějící subjekt, dovozce, distributor, nebo výrobce produktu s integrovanou AI.
  4. Kontrola smluv s dodavateli AI. Dokumentace, bezpečnost, data, auditní práva, incidenty a odpovědnost.
  5. Interní pravidla a školení. AI policy, schvalování nástrojů, zakázané vstupy, kontrola výstupů a označování obsahu.
  6. Dokumentace a průběžný monitoring. Compliance nasazením systému nekončí. Modely i právní rámec se dál vyvíjejí.
Petr Voplakal, Jaroslav Menčík a Bohdan Zubač na pódiu v Kampusu Hybernská
Petr Voplakal (Středočeské inovační centrum), Jaroslav Menčík a Bohdan Zubač

Jak začít

Chcete-li zjistit, kde ve společnosti AI používáte a co z toho plyne, začněte AI auditem. Dalšími kroky jsou příprava AI policy a smluv s dodavateli AI. Základní orientaci nabízí bezplatná příručka AI Act v praxi. S dotazy se můžete obrátit na Jaroslava Menčíka nebo Bohdana Zubače. Další setkání najdete v přehledu akcí.

Bannery Ambit se siluetou řečníka
AI ActUmělá inteligenceAkce
Autor
Jaroslav Menčík

Jaroslav Menčík

Jaroslav Menčík je partnerem a vedoucím týmu IT & Technologie Ambit, kde stojí v čele právní praxe v oblasti informačních technologií, softwaru a inovačně orientovaných odvětví. S více než 15 lety zkušeností hraje klíčovou roli při budování Ambit jako přední technologicky zaměřené advokátní kanceláře v CEE regionu.

Vzdělání
  • Univerzita Karlova v Praze, Právnická fakulta
    JUDr. · 2024
  • Univerzita Karlova v Praze, Právnická fakulta
    Ph.D. · 2023
  • New York University School of Law
    LL.M. (Hauser Global Scholar) · 2017
  • Česká zemědělská univerzita v Praze
    Ing. · 2015
  • Česká advokátní komora
    Advokát (s vyznamenáním) · 2013
  • Masarykova univerzita, Právnická fakulta
    Mgr. · 2009
  • Aberystwyth University, UK
    Mezinárodní program práva · 2008
Zeptejte se přímo

Máte otázku k tomuto článku?

Náš tým vám odpoví do dvou pracovních dnů.