Abstract geometric representation of European Union flag col

Akt o umělé inteligenci (EU AI Act)

První komplexní právní rámec na světě definující pravidla pro vývoj a nasazení systémů AI na jednotném trhu Evropské unie.

Technický přehled Klasifikace rizik
2024

Vstup nařízení v platnost

35M €

Maximální výše sankcí

4

Úrovně rizikových kategorií

Shrnutí právního rámce

Akt o AI zavádí jednotná pravidla pro uvádění systémů umělé inteligence na trh. Cílem je zajistit, aby systémy AI používané v EU byly bezpečné, transparentní a v souladu se základními právy občanů. Nařízení se vztahuje na poskytovatele i uživatele systémů bez ohledu na jejich geografické sídlo, pokud je systém provozován v rámci Unie.

Tento rámec přímo ovlivňuje integritu dat a trénovací sady, protože vyžaduje vysokou kvalitu dat pro vysoce rizikové systémy. Regulace také definuje specifické požadavky na dokumentaci a lidský dohled.

  • Povinnost registrace vysoce rizikových systémů v EU databázi.
  • menu-toggle Zákaz systémů pro sociální kreditové hodnocení a prediktivní policii.

Klasifikace úrovní rizika

Nepřijatelné riziko

Systémy manipulující s chováním nebo využívající zranitelnosti. Jsou v EU striktně zakázány bez výjimek.

Více o systémech

Vysoké riziko

Kritická infrastruktura, vzdělávání, nábor zaměstnanců. Vyžadují přísné posouzení shody a audit.

Standardy shody

Omezené riziko

Chatboti a generátory obsahu. Musí jasně informovat uživatele, že interagují se strojem.

Detekce zkreslení

Minimální riziko

SPAM filtry, AI ve hrách. Nepodléhají téměř žádným dodatečným regulačním povinnostem.

Technické limity

Mechanismy vynucování

Dohled nad dodržováním pravidel zajišťují národní dozorové úřady ve spolupráci s Evropským úřadem pro AI. Porušení pravidel může vést k pokutám až do výše 7 % celosvětového ročního obratu. Společnosti musí implementovat robustní systémy řízení rizik a technickou dokumentaci.

Technická dokumentace (Compliance)

Každý model musí mít podrobný popis architektury, trénovacích dat a metodik testování. To úzce souvisí s problematikou zarovnání cílů (Alignment), kde je nutné prokázat kontrolu nad výstupy systému.

Připravte svou AI na regulaci

Zajistěte technickou shodu svých systémů s Aktem o AI dříve, než vstoupí v platnost sankční mechanismy.

Analýza dopadů