Shrnutí na Právní regulace umělé inteligence v EU

## Úvod Právní regulace umělé inteligence (AI) řeší, jakým způsobem lze vyvíjet, nasazovat a využívat systémy AI tak, aby byla chráněna práva jednotlivců, zajištěna bezpečnost a podpořena odpovědnost. Regulace čerpá z existujících oblastí práva (odpovědnost, ochrana osobních údajů, kybernetická bezpečnost) a v posledních letech ji doplňuje samostatná unijní legislativa — AI Act. ## Základní dělení a principy ### Co je právní rámec pro AI > Právní rámec pro AI zahrnuje soubor pravidel a povinností vycházejících z občanského práva, práva na ochranu osobních údajů a bezpečnostních předpisů, které se vztahují na vývoj a provoz systémů AI. Hlavní principy: - **transparentnost** - **ochrana základních práv** - **lidský dohled** - **bezpečnost a spolehlivost** - **nediskriminace** - **odpovědnost provozovatele** - **kybernetická bezpečnost** - **technologická neutralita** ### Právní přístupy k odpovědnosti > Odpovědnost za škodu související se systémem AI nese právnická nebo fyzická osoba, nikoli samotný systém AI. V právu ICT se uplatňují: - subjektivní odpovědnost založená na zavinění - objektivní odpovědnost bez ohledu na zavinění - prevenční povinnost (povinnost zabránit škodě) - odpovědnost provozovatele systému Praktický příklad: pokud autonomní systém způsobí škodu v dopravě, odpovědnost může nést výrobce, provozovatel nebo uživatel v závislosti na konkrétních okolnostech (např. údržba, nastavení systému, dohled). ## AI Act — rozšířená regulace EU > AI Act je Nařízení EU o umělé inteligenci, první komplexní světová regulace zavedená podle rizikového přístupu. AI Act zavádí čtyřstupňové rozdělení podle rizika: | Kategorie | Příklady systémů | Právní režim / povinnosti | |---|---:|---| | Zakázané (nepřijatelné riziko) | sociální scoring občanů, manipulativní techniky, zneužití zranitelných osob, některé formy biometrické identifikace v reálném čase, emotion recognition ve školství a zaměstnání, prediktivní policing založený pouze na profilování | zákaz používání | | Vysoce rizikové | systémy ve zdravotnictví, dopravě, kritické infrastruktuře, zaměstnávání, vzdělávání, justici, bankovnictví | povinnosti: řízení rizik, kvalitní data, technická dokumentace, lidský dohled, kybernetická bezpečnost, transparentnost | | Omezené riziko | chatboty, generativní AI | informační povinnost: uživatel musí být informován, že komunikuje s AI | | Minimální riziko | spam filtry, doporučovací algoritmy | minimální regulace | ### Povinnosti provozovatelů vysoce rizikových systémů - zavést systém řízení rizik - používat kvalitní a reprezentativní datové sady - vést technickou dokumentaci a záznamy - zajistit lidský dohled a možnost zásahu - zabezpečit systém proti kybernetickým útokům - zajistit transparentnost algoritmů tam, kde je to možné Praktický příklad: výrobce lékařského diagnostického AI nástroje musí prokázat kvalitu trénovacích dat, provést testování a dokumentovat výsledky, aby mohl nástroj legálně uvést na trh. ## Ochrana osobních údajů a GDPR > GDPR se vztahuje na zpracování osobních údajů v AI systémech a uplatňuje zásady zákonnosti, transparentnosti, minimalizace údajů, omezení účelu a zabezpečení dat. Klíčová rizika: - zpracování citlivých údajů (biometrické údaje) - profilování a automatizované rozhodování - narušení soukromí a diskriminace Praktický příklad: použití biometrického rozpoznávání obličeje pro přístup do budovy vyžaduje posouzení dopadu na ochranu osobních údajů (DPIA) a právní důvod pro takové zpracování. Věděli jste, že použití osobních údajů k tréninku modelu bez vhodných právních základů nebo bez anonymizace může být porušením GDPR a mít za následek vysoké pokuty? ## Specifické právní problémy související s AI - automatizované rozhodování a jeho transparentnost - riziko diskriminace algoritmy (např. v náboru zaměstnanců) - autonomie systémů a otázka přičitatelnosti právních následků - kybernetická bezpečnost AI systémů a ochrana před útoky - právní režim generativních modelů (zdroje dat, autorská prá