Podcast na Právní regulace umělé inteligence v EU

Kapitoly

Mýtus o robotech

Kdo nese odpovědnost?

Přichází AI Act

Systémy podle rizika

Klíčové shrnutí

Přepis

Adéla: Většina lidí si myslí, že právní regulace umělé inteligence je hlavně o tom, jak zabránit robotům, aby převzali vládu nad světem...

Lukáš: Jo, jako v nějakém sci-fi filmu. Ale ve skutečnosti ty největší právní bitvy o AI se dnes vedou o mnohem... obyčejnějších věcech.

Adéla: Obyčejnějších? Jako co třeba?

Lukáš: Třeba o tom, kdo je zodpovědný, když AI diskriminuje uchazeče o práci, nebo kdo zaplatí škodu, když autonomní auto nabourá. To už tak filmově nezní, co?

Adéla: To teda ne, ale zní to jako něco, co se mě reálně týká. Posloucháte Studyfi Podcast a dnes se ponoříme právě do právní regulace umělé inteligence.

Adéla: Takže, Lukáši, když umělá inteligence něco provede, kdo za to může? Můžeme zažalovat ten program?

Lukáš: Skvělá otázka! A odpověď je jednoduchá: nemůžeme. Umělá inteligence totiž nemá právní osobnost. Není to člověk ani firma.

Adéla: Aha! Takže nemůže mít práva ani povinnosti. Kdo tedy nese tu odpovědnost?

Lukáš: Přesně tak. Odpovědnost se přičítá tomu, kdo systém provozuje, vlastní, nebo ho nějakým způsobem používá. Prostě člověk nebo firma za ním.

Adéla: Dobře, to dává smysl. A existuje nějaký hlavní zákon, který tohle všechno řeší? Slyšela jsem o nějakém AI Actu.

Lukáš: Ano, to je přesně ono. AI Act je nařízení Evropské unie a je to v podstatě první komplexní regulace AI na světě. Cílem je zajistit, aby AI byla bezpečná a etická, ale zároveň nebrzdit inovace.

Adéla: Takže to není jen seznam zákazů?

Lukáš: Vůbec ne. Celé je to postavené na přístupu podle rizika. Čím větší riziko daný AI systém představuje, tím přísnější pravidla pro něj platí.

Adéla: To zní rozumně. Můžeš uvést příklad toho nejvyššího rizika? Co je úplně zakázané?

Lukáš: Jasně. Mezi zakázané praktiky patří třeba systémy na sociální skórování občanů, jaké známe z některých zemí. Nebo AI, která by manipulovala vaším chováním.

Adéla: To zní trochu jako epizoda Black Mirror.

Lukáš: Přesně tak. Pak jsou tu vysoce rizikové systémy – třeba v lékařství, dopravě nebo v bankovnictví. Ty musí splňovat přísné požadavky na transparentnost, bezpečnost a hlavně... musí tam být lidský dohled.

Adéla: Takže robot-chirurg je v pohodě, dokud mu přes rameno kouká lidský doktor?

Lukáš: Zjednodušeně řečeno, ano. Ten lidský prvek je klíčový. A pak už jsou jen systémy s nízkým nebo minimálním rizikem, jako třeba spamové filtry, kde je regulace minimální.

Adéla: Super, to bylo skvěle vysvětlené. Jaký je tedy ten nejdůležitější poznatek, který bychom si měli odnést?

Lukáš: Zapamatujte si hlavně tři věci. Zaprvé, AI sama o sobě nenese právní odpovědnost. Zadruhé, za AI vždycky zodpovídá konkrétní člověk nebo firma. A zatřetí, evropský AI Act dělí systémy podle míry rizika.

Adéla: Děkuji, Lukáši. Bylo to fascinující. A vám děkujeme za poslech a těšíme se příště!