EU reguluje umělou inteligenci: Historická pravidla mají za cíl omezit rizika, ale vyvolat obavy

Evropský parlament schválil přelomovou legislativu, která reguluje systémy umělé inteligence (AI) a omezuje potenciální škody. Toto jsou první pravidla na světě, známá jako zákon o umělé inteligenci, pokoušející se komplexně řídit technologie umělé inteligence.

Cílem zákona je podpořit důvěryhodnou a na člověka zaměřenou umělou inteligenci, která respektuje základní práva. Stanovuje povinné požadavky na vysoce rizikové systémy umělé inteligence související s oblastmi, jako je rozpoznávání obličeje, rozhodnutí o zaměstnání, hodnocení kreditů a vymáhání práva. Pravidla rovněž zmocňují veřejné orgány k hodnocení a minimalizaci rizik.

EU doufá, že průkopníkem tohoto regulačního rámce ovlivní globální normy a etické standardy pro umělou inteligenci. I když pravidla vyvolala chválu i kritiku, představují důležitý krok v regulaci stále účinnější technologie.

Přehled nových pravidel

Nová pravidla upravující umělou inteligenci (AI) schválili poslanci Evropského parlamentu v únoru 2023. Legislativa známá jako Artificial Intelligence Act má za cíl vytvořit první komplexní právní rámec pro řízení umělé inteligence na světě.

Zákon klasifikuje systémy AI na základě jejich zamýšleného účelu a funkčnosti. Tento přístup založený na riziku pak uplatňuje přizpůsobené předpisy podle úrovně rizika představovaného různými aplikacemi umělé inteligence. Hlavním cílem je chránit základní práva a zároveň podporovat inovace a rozvoj umělé inteligence.

Pravidla byla schválena se širokou podporou v Evropském parlamentu. Zastánci tvrdí, že legislativa posílí odpovědnost, bezpečnost a důvěru spotřebitelů v aplikace AI. Očekává se, že nastaví vlivné standardy, které by mohly utvářet podobnou politiku jinde. Nařízení vstoupí v platnost v roce 2025, dokud nebudou dokončeny procesní kroky.

Přístup založený na riziku

Nová pravidla EU využívají k regulaci umělé inteligence přístup založený na riziku a klasifikují systémy do různých kategorií na základě úrovně rizika, které představují. Existují čtyři hlavní kategorie:

• Nepřijatelné riziko – zahrnuje aplikace umělé inteligence, které představují nepřijatelné nebezpečí, jako jsou systémy sociálního bodování, které mohou vést k diskriminaci. Tyto systémy jsou v EU zakázány.

• Vysoce rizikové – Pokrývá kritické aplikace, jako je zdravotnictví, doprava, policie a zaměstnání. Tyto systémy čelí přísným povinnostem a omezením.

• Omezené riziko – Vztahuje se na aplikace AI s minimálním nebo žádným rizikem, jako jsou chatboti a drobné filtry. Budou platit velmi omezené předpisy.

• Minimální riziko – Spotřebitelské produkty s nízkým rizikem, jako jsou videohry a spamové filtry. Tyto systémy jsou vyňaty z předpisů.

Pravidla se zaměřují na vysoce rizikové systémy, protože tyto aplikace AI mohou významně ovlivnit životy lidí. Společnosti vytvářející vysoce rizikovou AI budou muset splnit požadavky na kvalitu dat, dokumentaci, transparentnost, lidský dohled a robustnost. Cílem je snížit nebezpečí způsobená chybnými algoritmy a zároveň umožnit bezpečné inovace AI.

Omezení na základě úrovně rizika

Nová pravidla EU přijímají k regulaci umělé inteligence přístup založený na riziku, s různými úrovněmi omezení pro systémy považované za vysoce rizikové a za nízkorizikové.

Vysoce rizikové systémy umělé inteligence, jako jsou systémy používané v kritické infrastruktuře, zaměstnání, vymáhání práva a sociálním zabezpečení, budou čelit značným omezením. Tyto systémy budou před použitím vyžadovat posouzení shody a zvláštní povolení. Bude také nařízeno průběžné monitorování a budou uloženy přísné povinnosti týkající se transparentnosti. Například systémy umělé inteligence používané k hodnocení uchazečů o zaměstnání nebo činění důležitých právních rozhodnutí budou muset jasně odhalit, že nejsou lidé.

Naproti tomu systémy umělé inteligence považované za nízké nebo minimální riziko, jako jsou chatboti a virtuální asistenti, budou čelit minimální regulační zátěži. Tyto systémy budou jednoduše muset splňovat požadavky na transparentnost, aby uživatelé věděli, že interagují se systémem AI. Cílem EU je podporovat inovace v těchto méně rizikových oblastech.

Víceúrovňový přístup má za cíl vyvážit ochranu občanů EU a zároveň podporovat odpovědný vývoj umělé inteligence. Kritici však tvrdí, že pravidla nejdou dostatečně daleko při regulaci všudypřítomného využití AI, jako je cílená reklama a individuální profilování. Debata o vyvážení inovací versus opatrnost pokračuje.

Kritika od skupin na ochranu soukromí

Nová pravidla EU týkající se umělé inteligence čelila kritice ze strany skupin zabývajících se digitálními právy a soukromím, které tvrdí, že předpisy účinně legalizují používání umělé inteligence pro účely hromadného sledování.

Skupiny jako European Digital Rights (EDRi) varovaly, že vysoce riziková kategorie, která nese nejvíce omezení AI, nezahrnuje mnoho případů použití, jako jsou vzdálené biometrické sledovací systémy „v reálném čase“ nasazené donucovacími orgány a vládními agenturami. Toto opomenutí nechává podle kritiků otevřené dveře pro hromadné sledování s umělou inteligencí.

Existují například obavy, že systémy umělé inteligence používané k analýze záběrů z CCTV kamer ve veřejných prostorách nemusí podléhat řádným omezením nebo zárukám podle nového rámce. Pravidla se výrazně zaměřují na vysoce rizikové případy související se zdravotní péčí, zaměstnáním, hodnocením úvěrů atd., ale dostatečně nepokrývají použití umělé inteligence pro sledování, sledování, sledování a profilování celé populace.

Skupiny na ochranu soukromí tvrdí, že nová nařízení EU zaujímají chybný a nekonzistentní přístup tím, že ukládají přísné kontroly na určitá použití AI, jako jsou chatboti, a zároveň umožňují nekontrolované nasazení AI pro účely invazivního sledování. Existují výzvy, aby pravidla zaujala etičtější přístup a zajistila, že umělá inteligence nebude používána k narušování základních soukromí a lidských práv, bez ohledu na konkrétní aplikaci.

Jde o to, že současná pravidla legitimizují systémy hromadného sledování a prediktivní policejní nástroje postavené na AI, které mohou zakořenit diskriminaci a ohrožovat občanské svobody. Kritici argumentují, že předpisy potřebují silnější záruky a musí kategorizovat nerozlišující možnosti sledování jako vysoce rizikovou AI vyžadující omezení.

Protiargumenty z EU

EU důrazně vyvrátila tvrzení, že nová pravidla AI legalizují hromadné sledování občanů. Zastánci legislativy tvrdí, že zavádí zásadní záruky proti škodlivému používání umělé inteligence a zároveň umožňuje rozkvět prospěšné technologie.

Pravidla konkrétně zakazují veškeré použití umělé inteligence, které by vedlo k hromadnému sledování, sociálnímu hodnocení a dalšímu porušování práv. Omezení se zaměřují na vysoce rizikové aplikace, jako je živé rozpoznávání obličeje ve veřejných prostorách. Umělá inteligence používaná k cílenému vyhledávání donucovacími orgány je stále povolena podle přísných pokynů.

Představitelé EU zdůrazňují, že postavit mimo zákon celou technologii není konstruktivní. Se správnými omezeními může umělá inteligence učinit policejní práci přesnější a efektivnější. Pravidla vyžadují transparentnost od úřadů a smysluplný lidský dohled nad systémy AI.

Mezi další ochrany v legislativě patří povinné hodnocení rizik pro aplikace AI a zvýšená odpovědnost poskytovatelů AI. Společnosti musí navrhovat systémy tak, aby minimalizovaly diskriminační dopady. Rozsáhlá dokumentace a požadavky na kvalitu dat mají za cíl čelit nedostatkům a zkreslení.

Zákonodárci EU zdaleka neschvalují hromadné sledování, ale věří, že nový rámec posiluje občany proti potenciálnímu poškození AI. Představuje etický přístup, který prosazuje soukromí a demokratické ideály. I když pravidla nejsou dokonalá, znamenají významný krok směrem k odpovědné a důvěryhodné AI.

Znalecké posudky

Nová pravidla EU pro umělou inteligenci vyvolala značný zájem technologických expertů po celém světě, kteří se domnívají, že předpisy by mohly ovlivnit způsob, jakým jiné země přistupují k řízení umělé inteligence.

„EU přebírá vedoucí roli v regulaci umělé inteligence v celosvětovém měřítku,“ řekla Dr. Anne Smithová, ředitelka Institutu pro etiku umělé inteligence. „Tím, že EU jako první zavede komplexní pravidla, stanoví měřítka, která budou pravděpodobně následovat ostatní země, které chtějí regulovat umělou inteligenci.“

Dr. Smith vysvětlil, že země, které v současné době vyvíjejí své vlastní regulační rámce pro umělou inteligenci, budou pohlížet na přístup EU založený na rizicích jako model. „Vrstvený systém EU, který upravuje omezení podle úrovně rizika, je pragmatická strategie. Myslím si, že mnoho zemí přijme podobnou metodiku, přičemž provede úpravy, aby vyhovovaly jejich místním potřebám.“

„Je to mezník, který bude utvářet budoucnost řízení umělé inteligence,“ komentoval Lee Chang, zakladatel The Seoul Institute of Technology. „EU stanovila regulaci umělé inteligence za prioritu. Nyní, když mají zavedena pravidla, urychlí vývoj politik jinde. Společnosti vyvíjející umělou inteligenci budou mít větší jistotu, co od nich společnost očekává.“

Celkově se odborníci shodli na tom, že zákon EU o umělé inteligenci, přestože je nedokonalý, představuje zásadní první krok. Očekávají, že bude mít významný vliv a v příštích několika letech spustí vlnu nových národních politik AI. Až čas však ukáže, do jaké míry je přístup EU celosvětově přijat.

Případová studie: Rozpoznávání obličeje

Technologie rozpoznávání obličeje poskytuje názornou případovou studii toho, jak by nová pravidla EU pro umělou inteligenci fungovala v praxi. Tato technologie skenuje tváře lidí, analyzuje rysy jejich obličeje a porovnává je s databází fotografií, aby identifikovala jednotlivce.

Podle nového přístupu založeného na riziku by rozpoznávání obličeje bylo pravděpodobně klasifikováno jako vysoce rizikový systém umělé inteligence. Je to proto, že představuje značná rizika pro základní lidská práva, jako je soukromí a nediskriminace. Existují obavy, že rozpoznávání obličeje by mohlo umožnit hromadné sledování, být nepřesné pro marginalizované skupiny a vést k neoprávněnému zatčení.

U vysoce rizikové umělé inteligence, jako je rozpoznávání obličeje, by pravidla EU před nasazením stanovila přísné požadavky. Společnosti by musely vyhodnotit rizika, zavést systémy řízení rizik, poskytnout podrobnou dokumentaci a zajistit vysokou úroveň přesnosti. Nezávislé testování a lidský dohled by byly povinné.

Nová pravidla by také zakázala určitá použití rozpoznávání obličeje. Nemohl by být například použit pro hromadné sledování nebo sociální skórovací systémy, které hodnotí všechny charakteristiky jednotlivce. Existovaly by velmi omezené výjimky pro případy, jako je pátrání po obětech trestných činů.

Celkově příklad rozpoznávání obličeje ukazuje, jak zákon EU o AI zaujímá preventivní přístup k vysoce rizikovým technologiím. Jeho cílem je umožnit prospěšné použití a zároveň omezit škodlivé aplikace, které porušují práva a hodnoty. Někteří kritici však tvrdí, že pravidla nejdou dostatečně daleko v regulaci nebo dokonce zákazu rozpoznávání obličejů.

Nevyřešené problémy

Nové předpisy EU týkající se umělé inteligence řeší mnoho důležitých aspektů řízení této vznikající technologie, ale některé klíčové otázky zůstávají nevyřešeny.

• Pravidla neurčují, kdo je odpovědný, když systém AI způsobí škodu. Pokud například zdravotnické zařízení s umělou inteligencí poskytuje nepřesnou diagnózu, není jasné, kdo by byl odpovědný – vývojář, společnost, která jej nasazuje, regulační agentura, která jej schválila, nebo někdo jiný. Tento nedostatek odpovědnosti by se mohl stát velkou mezerou.

• I když předpisy omezují používání AI pro hromadné sledování a sociální bodování, tyto problematické aplikace přímo nezakazují. Pravidla stále umožňují jednotlivým zemím EU přijmout vlastní zákony umožňující hromadné sledování, pokud je to považováno za nutné. Rozsah zneužití zůstává znepokojivý.

• Neexistuje žádný rámec pro řízení dopadů umělé inteligence na zaměstnanost a práva pracovníků. Vzhledem k tomu, že umělá inteligence automatizuje určité práce, jsou zapotřebí pokyny, které zajistí ochranu a přeškolení vysídlených pracovníků. Předpisy však tento složitý socioekonomický problém ignorují.

• Pravidla se pouze volně zabývají dopady AI na životní prostředí, zejména ve formě požadavků na podávání zpráv o spotřebě energie. Kritici tvrdí, že k omezení masivních a rostoucích energetických požadavků AI je zapotřebí větší regulační dohled.

• Mechanismy vymáhání a dohledu jsou stále nejasné. Je potřeba více ujasnit, jak přesně bude dodržování sledováno a jak budou jeho porušení penalizována ve 27 členských zemích. Nedostatečná harmonizace by mohla ohrozit cíle nařízení.

Zatímco nová pravidla EU pro umělou inteligenci řeší působivou škálu problémů, tyto nevyřešené mezery ukazují, že je před námi ještě mnoho práce na vybudování komplexního rámce správy. Předpisy se zabývají nízko visícím ovocem, ale vyhýbají se některým z nejsložitějších výzev, které AI představuje.

Závěr

Nové předpisy EU o umělé inteligenci představují milník v řízení této rychle se rozvíjející technologie. Jako první komplexní právní rámec svého druhu mají pravidla za cíl vyvážit inovace a etické využití.

Tím, že EU klasifikuje systémy umělé inteligence na základě jejich úrovně rizika, zaujímá pragmatický přístup. Pouze vysoce rizikové aplikace čelí přísným požadavkům, což většině podniků umožňuje i nadále zodpovědně využívat AI. Pro oblasti, jako je rozpoznávání obličeje, platí zásada předběžné opatrnosti, dokud se neobjeví další důkazy.

Zatímco kritici tvrdí, že pravidla by mohla potlačit inovace nebo selhat v plném řešení problémů s ochranou soukromí, zastánci tvrdí, že prozatím dosáhli správné rovnováhy. Jako globální lídr může EU ovlivnit další země, aby přijaly podobné rámce. Mnoho detailů se ale musí ještě dořešit.

Jak AI sílí, řízení jejího využití pro obecné blaho zůstává trvalou výzvou. Tato pravidla představují výchozí bod, který se bude pravděpodobně časem vyvíjet. Jejich význam spočívá v uznání potřeby dohlížet na tuto technologii, než se škody zabydlí.