Kdo ponese odpovědnost za jednání robotů?

Umělá inteligence pomalu vstupuje do lidského života. České právo ale není na nástup robotů připravené. Právníci se shodují jen v základních otázkách. Výrobci robotů patrně přenesou svou odpovědnost za umělou inteligenci na zákazníky.

Kdo odpovídá za roboty? | na serveru Lidovky.cz | aktuální zprávy Kdo odpovídá za roboty? | foto: Richard Cortés, Lidové noviny
Kdo odpovídá za roboty?

Nehody chytrých automobilů oživily důležité, i když stále futuristické téma. Kdo bude jednou odpovídat za roboty a jejich chování? Jejich majitelé, výrobci, roboti sami, či snad dokonce vůbec nikdo? Ve světě, kde zatím řešíme jen problémy s fungováním stále chytřejších spotřebičů, jsou odpovědnostní otázky jasně zodpovězené. A z jejich základu se patrně bude vycházet i při pozvolném nástupu umělé inteligence, objevující se zatím pžedevším v automobilovém průmyslu.

„Obecně platí, že za škodu způsobenou věcí je odpovědný ten, kdo má mít nad věcí dohled, tedy její uživatel, a pokud ho nelze určit, pak vlastník věci,“ popisuje pravidla platná pro současný svět a třeba i elektronické spotřebiče Jana Pattynová z advokátní kanceláře Pierstone.

Dodává však, že pravidlo má několik výjimek: „Pokud je škoda způsobena vadou výrobku, pak za takovou škodu odpovídá výrobce, případně dovozce vadného výrobku. Ve zdravotnictví a některých podobných službách je za škodu způsobenou přístrojem odpovědný poskytovatel zdravotnické služby, který přístroj použije.“

Nevhodný princip

Právě tyto výjimky patrně určí směr i při řešení škody, kterou v budoucnu způsobí robot rozhodující se podle vlastního uvážení. Dle Jany Pattynové totižuž nebude princip odpovědnosti uživatele po nástupu věcí vybavených umělou inteligencí s určitou autonomií jednání vhodný a spravedlivý: „Očekává se, že odpovědnost uživatele či vlastníka bude v éře autonomně jednajících předmětů nahrazena odpovědností výrobce, postavené na obdobných principech jako současná odpovědnost za vady výrobku.“

Princip odpovědnosti uživatele už nebude po nástupu věcí vybavených umělou inteligencí s určitou autonomií jednání vhodný a spravedlivý

A z reakcí výrobců samořízených automobilů, které měly nehodu, se podle ní zdá, že jsou ochotní tuto odpovědnost v principu nést. Potenciální problémy však přenesou alespoň částečně na zákazníky – roboti totiž budou stát tolik, aby se konstruktérům i s tímto rizikem pořád vyplatili. Firmy tak podle všeho v cenách zohlední také pojištění, které si budou pro tyto případy platit.

Objevují se ale i jiné názory. Například podle docenta Radima Polčáka z brněnské právnické fakulty by mohla absolutní odpovědnost dopadnout, minimálně za určitých podmínek, na registrované majitele autonomních vozidel: „Neznamená to však samozřejmě, že by majitelé v konečném důsledku nesli příslušné škody. Pouze by se musely vytvořit adekvátní pojistné produkty s tím, že pojistitelé by se pak samozřejmě důkladně zajímali o to, jak jsou příslušné technologie bezpečné.“

Výjimečné situace

Že by ale odpovědnost nenesl nikdo, jak se obávají někteří futurologové, si nemyslí ani advokát Jiří Matzner: „Vždy bude dána odpovědnost určité společnosti – tedy výrobce – či individuální osoby. Příkladem může být software na úpravu emisí v takzvané Dieselgate (loni vyšlo najevo, že automobilka Volkswagen instalovala do aut software, který snižoval obsah oxidů dusíku během laboratorních testů výfukových plynů, aby její vozy splnily zákonný limit – pozn. red.). Zde je také odpovědnost výrobce, nakonec i osobní.“

Nastavení základních pravidel odpovědnosti nemusí být jednoduché, opravdové problémy ale nastanou až s řešením výjimečných situací

Podle Denisy Assefové z advokátní kanceláře Schönherr vzniknou tato právní ustanovení živelně: „Až se ukáže, jaké konkrétní problémy činnost robotů v různých oblastech způsobuje, jaká rizika z jejich užívání vyplývají a jak je nejlépe řešit.“

Už nastavení základních pravidel odpovědnosti proto nemusí být jednoduché, opravdové problémy ale nastanou až s řešením výjimečných situací. Jak se například zachovat v případě kybernetického útoku, který dopadne právě na chytré automobily a třeba i na další roboty? „Řešení by mohlo spočívat v definování určitých bezpečnostních standardů, které by výrobci museli splnit, a při jejichž splnění by za škodu způsobenou kybernetickými útoky nebyli odpovědní,“ říká Jana Pattynová.

Kdo by ale odpovídal následně? „Nejjednodušší odpovědí je, že by šlo o vyšší moc, za kterou nikdo odpovědnost nenese – podobně jako třeba v případě povodní nebo blesku. To však není odpověď, která poškozené v takové situaci uspokojí,“ myslí si Pattynová. Tento přístup by totiž podle ní mohl vést k jen formálnímu naplňování bezpečnostních standardů, bez skutečných investic cílených na jejich předcházení.

Etické otázky

Řešit podle ní bude nutné také nakládání s odpady, tedy jak se zbavit starých robotů. „Problematické to může být například u dronů nebo jiných robotů. Nelze připustit, aby je jejich majitelé volně opouštěli a ponechali bez kontroly,“ říká Pattynová. A dodává: „V takovém případě by nebylo ani spravedlivé dovozovat odpovědnost výrobce za jednání nekontrolovaného dronu či robota. Bude tedy nutné vytvořit právní rámec podobný například dnešnímu právnímu rámci pro nakládání s toxickými odpady či případně pro nakládání s živými zvířaty.“

Právo bude muset pamatovat i na mnohé etické otázky. Právníci je ale zatím řeší jen na čistě teoretické úrovni a minimálně v českém právu není po odpovědích na ně ani stopy.

Zároveň bude muset právo podle ní pamatovat i na mnohé etické otázky, například jak se má automobil zachovat v případě neodvratitelné nehody. Právníci ale tyto otázky řeší zatím jen na čistě teoretické úrovni a minimálně v českém právu není po odpovědích na ně ani stopy. „Naše zákonné právo se stále myšlenkově pohybuje někde mezi začátkem a koncem průmyslové revoluce. Máme typické instituty pro právní poměry ke stromům, pastvinám či žírnému dobytku, ale třeba k robotům jsme se ještě nepropracovali,“ potvrzuje Radim Polčák.

Problém podle něho spočívá i v tom, že v právu máme sklon řešit vše nové analogií. „Na druhé straně ale musím přiznat, že jsem vlastně rád, že se český právotvůrce zatím autonomně fungujícím systémům vyhýbá – na základě zkušeností s tím, jak naše zákonné právo vypadá, mám důvod k obavě, že pokud by se do toho pustil, dopadlo by to nevalně,“ dodává.

Inspirace jinými státy

Zákony zaostávají za technologickým vývojem obecně i podle Denisy Assefové. „Aktuálně český právní řád na tyto fenomény nepomýšlí. Nemáme konkrétní ustanovení, která by tuto problematiku řešila. Na druhé straně je třeba říct, že technologický vývoj v ČR zatím nedošel tak daleko, aby se existence takových ustanovení fakticky vynutila,“ říká.

V budoucnu se zřejmě budeme inspirovat státy, které budou v technologickém (a tím pádem i právním) vývoji dále, například USA. Nová pravidla jistě připraví také EU a ČR je bude muset do svého právního řádu v určité podobě promítnout.

Nejen podle ní, ale i dalších oslovených právníků se proto zřejmě v budoucnu inspirujeme státy, které budou v technologickém (a tím pádem i právním) vývoji dále, například USA. Nová pravidla jistě připraví také EU a ČR je bude muset do svého právního řádu v určité podobě promítnout. „Na úrovni EU tyto iniciativy vznikají a toto téma se diskutuje. Rovněž například ve Velké Británii, Švýcarsku a jiných západních státech se o tomto tématu veřejně diskutuje,“ upozorňuje Assefová.

V Česku každopádně neexistuje ani příliš souvisejících rozsudků. Jedno z relevantních rozhodnutí Nejvyššího soudu se týká programu na vytváření faktur. „V situaci vygenerování chybné faktury softwarem není za tuto vadu zodpovědný výrobce softwaru, ale uživatel, který měl jako podnikatel – tedy osoba s náležitým právním povědomím – v rámci zákonem stanovené povinnosti k odvrácení škody povinnost údaje na faktuře před odesláním ještě překontrolovat,“ popisuje kauzu právnička Petra Gříbková ze společnosti Atlas Consulting.

Diskuse neobsahuje žádné příspěvky.