Právo není dostatečně připravené na příchod umělé inteligence

Umělá inteligence patří k dnešním zaklínadlům. Nejsou mi však jasné, ani nemám chuť, a nejspíš ani schopnosti, zkoumat cesty, jimiž se ubírají myšlenky jejích tvůrců. Jsem zastaralý stoupenec francouzského filozofa Reného Descarta (1596–1650), a proto se domnívám, že existujípřinejmenším dva důvody, které budou umělou inteligenci vždy odlišovat od člověka.

Prvním je absence schopnosti hodnotit vztahy, věci, jevy a události morálními kritérii, druhý spočívá v univerzálnosti lidského vědomí, jež je pro umělou inteligenci nedosažitelná. Existuje však třetí aspekt (a mnoho dalších, o kterých nemám ponětí) – lidé sice umělou inteligenci stvořili a stále zdokonalují, ale ve skutečnosti jí vůbec nerozumějí.

Toto poznání poněkud zneklidňuje. Problém není v tom, že by umělá inteligence nebyla nebo nemohla být „dostatečně inteligentní“, ale v tom, že není „lidsky inteligentní“. Suma informací, které má k dispozici, a závěrů, k nimž na jejich základě může dospět, je obří, navzdory tomu se nikdy nemůže rovnat rozumu průměrného člověka. Anebo ano, ale my to nejsme schopní zjistit.

Další módní hit

Nedávno se u nás objevil nomenklaturní vynález hodný doby postpravdové – lepšočlověk (snad správný tvar od lepšolidi), kterého vykutala rozštěpená postpravdová společnost. A samozřejmě se hned začalo s horšočlověkem, i když ten se tolik nechytá. Právo zatím zůstává v oblíbeném oportunistickém kutlochu s formulačně nepříliš povedeným člověkem průměrným, za jehož vynález vděčíme občanskému zákoníku.

To také nezní příliš hezky, leč utěšuji se komentářovou literaturou, která ujišťuje, že tím není míněn chasník, dáma ani jednotlivec některého z dalších v úvahu připadajících pohlaví s IQ na stovce, nýbrž každý svéprávný příslušník lidského pokolení. Zájemci, kteří by s tímto termínem chtěli tvůrčím způsobem pracovat, nechť se začtou do § 4 odstavce 1 olbřímího kodexu, ale než začnou planě teoretizovat o člověku podprůměrném a nadprůměrném, ať si dají pozor, než nepozorovaně sklouznou jinam.

Historie o takových pokusech vypovídá a německý filozof Friedrich Nietzsche (1844–1900) by si mohl oči vyplakat! Právo má však další módní hit – nečlověka. Samo o sobě to není nic převratně nového. Fiktivní představu právního subjektu, který nemá podobu fyzické osoby, vytvořilo právo dávno – nic jiného nezbylo, když si člověk vymyslel obec, stát, spolky, odbory, politické strany, obchodní korporace a další formy, jež z důvodů praktických musel nadat určitou způsobilostí, aby mohly vstupovat do právních vztahů. Tak vznikly právnické osoby.

Entita bez právní subjektivity

Původně je člověk zamýšlel jako různé typy organizací, jež vytvářel s druhými. Jeho právní invence šla ovšem dál. Napadlo ho, že by si namísto sdružování s ostatními vystačil sám, přičemž by si formu organizace ponechal – jako chytrá horákyně. A tu máme obchodní společnost, kterou tvoří jedinec, pan Novák, jež se však z hlediska práva nejeví jako pan Novák, ale jako korporace s ručením omezeným či akciovka.

Ani to člověku nestačilo. Pan Novák založil nadaci – a už to nebyl on ani jiný člověk, ale kapitál, jemuž právo přiznalo právní subjektivitu. Bůhví, čeho se ještě v tomto směru dožijeme! Když se do našeho právního řádu dostaly svěřenské fondy, zjistili jsme, že potřebujeme vymyslet, co jsou zač. A dospěli jsme k závěru, že jsou to entity, kterým chybí právní subjektivita.

Tvůrci práva nejsou přeborníky v marketingu, takže podle jejich formulací si průměrný člověk leckdy obtížně něco konkrétního představuje. Entita bez právní subjektivity není brilantní reklamní heslo, ale člověk ve svém nomenklaturním vynálezectví dospěl přes právnické osoby až k právnickým neosobám. Fantazie lidského mozku je ovšem bezbřehá, kdežto právnické osoby i neosoby trochu šedé. Ostatně, i důvodová zpráva k občanskému zákoníku jinými slovy říká, že právnická osoba není nic jiného než fiktivní umělý nečlověk.

Povinnosti lidí

A tak Homo sapiens stále hledá, kde by narazil na lepšího parťáka, s nímž by mohl sdílet právní subjektivitu. Kdysi to měl jednodušší, dokud racionalita modernity hlubokými stíny nezakryla možnost vypomoci si bytostmi nadpřirozenými. Olympští bohové měli všechna práva, na která si vzpomenete, ale stejně to nebylo ono – podezření, že jde pořád jen o fikci, člověku nedávalo spát.

Už v dávnověku se objevil nadějný adept. Reálný, důvěrně známý, milovaný nebo nenáviděný, věrný nebo nevypočitatelný, přinášející užitek či naopak škůdce, souběžník, ba dokonce starší živočišný pobratim člověka – zvíře. Zbožštit ho, přisoudit mu lidské nebo dokonce nadlidské vlastnosti a schopnosti, celkem problém nebyl. S právním statusem zvířete to bylo složitější a mnohé pokusy z historie skončily spíše blamáží. Ani římskému císaři Caligulovi (12–41) se experiment s jeho oblíbeným koněm Incitatem v senátu nezdařil.

Zvíře se nicméně stalo předmětem vážných diskusí. Při vší úctě k ochráncům má však tato debata zřejmé limity. Tolik probíraná práva zvířat nejsou ve skutečnosti jejich právy, nýbrž povinnostmi lidí, příslušníků moderní humánní společnosti. Právní subjektivitu totiž může mít pouze ten, kdo je s to unést celou abstraktní párovou podstatu práva.

Tři adepti

Občanský zákoník na to odpovídá zřetelně – práva může mít a vykonávat jen osoba. Povinnost lze uložit jen osobě a jen vůči ní lze plnění povinnosti vymáhat. Stanoví jasně a osobou myslí osobu fyzickou nebo právnickou. A uvádí se třeba tento příklad: když někdo daruje nějakou věc zvířeti (například obojek psovi), bude nutné vlastnické právo přičítat majiteli zvířete, nikoliv zvířeti, které není osobou.

Pojmem „právo“ (ve smyslu subjektivním, tedy jako oprávnění, proti němuž vždy stojí nějaká povinnost) tu ve skutečnosti jen nahrazujeme terminologickou lenost, protože čeština dosud neobjevila pro tento fenomén označení přiléhavější. Nikdo našemu Alíkovi jeho „právo“ na obojek neupírá – tu drobnou vadu, že nejde o právo, můžeme přehlédnout, ale ze zvířete právní subjekt neučiníme.

To neznamená, že je lidské hledačství v tomto ohledu navždy odsouzeno k neúspěchu. Naopak, nikdy jsme nebyli stejně blízko okamžiku, kdy se nový subjekt práva objeví, nebo kdy budeme muset alespoň svádět dlouhé debaty, zda se náhodou neobjevil. Jsou tu tři mimořádně silní adepti: humanoid nadaný vysokým stupněm umělé inteligence, mimozemšťan a genetická modifikace člověka.

Otázka pravidel

„Systém umělé inteligence je umělá neuronová síť, cosi jako hrubý model fungování našeho mozku. Můžeme si ji představit jako velkou množinu mozkových buněk a obří množinu jejich vzájemných propojení, tedy synapsí. Výsledkem učení je obrovské množství spojení neuronů s různou intenzitou, což jsou jen čísla vyjadřující, co se stane, když neuron dostane informaci, jak o ní informuje další neurony, kdy se posouvá do aktivovaného stavu a jak silně ovlivní další neurony.

Prostě hromada čísel. Nezjistíte, jaký vzorec, jakou informaci (vzruch) nesl a obsahoval. Tím je forenzní rozbor nemožný. Takže nikdy nevíte, na základě čeho se systém něco naučil a na čem jsou jeho rozhodnutí založena,“ tvrdí například technický ředitel společnosti Fujitsu Joseph Reger. Pak pro právníky a legislativce, potažmo pro celou společnost, vzniká otázka: Lze umělou inteligenci vybavit právní subjektivitou? Odpověď zní jasně: nikoliv!

Její rozhodování (řekněme, chování) se totiž právní regulaci vymyká. Lidstvo není dosud s to ani určit, podle jakých pravidel se umělá inteligence dobírá svých závěrů. Řeknu si jako laik, že podstatné možná bude chování vedoucí k výsledkům matematicky nejlogičtějším a nejsprávnějším. Třeba ano. Pak ovšem musíme připustit, že vozidlo řízené automatickým systémem přejede člověka, ani nemrkne. Systém vyhodnotil takové jednání v konkrétní situaci jako nejsprávnější. Připustíme to?

Přizpůsobení vědě

Reger připomíná i širší souvislosti tohoto problému: „Finanční instituce do testovacího provozu nasadila systém využívající strojové učení, který určoval kreditní skóre jednotlivých klientů. Systém začal postupně některé klienty prokazatelně diskriminovat – na základě pohlaví, náboženství a rasy.“

Naučíme umělou inteligenci humanismu? Naučíme ji oceňovat umění? Prosadí se potom bravurní americký postmoderní spisovatel Chuck Palahniuk se svými knihami, nebo ho uměle inteligentní cenzor ani nepustí do sazby? Uspěje pak ještě někdy v budoucnu parta dlouhovlasých kluků a založí novou hudební historii, nebo skončí tam, kde začala – na místní zahradní slavnosti a v podzemních barech?

Věda kráčí nesmiřitelně dál a právo nemá jinou možnost než se přizpůsobit. Cest na výběr není mnoho.Buď ta britského teoretického fyzika Stephena Hawkinga (1942–2018), která vychází z představy, že umělá inteligence lidstvo předčí (dle jeho odhadu zhruba za sto let), což neznamená nic jiného než připravit se na okamžik, kdy to bude ona, nikoliv člověk, kdo začne diktovat pravidla. Nebo cesta ke vzniku nového osvíceného práva, které si s touto situací dokáže poradit. Nečlověk ve formě umělé inteligence nám dá ještě zabrat.

Neurčité bádání

O mnoho lepší to není s mimozemšťany. Je sice možné, že na žádného nenarazíme, ale vědci tvrdí, že by to bylo s podivem, je-li na výběr tolik vesmírných příležitostí. Ostatně, ať si kdokoliv tvrdí cokoliv, my, lidé, počítáme s tím, že na nás jednoho krásného dne vykoukne zpoza rohu divný mužíček, a na parkovišti před supermarketem bude stát velký plechový talíř, který tam neumístili reklamní odborníci obchodního řetězce.

Můžeme se – přistiženi při podobných fantaziích – sami téměř s jistotou okřiknout, že takhle to vypadat nebude, ale uvízli jsme ve stereotypním uvažování. Jistě, mužíček nebude mužíček ani pravděpodobně ženuška, ale třeba plazmatická placka; vesmírný stroj nebude talíř ani raketa a jak s oblibou říkám: kdo ví, jestli sem někdo přiletí, aniž by to znamenalo, že se tu nemůže objevit, protože si ani nedovedeme představit, jestli nám náhodou neunikla jiná forma pohybu. Třeba to vůbec nebudou věci, nýbrž energie. Třeba…

Přesto (anebo právě proto) je třeba počítat s tím, že jednou kontakt lidstva s jinou vesmírnou civilizací (spíše „civilizací“ – opět nám chybí terminologie) nastane. Znovu připomínám Hawkinga, který před tímto kontaktem varoval, a nabádal, ať si zjistíme, kdy letí nejbližší pravidelný spoj do kosmu, neboť vzít nohy na ramena se mu zdálo jediným bezpečným řešením.

Zatímco problémy právní emancipace umělé inteligence se už diskutují, o právních vztazích s mimozemšťany se zatím v podstatě mlčí. Věda je pořád krátká na věcnou podstatu problému a vystačí si s neurčitým bádáním, co asi znamenají opakující se signály, které zaznívají z nekonečných galaktických dálav, takže v právu zdánlivě není kam spěchat. To je ovšem další příklad lidské lenosti.

Nečlověk velmi specifického druhu

Kdyby někdo před 70 lety americkému matematikovi, filozofovi a zakladateli kybernetiky Norbertu Wienerovi (1894–1964) vykládal o dnešní digitální společnosti, asi by se jen významně usmál a poklepal nejprve na svou tehdy vydanou knihu Cybernetics or the Control and Communication in the Animal and the Machine (Kybernetika aneb Řízení a komunikace organismů a strojů) a potom na vlastní čelo a možná připomněl své přesvědčení, že je třeba pouštět se i po nepravděpodobných cestách, protože ta, která spočívá jen ve vyhýbání se omylům, nikam nevede.

To není volání po tom, aby v Parlamentu co nejdřív začal nějaký aktivní poslanec shánět podpisy pod iniciativní návrh zákona o mimozemšťanech (zákonů máme jako plev a zejména pod unijní kuratelou vznikají i předpisy, které k mimozemšťanství nemají daleko). Filozoficko-právní diskuse o přístupu práva k předpokládaným budoucím událostem by však zahájena být měla.

Slyšíme ale, že by se někdo vážně zabýval takovou otevřenou a komplexní rozpravou třeba v souvislosti s hrozbou planetárního sucha? Přitom nedostatek vody je „jen“ objektivní jev. Pokud se Hawking a jeho předchůdci i následníci nemýlí, čeká nás ale jednou setkání s něčím, co bude mít zcela jinou kvalitu – bude to nečlověk velmi specifického druhu. A vyhledá-li nás v tom nekonečném vesmíru, sotva bude možné říci, že nejde o subjekt. Jak se s tím vyrovnáme?

Genetika

Genetická modifikace člověka je z toho všeho nejspíš nejspornějším problémem, neboť stojí za dveřmi. Uběhlo 65 let od odhalení struktury DNA a embryonální kmenové buňky se staly hitem médií. My, běžní smrtelníci, stojíme tváří v tvář úžasným i strašlivým možnostem biotechnologií, aniž bychom byli schopní proniknout hlouběji k jejich kořenům. V tomto ohledu na tom nejsme o nic lépe než ve vztahu k umělé inteligenci nebo k mimozemšťanům, spíše naopak.

Přece jen tu jeden významný rozdíl je. Právo, které se dotýká umělé inteligence zatím spíše s panenskou cudností a řeší sice dosud jen dílčí problémy a které na mimozemšťany (míním tím spíše „mimozemšťany“ neboli „černé labutě“) v podstatě zvysoka kašle, neboť se upíná k „vyšším cílům“, se už relativně dávno začalo touto záležitostí zabývat.

Je zde stránka v podstatě nesporná – může-li genetika významně pomoci vyléčit dosud fatální nemoci, úrazy a další poškození zdraví člověka, na čemž se odborná veřejnost zřejmě zcela shoduje, je třeba vytvořit z hlediska právního co nejlepší rámec, který umožní plně využít tento potenciál, a to při respektování všech požadavků humanity a lidské svobody.

Přežít svou smrt

Navzdory této nespornosti nejsou v tomto ohledu ani zdaleka všechny otázky zodpovězeny. Pravděpodobnost, že genetické zásahy umožní člověku překonat mnohé situace, které jsou například dnes označované za „zranění neslučitelná se životem“, je podle všeho vysoká. Medicína učiní další kroky, které ze seznamu neléčitelných onemocnění vymažou celé odstavce. Je jisté, že člověk bude mít opět mnohem více šancí „přežít svou smrt“. Ale již zde můžeme být postaveni před problém, který označuji „efekt mrtvé a živé vody“.

Právník Ondřej Frinta (a další) upozorňuje v této souvislosti na zajímavou otázku: „Původně a po poměrně dlouhou dobu se smrt ztotožňovala se zastavením činnosti srdce a plic. V důsledku rozvoje možností lékařské vědy ve 20. století se však nahlížení na určení okamžiku smrti začalo měnit. Klinická smrt přestala být chápána jako smrt, nýbrž pouze jako stav, kdy dochází k zástavě životních funkcí (začátek procesu umírání), kterou však lze vhodným a včasným zásahem zvrátit a přivést tak pacienta zpět k životu.

Proto se zavedl termín ,biologická smrt mozku‘ (cerebrální smrt), která znamená nevratnou ztrátu funkce celého mozku, respektive smrtelný stav, z nějž je návrat do života vyloučen. Následkem mozkové smrti je zastavení životních funkcí a (postupné) odumření tkání a orgánů. Člověk přestává žít jako biologická entita.“A dodává: „Právním následkem smrti je zánik právní osobnosti, tedy zánik osoby ve smyslu práva.“

Zákaz reprodukčního klonování

Smrt má mnoho právních důsledků, například statusových (zánik manželství) či majetkových (dědictví). Bude-li jednou ve schopnostech biomedicíny překonat i cerebrální smrt, vrátí se člověk do své původní právní situace? Pokud jde o statusové otázky, pravděpodobně si vystačíme s analogií dnešní úpravy spojené s prohlášením za mrtvého, zjistí-li se, že je takový člověk naživu (manželství nebo registrované partnerství se neobnovuje). Další právní poměry však budou muset být nějak nově řešeny.

Zejména však bude třeba zkoumat otázku, zda v takovém případě byl člověk „vyléčen“, nebo zda konkrétní člověk zanikl a s použitím genetických procesů „vznikla“ (nikoliv narozením, nýbrž „znovuzrozením“) nová lidská bytost, neosubjektpráva, zda je takový postup eticky a právně přijatelný, a především, zda jde stále o téhož člověka.

Jisté naopak je, že úmyslné umělé vytvoření geneticky shodné lidské osoby je již dávno příslušnou mezinárodní úmluvou považované za postup v rozporu s lidskou důstojností a za zneužití biologie a medicíny. Zákon výslovně říká, že „během výzkumu na lidských embryonálních kmenových buňkách nesmí dojít k manipulacím s těmito buňkami, které by vedly k vytvoření nového jedince (reprodukční klonování)“. Jasně se tím naznačuje, že genetické inženýrství nesmí být přeměněno v nejzávažnější inženýrství sociální.

Převratná změna

Skutečnou záhadou ovšem je, co lidstvo v tomto směru provede. Popravdě řečeno – a úvahy na toto téma zaznívají i ve vědeckých kruzích –, je pravděpodobnější, že ponoukáno vlastní nedočkavostí, zvědavostí, všetečností (lepší vlastnosti, jež nicméně mohou dláždit cestu do pekel) a bohužel též vypočítavostí, moci- a ziskuchtivostí (mizerné vlastnosti, jež nic než peklo v podstatě nezajímá), přivede dříve nebo později v nějaké laboratoři na svět uměle geneticky stvořenou lidskou bytost.

Můžeme nanejvýš uvažovat o tom, zda za přelomovým okamžikem bude nějaký šílený diktátor, zrůdný maršál nebo bezskrupulózní miliardář, nějaká hrůzná ideologie smrti, nebo naopak senzační ideologie všeobecného a povinně nařízeného blaha, za určitých okolností dokonce třeba jistá nahodilost, anebo se – byť je to v tomto okamžiku obtížně představitelné – změní společenské paradigma a umělá geneze se pro lidstvo stane přijatelnou.

Výsledkem, který vzbuzuje strach, by byla uměle vytvořená a geneticky shodná lidská osoba, tedy neočlověk s vlastními právy a povinnostmi. Není to představa, se kterou bychom se mohli snadno identifikovat. Likvidovala by totiž podstatné hodnoty, na nichž je tato společnost založená.

Co by se stalo s demokracií, kdyby nějaká genetická fabrika vychrlila nové tisíce voličů? Tato převratná změna by se týkala i osobních poměrů každého uměle vytvořeného člověka, neboť zatímco jsme si jistí, že přirozeným zrozením vzniká lidská bytost nadaná svobodou, rovností a důstojností, můžeme si tím být jistí i u bytosti uměle (geneticky) originárně stvořené nebo zásluhou genetiky „znovuzrozené“?

Přiměřenost právní regulace

Právo není dosud dostatečně připraveno na příchod umělé inteligence nejvyšší generace (autonomního stroje), nemá prakticky žádnou představu o právní pozici budoucího návštěvníka z kosmu (přirozeného nečlověka) a nedokáže zřetelně predikovat způsoby, jak se vyrovnat s potenciálem genetického inženýrství (včetně nepředvídatelných excesů), který v sobě nese možnost, že se jednou objeví uměle opravený či dokonce uměle stvořený neočlověk.

Není to však chyba společenského vývoje v rámci nové etapy vědecké revoluce (nečeká nás, už jsme v ní), nýbrž projev nedostatečné pozornosti právní filozofie, nadutého přehlížení wienerovského pojetí vizionářských cest. Možná se opravdu příliš soustřeďujeme především na to, jak se vyhnout omylům. Ty jsou na životních cestách překážkami a vnímáme je nepříjemně, ale ani Velkou pardubickou nelze regulérně odjet tak, že se jezdec s koněm vyhnou Taxisovu a vodním příkopům.

Současná postpravdová společnost se tak chová. To je problém, který se zdaleka netýká jen České republiky. Nedávno poukázal pařížský zpravodaj České televize Jan Šmíd, že „jednou z rozbušek, které nastartovaly vlnu protestů takzvaných žlutých vest, bylo snížení maximální rychlosti z 90 na 80 kilometrů za hodinu“. A připomněl, že se mluvilo o dani z pohonných hmot: „Málokdo si uvědomuje, že vláda v minulosti bohatými dotacemi vybízela Francouze, aby se stěhovali na venkov, a teď jim chce ztížit možnost dopravy. Veřejná doprava zejména v menších místech je zde velmi špatná.“

To představuje nutnost zamýšlet se nad novým, osvíceným právem, které bude splňovat principy přijatelnosti a přiměřenosti právní regulace. Právem se dnešní společnost pokouší řešit všechno, kdejakou hloupost. Funguje to čím dál méně. A nic se nezmění, pokud to nebude právo pro každého člověka, pro každý subjekt práva, se kterým se lidstvo na své budoucí cestě nejspíš setká, srozumitelné, velkorysé, rozumné.