Kam spěje budoucnost umělé inteligence, velkých dat a Číny

Pokrok je možný, ale bude záležet na konkrétních krocích, nikoli na historickém determinismu. To platí i pro moderní technologie. Zda se s nimi vyrovnáme, je na nás a právo může být nástrojem, jímž jim čelit.

Čína a umělá inteligence. | na serveru Lidovky.cz | aktuální zprávy Čína a umělá inteligence. | foto: Ilustrace Richard CortésČeská pozice
Čína a umělá inteligence.

Izraelský historik Yuval Noah Harari současnost shrnuje ve třech bodech. Za prvé, situace je pro lidi lepší než kdykoli v minulosti – bohatství, bezpečnosti a zdraví nikdy nebyly vyšší. Za druhé, situace ani zdaleka není optimální. Pořád poměrně mnoho lidí žije v absolutní chudobě. A za třetí, nelze vyloučit, že se situace velmi rychle zhorší.

Za potenciální hrozby Harari označuje především ekologický kolaps, riziko (nukleární) války a nové technologie. První dvě hrozby jsou v médiích často probírané a veřejnosti známé, u nových technologií, jako je umělá inteligence, je situace složitější, neboť, jak Harari poznamenává, sen jednoho může být noční můrou druhého.

Náklonnost k těmto technologiím se liší, zda si představíte palubní počítač HAL 9000 z příběhu Vesmírná odysea, který chce zavraždit posádku své lodi, nebo Centrální mozek lidstva z televizního seriálu Návštěvníci – bylo by rozumné doufat v Centrální mozek lidstva, ale připravovat se na HAL 9000.

Právně a eticky neregulovaný výzkum

K lepší představě o současném vědeckém pokroku poslouží odhady vědců, kteří se výzkumu umělé inteligence věnují. Švédský filozof, futurolog a profesor Oxfordské univerzity Nick Bostrom ve své knize Superinteligence udává, že odpověď, kdy bude vynalezena strojová obecná inteligence lidské úrovně, zní: desetiprocentní pravděpodobnost pro rok 2022, 50procentní pro rok 2040 a 90procentní pro rok 2075.

Současný výzkum lze označit za právně a eticky de facto neregulovaný a navíc prováděný, a to i základní, především velkými technologickými giganty, nikoli veřejnými výzkumnými institucemi

Kvůli finančním prostředkům každoročně investovaným do výzkumu v této oblasti nelze společenská rizika spojená s těmito technologiemi podceňovat, i pokud by se ukázala pravdivá třetí varianta. Podcenění není na místě ještě z jednoho důvodu – oproti například biomedicíně v současnosti chybí adekvátní právní úprava vědeckého pokroku, neboť není zacházeno s živými bytostmi, ale pouze se stroji.

Současný výzkum lze proto označit za právně a eticky de facto neregulovaný a navíc prováděný, a to i základní, především velkými technologickými giganty, nikoli veřejnými výzkumnými institucemi. Jde o technologii s takovým komerčním potenciálem, že soukromé společnosti, jako je Google, Microsoft nebo Tesla, jsou schopné klíčové vědce přeplatit natolik, že se jim žádné veřejné výzkumné působení nevyplatí.

Obrovská rizika i možnosti

První vlaštovku blížící se budoucnosti představují autonomní auta, která nemají, jak by se na první pohled zdálo, předem naprogramované všechny možné situace chování. Je to jedna z prvních verzí umělé inteligence, neboť jde o stroj, který autonomně činí mnoho rozhodnutí na základě vlastního uvážení, a je schopný se učit základní informace a postupy nutné pro plynulou jízdu bez pomoci lidí. Autonomní auta jsou však pouhý začátek.

Podstatou obecné umělé inteligence, k níž velké technologické společnosti a některé státy směřují, je vytvořit stroj, který se bude schopný sám v předem neurčitelném počtu oborů učit minimálně na lidské úrovni, čímž svůj pokrok učiní nezávislým na lidech. Společenské dopady této technologie jsou nedozírné, rizika i možnosti obrovské, například na pracovním trhu, ve válečných konfliktech či vědě.

Podstatou obecné umělé inteligence, k níž velké technologické společnosti a některé státy směřují, je vytvořit stroj, který se bude schopný sám v předem neurčitelném počtu oborů učit minimálně na lidské úrovni, čímž svůj pokrok učiní nezávislým na lidech. Společenské dopady této technologie jsou nedozírné, rizika i možnosti obrovské, například na pracovním trhu, ve válečných konfliktech či vědě.

Z právního hlediska se proto již nyní řeší vznik třetí kategorie osob, vedle fyzických a právnických takzvaných umělých. Bude-li autonomní umělá inteligence dostatečně vyvinutá, aby mohla sama dle svého uvážení obchodovat například na burze, přijímat dary nebo hrát poker, existuje málo důvodů, proč by neměla být považovaná za osobu. Svět, ve kterém budou moci umělé osoby vlastnit společnosti a zaměstnávat lidi, se však bude velmi lišit od toho, ve kterém žijeme.

Tradiční problémem je kontrola. I pokud obecnou umělou inteligenci podrobíme současným lidským normám, bude to stačit? Nenajde si způsoby, jak obrátit interpretaci příslušné normy k obrazu svému? A jsou současné normy, mnohdy příliš nejasné, rozporné a abstraktní, vhodné k usměrňování chování jiných myslí než těch lidských? Současné právo je tvořeno pro lidi, počítá proto s daným právním, kulturním a hodnotovým předporozuměním. Bude fungovat stejně, pokud toto předporozumění nebude existovat?

Lidská důstojnost

To vše jsou nové výzvy pro právní vědu v tomto století, které zatím nejsou dostatečně vyřešeny, což by mělo znepokojovat. Nejde přitom o nové téma. Vzpomeňme na zákony robotiky uvedené v březnu 1942 v povídce Hra na honěnou americko-židovského sci-fi spisovatele Isaaka Asimova (1920–1992):

  • robot nesmí ublížit člověku nebo svou nečinností dopustit, aby mu bylo ublíženo;
  • robot musí uposlechnout příkazů člověka, kromě případů, kdy jsou tyto příkazy v rozporu s prvním zákonem;
  • robot musí chránit sám sebe před poškozením, kromě případů, kdy je tato ochrana v rozporu s prvním, nebo druhým zákonem.

Již Asimov přišel s několika interpretačními problémy spojenými s těmito pravidly. Například definice pojmu člověk nemusí být natolik jednoznačná, což mimo jiné ukázaly totalitní režimy 20. století, jak by se mohlo na první pohled zdát, nebo mělo co dělat s nevědomým porušením těchto zákonů.

Současné trestněprávní normy je nutné vykládat také prizmatem lidské důstojnosti zakotvené v Listině základních práv a svobod. Ve vztahu k umělé inteligenci je však její hodnotové ukotvení velkou otázkou, a pokud by šlo o čistě racionální mysl, mohla by dospět při interpretaci práva ke zrůdným závěrům, jež by si dokázala odůvodnit.

Velkou otázkou je i hodnotový výklad práva. V trestním zákoníku například existuje institut krajní nouze, dle nějž čin jinak trestný, kterým někdo odvrací nebezpečí přímo hrozící zájmu chráněnému trestním zákonem, není trestným činem, pokud nelze toto nebezpečí za daných okolností odvrátit jinak a následek není stejně závažný nebo ještě závažnější než ten, který hrozil.

Pokud toto pravidlo vykládáme striktně formalisticky a bez dalších hodnot v právním řádu, lze například dospět k závěru, že je možné v nemocnici usmrtit zdravého pacienta, pokud by jeho orgány zachránily 20 lidí. Tento výklad je však nepřijatelný, neboť současné trestněprávní normy je nutné vykládat také prizmatem lidské důstojnosti zakotvené v Listině základních práv a svobod.

Ve vztahu k umělé inteligenci je však její hodnotové ukotvení velkou otázkou, a pokud by šlo o čistě racionální mysl, mohla by dospět při interpretaci práva ke zrůdným závěrům, jež by si dokázala odůvodnit.

Efektivní rozhodnutí

Umělá inteligence se zatím nevyvíjí natolik rychle, jak si mnozí představují. Do vytvoření Centrálního mozku lidstva máme daleko. Současné poznání však také přináší nezanedbatelná rizika a výzvy. U umělé inteligence totiž v mnoha oblastech stačí, aby byla pouze lepší než průměrný člověk, což je laťka poměrně nízká, což ukazuje propojení umělé inteligence s velkými daty.

U umělé inteligence v mnoha oblastech stačí, aby byla pouze lepší než průměrný člověk, což je laťka poměrně nízká, což ukazuje propojení umělé inteligence s velkými daty. Práce s velkými daty nově umožňuje činit efektivní rozhodnutí, která byla ještě před několika lety fikcí.

Ta jsou podle jedné z definic soubory, jejichž velikost je mimo schopnost zachycovat, spravovat a zpracovávat data běžnými softwarovými prostředky v rozumném čase. Na první pohled nejde o nic zajímavého. Je však třeba si uvědomit, nakolik jsou informace důležité a ovlivňují každodenní životy.

Příkladem může být ekonomická paralela centrální plánování versus volný trh, který se ukázal efektivnější, neboť lépe vyhodnocuje informace, kde a kdo a jaké zboží poptává a nabízí. Centrální plánování selhalo, neboť tato komplikovaná rozhodnutí není vláda schopná činit efektivně – nebylo v lidských silách vyhodnocovat nezbytné množství informací k efektivním rozhodnutím. Práce s velkými daty nově umožňuje činit efektivní rozhodnutí, která byla ještě před několika lety fikcí.

Komerční využití

Lidé jsou náchylní přenechávat rozhodování jiným. Velmi dobře a s pozitivními dopady je tato skutečnost vidět v medicíně, kde jsou počítačové diagnostické přístroje již dlouho mnohem přesnější než lidé. Vzhledem ke kvalitativní výhodě technologie nad lidským uvažováním proto zdravotní problém často analyzuje počítač na základě daných informací, nikoli lékař. Podobnou analýzu lze udělat i v dalších oblastech.

Vědci z Cambridgeské a Stanfordovy univerzity vyvinuli počítačový model, který dokáže posoudit osobnost člověka přesněji než přátelé a rodina pouze na základě analýzy aktivit na Facebooku. přičemž svůj algoritmus testovali na více než 17 tisících uživatelích. Potřeboval přístup pouze k deseti „to se mi líbí“, aby porazil kolegu, se 70 porazil spolubydlícího, 150 stačilo na rodiče nebo sourozence a 300 na manžela. Klíčovou otázkou je, kolik informací bude algoritmus potřebovat, aby nás poznal lépe než my sami.

Výběr partnera, práce, místa na život či koho přijmout do zaměstnání jsou komplikovaná rozhodnutí, u kterých hrozí fatální omyl. Pokud by soukromá společnost přišla s nabídkou, že může tato rozhodnutí na základě dat, která o nás má, stanovit sama, s nižším rizikem, že se splete, než kdybychom se rozhodovali my sami, kolik z nás by tuto nabídku dokázalo odmítnout? A kolik bychom byli ochotní za tuto službu zaplatit?

Z uvedeného výzkumu vyplývá, že „méně, než bychom si mysleli“. Výběr partnera, práce, místa na život či koho přijmout do zaměstnání jsou komplikovaná rozhodnutí, u kterých hrozí fatální omyl. Pokud by soukromá společnost přišla s nabídkou, že může tato rozhodnutí na základě dat, která o nás má, stanovit sama, s nižším rizikem, že se splete, než kdybychom se rozhodovali my sami, kolik z nás by tuto nabídku dokázalo odmítnout? A kolik bychom byli ochotní za tuto službu zaplatit?

Úspěšnost algoritmického rozhodování ukazují fotbalové přestupy. Některé fotbalové kluby, jako je RB Lipsko, FC Liverpool nebo Slavia Praha, používají k výběru hráčů datové analytiky, kteří dokážou analyzovat všechna nahraná utkání fotbalisty, jeho povahu odvodit ze sociálních sítí, a díky tomu určit pravděpodobnost, že se v novém týmu prosadí. Úspěšnost tohoto výběru založeného na datech oproti práci s lidskými scouty si každý může ověřit v tabulce příslušné ligy.

Otázka právní regulace je problematická z několika důvodů. Za prvé, v současnosti neexistuje společenská potřeba tyto otázky regulovat, neboť všichni do těchto právních vztahů vstupujeme dobrovolně. Za druhé, věc nelze efektivně řešit na úrovni národního státu, ale minimálně na celoevropské úrovni. Pokud se však zatím nejsme schopní domluvit, zda regulovat, stěží se dohodneme, jak to udělat. Bude někdo slyšet hrozby, jsou-li lákadla natolik velká?

Proměna utopie v realitu

Propojení umělé inteligence a velkých dat nemusí využít pouze velké technologické společnosti ke komerčním účelům, ale i státy. V románu 1984 George Orwella je popsán svět, v němž je každý sledován a kontrolován sledovacími zařízeními. Odpovědí na otázku, proč tento režim nezavedl například Sovětský svaz, není absence aspirace, ale technologie. Pokud by chtěl sledovat každého, potřeboval by na jednoho sledovaného jednoho kontrolora. I pokud by byl schopný získat všechna data, nebylo by v lidských silách je analyzovat, a proto by byla nevyužitelná.

Umělá inteligence poprvé v historii umožňuje proměnit Orwellovu utopii v realitu. Poprvé v historii má smysl sledovat všechny a všude, neboť umělá inteligence je schopná s natolik obrovskými daty efektivně pracovat. To, o čem mohl Sovětský svaz pouze snít, se proto dnes stává v Číně realitou v podobě kreditního systému občanů.

Umělá inteligence poprvé v historii umožňuje proměnit Orwellovu utopii v realitu. Poprvé v historii má smysl sledovat všechny a všude, neboť umělá inteligence je schopná s natolik obrovskými daty efektivně pracovat. To, o čem mohl Sovětský svaz pouze snít, se proto dnes stává v Číně realitou v podobě kreditního systému občanů. Celý život je de facto nekonečným pracovním pohovorem, neboť všechno, co kdo učiní, je zaznamenáno a může být použito proti němu.

Snem každého totalitního režimu vždy bylo splynutí soukromé a veřejné sféry. Nikdo nikdy nebyl tomuto snu blíže než současná Čína. Kolik nás dělí od této děsivé situace? Již nyní je soukromí často omezováno ve prospěch jiných obecných dober, jako je bezpečnost, výběr daní nebo z hlediska státu bezproblémová výchova dětí. A je důležité zdůraznit, jak lehce jsme se části soukromí vzdali, i když nám žádná velká hrozba nehrozila. Kam bychom byli ochotní zajít, pokud by ohrožení bezpečnosti bylo, nebo by se zdálo, mnohem větší?

Nepropadat zoufalství

Na téma, že se svět zlepšuje a žijeme v nejlepší historické éře, vyšlo v poslední době několik knih, například Faktomluva Hanse Roslinga, a přehledně tento trend popsal Adam Růžička ve svém článku Svět se do záhuby neřítí. Různé verze konce světa a tragických konců se zatím nikdy neukázaly pravdivé a v uplynulých 200 letech jsme zažili exponenciální růst téměř ve všech oblastech lidských životů.

Různé verze konce světa a tragických konců se zatím nikdy neukázaly pravdivé a v uplynulých 200 letech jsme zažili exponenciální růst téměř ve všech oblastech lidských životů

Co bude, nevíme, z historického vývoje se však zdá, že pokrok je možný, a nejsme odsouzeni k neodvratnému zániku, jak mnozí proroci staletí předpovídají. Možná situace bude horší, což vyloučit nelze, ale nikoli nezbytně horší. Vždy bude záležet především na konkrétních krocích, hodnotách a řešeních, nikoli na historickém determinismu.

To platí i pro moderní technologie. Zda se s touto výzvou vyrovnáme, je jen na nás. Samo to však nepůjde a právo může být důležitým nástrojem, jímž jí čelit. Jeho budoucí podoba se ale od té současné může výrazně lišit.

Počet příspěvků: 1, poslední 26.11.2019 07:48 Zobrazuji posledních 1 příspěvků.

Autor

Jan Hořeňovský

Jan Hořeňovský | na serveru Lidovky.cz | aktuální zprávy

Další autorovy články