Až se lidé podřídí vševědoucímu stroji

Spisovatel Karel Čapek byl nejen autorem slova robot, ale fakticky i samotné představy umělé inteligence. Dnes se především bojíme, že nás chytré stroje připraví o zaměstnání a odsoudí k chudobě. Mnohem horší však je plíživá nadvláda algoritmů, podle nichž budeme muset žít. Roboti nám nevezmou práci, mnohem spíše nám ukradnou duši.

Karel Čapek jako robot. | na serveru Lidovky.cz | aktuální zprávy Karel Čapek jako robot. | foto: Ilustrace Richard CortésČeská pozice
Karel Čapek jako robot. | na serveru Lidovky.cz | aktuální zprávy

Každý školák dnes ví, že slovo robot vymyslel jeden z nejslavnějších českých spisovatelů Karel Čapek ve své divadelní hře R. U. R. Přesněji řečeno, jeho bratr Josef, který prý s plnou pusou malířských štětců a zabrán do nového obrazu na otázky tápajícího literáta utrousil: „Tak jim říkej třeba roboti.“ V úspěšném dramatu z roku 1920 ale fakticky stvořil i představu umělé inteligence. Jak by ale vypadala slavná hra, kdyby ji psal jeden z nejslavnějších novinářů Lidových novin dnes?

Už před skoro stoletím varoval před nebezpečím, které mnozí autoři nejen science fiction opakovali, a dodnes je předmětem debat vědců, informatiků i politiků. Je pravděpodobné, že by navázal na myšlenkové linie, které nastínil i ve slavném utopickém románu Krakatit z roku 1922 a o dva roky mladším R. U. R. Tedy obrovskou sílu, kterou přinese technologický pokrok a jež zahubí lidstvo společně s představou myslících strojů.

Magazín Index

Kdo jsou Čapkovi dědici a proč je Česko centrem robotů, čtěte v magazínu Index, který vychází v pondělí 24. dubna v Lidových novinách!

R.U.R. 2017

Na pomoc si lze vzít polozapomenuté a dnes znovu objevované dílo The Machine Stops(Den, kdy se zastaví roboti) britského spisovatele vědeckofantastické literatury E. M. Forstera. Povídka z roku 1909 stojí na příběhu všeovládající umělé inteligence. Foster v ní předpověděl mnoho současných věcí, jako je internet a dokonce videohovory. A mnohé pozdější autory inspirovala pro dnes legendární díla science fiction, ať už literární nebo filmová, a fascinuje přesností, s níž viktoriánský intelektuál předvídal technologický vývoj.

Zanedlouho lidé zjistí, že stroj umí mnohem víc, zvládne organizovat jejich životy i celou společnost mnohem lépe a efektivněji než oni sami. Dokáže řídit celou průmyslovou výrobu tak, že prakticky nikdo nemusí pracovat. Navíc navrhne robotické pomocníky, kteří začnou sloužit lidem.

Představme si tedy příběh vynálezce Rossuma a v této verzi jeho kolegy a přítele Alquista. Dvou spolužáků a celoživotních kamarádů, z nichž první se stane ústřední postavou vybudování vševědoucího stroje. Jejich velkou zálibou je hra v karty, ale protože je Rossum sice nadaný matematik, leč se neumí přetvařovat, řekněme přímo blufovat, neustále prohrává.

Sestrojí proto sofistikovaného pomocníka, který se nejen naučí dokonale všechna pravidla a strategie, ale aby porazil Alquista, začne napodobovat lidské chování a myšlení. Zanedlouho lidé zjistí, že stroj umí mnohem víc, zvládne organizovat jejich životy i celou společnost mnohem lépe a efektivněji než oni sami.

Dokáže řídit celou průmyslovou výrobu tak, že prakticky nikdo nemusí pracovat. Navíc navrhne robotické pomocníky, kteří začnou sloužit lidem v jejich každodenních potřebách. Vše probíhá dokonale plynule, lidé mají pohodlný bezstarostný život, přestanou válčit, zruší vlády a plně se odevzdají geniálnímu vynálezu.

Umělá inteligence

Rossum sleduje na svém příteli Alquistovi, jak se mění nejen jeho život, ale i on sám. A nikoli k lepšímu. Co je nejhorší, lidská přirozenost se životu podle strojem narýsovaných pravidel brání. Lidé nelibě nesou, když jim někdo říká, kdy mají vstávat, co mají snídat, kudy mají chodit po ulici, co a kdy mají dělat na zahrádce. Cítí se zmatení, někteří dokonce zažívají po čase přímo fyzickou nevolnost a kolabují na ulicích.

I když pojem umělá inteligence Čapek nepoužil a je cizího původu, klidně mohl. Slovo inteligence se v češtině vyskytuje už od počátku 19. století a písemné doklady jsou například už z roku 1840.

Alquist jako iracionální člověk patří mezi ty, kdo snášejí život podle algoritmů velmi špatně. Proto Rossum dospěje k závěru, že bude pro všechny lepší, aby své dílo vypnul. I když do poslední chvíle pochybuje, nakonec se k tomu odhodlá a v závěru jen pozoruje dílo zkázy. Lidé si totiž nevědí rady, nevědí, co mají dělat. Celé dílo by mohlo skončit obrazem Alquista, který bezcílně bloudí ztichlou Prahou a hledá ztracený smysl života.

I když pojem umělá inteligence Čapek nepoužil a je cizího původu, klidně mohl. Slovo inteligence se v češtině vyskytuje už od počátku 19. století a písemné doklady jsou například už z roku 1840. Užíván byl především jako protiklad hlouposti a hrubosti. Právě v tomto kontextu se dnes mimořádně hodí k vyzdvižení toho, že nejde jen o pouhý, obyčejný a stroze znějící stroj, ale o něco nového, vznešeného, skutečně myslícího.

Mimochodem právě čeští vědci, kteří by se dali označit za nositele Čapkova odkazu, se podíleli na vývoji programu, který díky blufování v pokeru nedávno porazil i jeho profesionální hráče. V anglickém originále Artificial Intelligence, zkracovaná AI, je fakticky mozkem a duší mechanických strojů. Slovo robot se pak dá používat souhrnně jako označení pro celý myslící stroj, stejně jako bytost označovaná jako člověk se skládá z masa, kostí a myslící části.

Inspirace skepsí

V současné debatě o robotech je obzvlášť důležité vyzdvihnout, že pád vševědoucího a všemocného stroje nezpůsobí například bouře nezaměstnaných dělníků. Sama skutečnost, že lidé nebudou muset pracovat, není nijak katastrofická. Může nás inspirovat Čapkova hluboká humanistická víra ve schopnosti člověka jako inteligentní a kreativní bytosti věnovat se jiné činnosti.

Může inspirovat Čapkova skepse ke komunistickým a dělnickým hnutím, která v tehdy ještě čerstvých Marxových materialistických stopách kráčela Evropou a celým světem

I když zůstaneme zdravě skeptičtí k utopistickým vizím o vytvoření nového člověka a společnosti schopné uspořádat se tak, že dokáže zdroje spravedlivě přerozdělit i jinak než jako odměnu za práci, proč by to nemohla dosáhnout právě nová, lepší inteligence? Stejně může inspirovat Čapkova skepse ke komunistickým a dělnickým hnutím, která v tehdy ještě čerstvých Marxových materialistických stopách kráčela Evropou a celým světem.

Je také třeba si uvědomit, že práce byla tehdy často mnohem úmornější dřina, než je i díky technologiím dnes, a její ulehčení nebylo považováno za nic negativního. Že význam robotů pro práci nepodceňoval, dokazuje i to, že se původně, před konzultací s bratrem Josefem, měli v R. U. R. jmenovat laboři.

Samozřejmě, že i Čapek velmi dobře znal hnutí ludditů, kteří počátkem 19. století ve jménu anglického tkalce Neda Ludda ničili stavy, jež jim údajně braly práci. Jenže toto hnutí mělo vrchol v Evropě ve třicátých a čtyřicátých letech 19. století, aby následně zaniklo a myšlenkově ho vytlačila víra v pozitivní technologický pokrok. Něco podobného zažíváme i dnes s robotizací práce, kdy se dva týdny po sobě objevují studie se zcela protichůdnými závěry, a ty katastrofické straší zánikem až 50 procent pracovních míst.

Odmítnutí komunismu

Z druhé strany pak zaznívá zcela racionální upozornění, že probíhající průmyslová revoluce je už čtvrtá v pořadí, a ani jednou jsme se podobného zvratu nedočkali. Spíše se zcela evolučně zkracuje pracovní doba jak ve dnech v týdnu, tak v hodinách každý den, a na druhé straně rostou požadavky na informace a dovednosti, jež k zaměstnání potřebujeme.

Čapek ve svém slavném eseji uvedl, že důvodem, proč nebyl komunistou, bylo, že jeho srdce bylo opravdu na straně chudých. Uvažoval tak mnohem dál, a nikoliv v intencích tehdejšího kapitalismu ani socialistických řešení ve stylu bohatým brát, chudým dávat a rozdělit společnost.

Do pár let tedy sice mohou odpadnout veškeré rutinní a plně automatizovatelné úkony, ale budeme potřebovat mnohem více lidí, aby tyto systémy spravovali. V literárním pojetí by tento úkol zastali roboti a teprve v takové chvíli by i v naší současnosti nastala doba, kdy bychom mohli skutečně méně pracovat.

Neznamená to ale automaticky zchudnutí masy obyvatel a sociální bouře, čímž děsily a děsí především levicová hnutí. Jak ostatně sám Čapek ve svém slavném eseji uvedl, že důvodem, proč nebyl komunistou, bylo, že jeho srdce bylo opravdu na straně chudých. Uvažoval tak mnohem dál, a nikoliv v intencích tehdejšího kapitalismu ani socialistických řešení ve stylu bohatým brát, chudým dávat a rozdělit společnost.

Podobné úvahy proto musí i dnes směřovat k tomu, zda skutečně funguje peněžní mechanismus k – jak říkají ekonomové – efektivní alokaci vzácných zdrojů. Zda neexistuje jiný, lepší způsob, jak každému zajistit materiální potřeby a zároveň udržet motivaci ke zlepšování a inovacím.

Kde na to vzít

Otázku nového uspořádání společnosti řešila řada ekonomů i dalších utopistických spisovatelů, a právě v kombinaci s robotizací. Nové, lepší uspořádání světa by mohl přinést někdo zcela racionální, nezatížený emocemi či nebažící po moci, oproštěný od všech nectností. Dnes bychom řekli, že by mohlo jít například o rozhodování na základě analýzy takzvaných velkých dat, údajů prakticky o všem, co se na světě dá změřit či zvážit. A to díky ještě nedávno těžko uvěřitelnému výpočetnímu výkonu, který už není žádnou utopií.

Prosté rozdávání peněz úplně všem však nejen není skutečným řešením objevujících se dysfunkcí kapitalistického systému. Především pak nikdo nezná odpověď na otázku, kde na to vzít.

Úvahy o nové a lepší verzi systému ale taktéž obvykle zhatila nějaká krize, po které se objevují zpravidla populistické návrhy, jako je dnes základní nepodmíněný příjem. Prosté rozdávání peněz úplně všem však nejen není skutečným řešením objevujících se dysfunkcí kapitalistického systému. Především pak nikdo nezná odpověď na otázku, kde na to vzít. I dnes ve skandinávských zemích testovaná varianta je proto spíše snahou o reformu již existující sociální sítě.

Jednou z možností je zdanění robotické práce, jež nedávno navrhl nejbohatší muž světa Bill Gates, čímž otevřel otázku, komu budou roboti patřit – komu budou říkat pane. Jako první se nabízí varianta vlastnictví státem, k jehož posilující roli odkazují právě návrhy na zdanění robotické práce, a tedy přerozdělování skrze fiskus. Na nutnost určité vládní kontroly nad inteligentními systémy poukazují bezpečnostní experti jak v národním, tak v mezinárodním měřítku. Dnešní zřízení by nahradila moderní forma státního kapitalismu.

Na druhé straně stojí varianta, kdy zůstanou veškeré chytré stroje v soukromých rukou, a tady se naopak objevují obavy z nárůstu monopolních korporací. Ten, kdo bude vlastnit široce využívanou umělou inteligenci, bude moci jejím prostřednictvím ovlivňovat či přímo manipulovat miliony lidí, a to nejen jako zákazníky, ale i jako voliče. Získá tak nejen konkurenční výhodu, ale doslova moc.

Vzpoura robokapitálu

Taková představa opět není vůbec utopistická a dnes se zcela reálně objevují obavy, kdo bude dohlížet na firmy, jako je Google, Apple, Facebook či Amazon, jež masivně investují do inteligentních asistentů. A samozřejmě si chrání jejich kód, který je to nejcennější, co mají, ale ve kterém je také možné skutečně zjistit, jestli se za dobře míněnou radou, jak a kdy třeba vyrazit z domu do práce, neskrývá jakákoliv snaha manipulovat každodenní život.

Pod tím, co označujeme jako vzestup robotů, se ve skutečnosti skrývá nástup robotického strojového myšlení ve všech oblastech společnosti s mnohem většími než jen ekonomickými dopady

Vzestup umělé inteligence by v tomto případě hrozil totalitou nikoliv ze strany silného státu, nebo dokonce jakéhosi centrálního mozku lidstva, ale zvětšil by se majetek a posílil vliv nejzámožnějších. Už dnes se přitom diskutuje o statistikách, podle kterých jedno procento nejbohatších vlastní více než chudší polovina lidstva. Dalším z efektů průmyslové revoluce proto může být nejen ještě větší otevření nůžek nerovnosti, ale i vznik nového typu střední třídy, jak jej ostatně přinesly technologické změny v minulosti.

Vliv robotů na celou ekonomiku bude skutečně obrovský. IT společnosti mluví otevřeně o větším převratu, než bylo rozšíření internetu, a to nejen proto, že do těchto technologií dávají závratné peníze. Pod pojmem umělé inteligence se totiž skrývají veškeré inteligentní systémy – od samořiditelných aut, dronů, chytrých semaforů a řízení dopravy ve městech až třeba po modelování, vyhodnocování dopadů a navrhování změn zákonů na základě dat.

Pod tím, co označujeme jako vzestup robotů, se ve skutečnosti skrývá nástup robotického strojového myšlení ve všech oblastech společnosti s mnohem většími než jen ekonomickými dopady.

Optimalizace

Představte si, že se ráno probudíte v době, již vám váš chytrý náramek určí jako ideální fázi spánku a po dohodě se systémem dopravy tak, abyste se stihli nasnídat a dojet do práce. Samozřejmě zdravě, bezpečně a bez stresu. Na tom se přirozeně podílí i vaše lednička (která se sama doplňuje), vaše auto (které se samo řídí a vybírá si cestu) i televize a rádio (jež vám po ránu vyberou vhodnou hudbu a také přehled vhodných zpráv pro ideální nástup do nového dne). S co nejlepším pracovním výkonem. Tím to ale teprve začíná.

Zanedlouho může chytrý program sledovat, co děláte na počítači, říct vám, kdy máte jít na kávu, nebo třeba pustit na chvíli sociální síť, abyste si odpočinuli ve chvílích upadající výkonnosti. V celé organizaci se pak všechny procesy budou optimalizovat pro co největší efektivitu.

Právě v zaměstnání se váš čas podřizuje absolutní efektivitě. A to nejen v profesích, kde se každá minuta doslova vyvažuje zlatem, jako jsou už dnes třeba advokáti účtující svým klientům každou chvilku strávenou s jejich případem. Zanedlouho může chytrý program sledovat, co děláte na počítači, říct vám, kdy máte jít na kávu, nebo třeba pustit na chvíli sociální síť, abyste si odpočinuli ve chvílích upadající výkonnosti. V celé organizaci se pak všechny procesy budou optimalizovat pro co největší efektivitu, a tedy maximalizaci zisku.

Od logistiky a dodávek do výroby přes přiřazování jednotlivých lidí a jejich času na dané úkoly až po plánování investic. Dotáhne se tak k naprosté dokonalosti japonská firemní filozofie označovaná jako kaizen, která staví neustálé zlepšování nade vše. I když není pochyb, že se podniky budou předhánět ve statistikách, jak jsou zaměstnanci v takovém uspořádání šťastní a spokojeni s tím, že prací stráví třeba jen šest hodin denně, nikdo neví, jak moc takové optimalizace ve skutečnosti snesou.

Pod bičem algoritmů

Na první pohled to může vypadat přehnaně, ale algoritmy nás už dnes obklopují, aniž bychom o tom věděli. Neviditelným příkladem jsou výtahy, jejichž provoz, zejména ve výškových budovách, dnes s větším či menším úspěchem řídí počítač. Každý je rád, že čeká kratší dobu, ale každý zná situaci, kdy před výtahem postává dlouhé minuty a ani netuší, že na vině je právě optimalizace cesty. Algoritmus zkrátka vyhodnotil, že více lidí rychleji odveze, pokud dá přednost třeba i někomu, kdo zmáčkl tlačítko později.

Život narýsovaný pravidly, která budou naprosto racionální a efektivní, přinese mnoho pozitivního, ale už dnes se mnozí autoři ptají, kde jsou hranice, které jsme ještě ochotni snášet

Ocitnout se na odvrácené straně strojové logiky zkrátka nemusí být vůbec nic příjemného. A co teprve v situaci, kdy se bude řídit nejen cesta výtahem, ale podobně i celá doprava nebo všechny služby. Jak často se zlobíme, když nás číšník v restauraci obslouží později než hosta, který přišel po nás? I když je to pro něho třeba logické, zpravidla se alespoň omluví. Pro počítač je však takové chování nejen přípustné, ale naprosto samozřejmé.

Život narýsovaný pravidly, která budou naprosto racionální a efektivní, přinese mnoho pozitivního, ale už dnes se mnozí autoři ptají, kde jsou hranice, které jsme ještě ochotni snášet. Například Brian Christian si ve své knize Algorithms to Live By: The Computer Science of Human Decisions (Algoritmy, podle kterých je možné žít. Počítačová věda a lidské rozhodování) si klade otázku, jak moc vlastně potřebujeme nepořádek, abychom se cítili šťastní a spokojení.

Taková příjemná robototalita

Vynálezce webu Sir Tim Berners-Lee počátkem dubna varoval finančníky, že jejich roli brzy mohou převzít robotičtí páni. Na jejich světovém summitu vykreslil černý, ale zcela reálný scénář, kdy algoritmus nejen rozhoduje, kdo dostane půjčku a hypotéku jako dnes, ale i jakou firmu koupit, a postupně z rozhodování odpadnou samotní investiční bankéři. Už dnes je většina obchodování na některých trzích řízena počítači, nejznámější takovou společností je RSJ, jejímž spoluzakladatelem je známý český miliardář Karel Janeček.

Dystopické představy totality strojů se proto nejspíš jen odrážejí ve zkušenostech se současnými nedokonalými algoritmy. To neznamená, že nic takového nenastane, jen se nám to pravděpodobně bude alespoň zpočátku opravdu líbit.

Naši budoucí robotičtí páni jsou proto spíše složité a velmi chytré matematické vzorce přetavené v nekonečný strojový kód. Ani do budoucna na sebe samozřejmě nemusejí brát naši podobu. Ale mohou. Už dnes existuje velké množství firem, které pracují na tom, aby roboti vypadali co nejvíce jako humanoidé. Stavba těla i umělá kůže je doslova přibližuje lidem a my je stavíme k obrazu svému.

Na počítání s lidskou nedokonalostí navíc stojí i nové proudy v ekonomii. Na našich emocích staví odpradávna reklamní branže a berou na ně ohledy i IT vývojáři. Opravdu chytré stroje se proto nejspíš nebudou dopouštět takových chyb a do svého výpočtu zahrnou i individuální lidskou potřebu cítit se dobře a pohodlně, zejména pokud nám budou chtít něco prodat.

Dystopické představy totality strojů se proto nejspíš jen odrážejí ve zkušenostech se současnými nedokonalými algoritmy. To neznamená, že nic takového nenastane, jen se nám to pravděpodobně bude alespoň zpočátku opravdu líbit.

Otec, syn a robot svatý

Ve chvíli, kdy si připustíme, že roboti nejsou jen mechanické ruce stavějící novou škodovku, ale sofistikované stroje všeho druhu, v pravém slova smyslu inteligence, začnou se objevovat další problémy. Mezi očekávanější patří různými autory v čele se slavným Isaacem Asimovem otázka lidských, respektive robotických práv a povinností. Nejde o velkou nadsázku, když se s problémem myslících bytostí redukovaných na věci a pracovní prostředky obrátíme k systému otroctví.

Každému může vrtat hlavou, co budeme dělat, až stvoříme bytost dokonalejší, než jsme my. Jestli se pak skutečně staneme bohy, nebo si vytvoříme nové.

Náš právní řád ostatně vychází z římského práva, které s otroky počítalo a potýkalo se s jejich posouvající se podstatou. Od jednoduché definice zotročené lidské bytosti jako věci se dostali v pozdních dobách a s nástupem křesťanství především až k částečnému uznání práv.

Například už Cicero ale ve svých spisech uváděl jako poněkud problematické zabití otroka jeho pánem, přestože vlastník měl vždy právo svou věc zničit – a z dnešního pohledu se až bezcitně řešila třeba majetková práva k dětem otroků. Právě k odkazu starého dobrého římského práva navrhují dnes někteří autoři se obrátit pro řešení budoucích otázek umělé inteligence.

Opravdová umělá bytost ale otvírá i náboženské a veskrze filozofické problémy, nad kterými uvažují nejen intelektuálové profesí, ale i kapitáni IT průmyslu, jako je vizionář Elon Musk či investor Peter Thiel. Třeba provokativní otázku, zda je umělá inteligence kompatibilní s křesťanstvím, se zcela vážně zabýval v únorovém vydání americký magazín The Atlantic a řada dalších. Když by papež podle vlastních slov pokřtil Marťany, proč by nemohl pokřtít robota?

Každému může vrtat hlavou, co budeme dělat, až stvoříme bytost dokonalejší, než jsme my. Jestli se pak skutečně staneme bohy, nebo si vytvoříme nové.



Diskuse neobsahuje žádné příspěvky.