Počítač žádný čas lidem nešetří

O golemovi, umělé inteligenci, hrubé síle, lidské jedinečnosti, šachu, emočnímu obohacení, pozitivnímu soužití, nové společnosti a svobodě mysli vedla ČESKÁ POZICE rozhovor s jedním z našich největších odborníků na umělou inteligenci – kybernetikem, filozofem a esejistou Ivanem M. Havlem.

Ivan M. Havel, kybernetik, filozof, esejista | na serveru Lidovky.cz | aktuální zprávy Ivan M. Havel, kybernetik, filozof, esejista | foto: Česká pozice
Ivan M. Havel, kybernetik, filozof, esejista | na serveru Lidovky.cz | aktuální zprávy

Někteří lidé tvrdí, že díky dokonalým strojům se lidská společnost ocitá na okraji zásadní změny. Jiní vymýšlejí katastrofické scénáře, kam až soužití s nimi může vést. Ještě nedávno se totiž soudilo, že dokonalé stroje či umělá inteligence patří do říše snů či sci-fi románů. Dnes se zdá, že informační technologie, potažmo počítače umožní tyto sny naplnit.

ČESKÁ POZICE: Jak natolik výjimečný vývoj informačních technologií a jejich využití nastal? Jaké jsou jeho hlavní a původní motivy?

HAVEL: O motivech pro snahu dokonale napodobit člověka pomocí počítače bylo hodně napsáno, ale myslím, že se o tom dalo smysluplně debatovat jen v počáteční fázi, kdy vznikaly unikátní pokusy na prvních počítačích a s prvními roboty. Dnes už to běží svými cestami a motivace směřují převážně k aplikacím. Je to rozsáhlý průmysl, který má vlastní zákonitosti vývoje.

Konstrukcí počítače se zabývá obrovský počet lidí různých profesí. Ten, kdo vyvíjí elektronické prvky a čipy, často neví, k čemu budou sloužit, a proto ani nemá pocit, že se podílí na tvorbě umělého mozku či dokonce člověka. Tak je tomu na mnoha dalších úrovních. Takže nelze ukázat na někoho konkrétního, kdo by se rozhodoval na základě vlastních představ a snů. To už se přesunulo do sci-fi literatury a filmů.

Motivem pro vytvoření golema mohla být pyšná touha vyrovnat se Stvořiteli, stejně jako úmysl získat užitečného pomocníka v domácnosti

Když se podíváme do historie, zjistíme, že motivů mohlo být víc i se vzájemně prolínat. Dovedu si představit, že motivem pro vytvoření golema mohla být pyšná touha vyrovnat se Stvořiteli, stejně jako úmysl získat užitečného pomocníka v domácnosti. Oba tyto motivy mají svou analogii v zájmu o umělou inteligenci v padesátých a šedesátých letech 20. století – na jedné straně test lidské dovednosti něco takového vytvořit a na druhé vize něčeho prakticky užitečného.

K tomu později přistoupila třetí motivace – že se nápodobou lidského myšlení můžeme dozvědět víc o podstatě duševních pochodů. Jinak řečeno, že lépe porozumíme člověku, když se ho pokusíme vyrobit. Časem převládla motivace druhá, pragmatická. Dalo se to čekat.

ČESKÁ POZICE: V jakém smyslu?

HAVEL: Hodilo by se mít stroj, který nejen provádí složité výpočty, ale i překládá z jednoho jazyka do druhého, navrhuje vědecké hypotézy, dovede mluvit, konverzovat, usuzovat a rozhodovat za nás – a třeba hrát šachy. Mimochodem právě hraní šachů – rozumí se dobré hraní – je velkou výzvou, protože jde o velmi složitou hru, která vyžaduje u člověka vysoký stupeň intelektuálních schopností, jako je fantazie, intuice a důvtip.

Pravda, užitečnost počítačového šachu je spíše nepřímá – lidi se o to budou zajímat. Dnešní počítače už mají programy, které vyhrávají i nad šachovými velmistry. Ale i v jiných směrech nastal velký pokrok.

ČESKÁ POZICE: Dá se dnešní boom v informačních technologiích přirovnat k něčemu v minulosti?

HAVEL: Dalo by se to přirovnat ke vzniku knihtisku, což byla podobně převratná událost. Knihtisk umožnil nový, rychlý, a především hromadný způsob předávání textů mnohem širšímu okruhu zájemců než dříve. V tom je podobný nástupu počítačů, ten však je mnohem revolučnější.

Z velkého časového odstupu se „revoluce“ způsobená knihtiskem jeví jako náhlý dějinný zvrat. Odehrávala se však podstatně pomaleji.

Z velkého časového odstupu se „revoluce“ způsobená knihtiskem jeví jako náhlý dějinný zvrat. Odehrávala se však podstatně pomaleji – než se důsledky knihtisku projevily, uplynulo mnoho let, během nichž se vystřídalo několik generací. V té náhlosti vidím podstatný rozdíl.

ČESKÁ POZICE: Co to znamená?

HAVEL: Masové rozšíření informačních technologii se odehrálo během jedné generace. Důsledkem je, že dnešní děti dovedou s notebooky a tablety zacházet často lépe než jejich rodiče. To určitě mění i vztahy v rodinách – jaký mají mít děti respekt ke svým počítačově negramotným rodičům?

Jsou i větší rychlosti v rámci informační revoluce – každým rokem, ne-li každým týdnem, se na trhu objevují novější verze hardwaru i softwaru. Inovují se operační systémy, vznikají nové aplikace a chytřejší programy. Každá další verze je prezentována jako lepší než předchozí, ale – dokonce asi záměrně – na úkor kompatibility s dřívějšími verzemi.

A zase je v nevýhodě starší generace, protože ji to nutí zapomenout, co se už naučila, a učit se stále něco nového. Ti mladší to mají lehčí. Tím vůbec netvrdím, že bez počítačů by lidstvu bylo líp. Díky nim už nemusíme shánět informace po knihovnách – skoro vše, co chceme vědět, Google či Wikipedie nabídnou rychlostí světla.

Díky počítačům už nemusíme shánět informace po knihovnách – skoro vše, co chceme vědět, Google či Wikipedie nabídnou rychlostí světla

Noviny, časopisy a knihy si čteme na monitorech. Různé informace si ukládáme do bezedných elektronických pamětí, takže nemusíme tolik zatěžovat naši měkkou paměť mozkovou. Se svými přáteli a přítelkyněmi se můžeme přátelit po celém světě pomocí sociálních sítí. Ne vždy si však včas uvědomíme, co všechno to může způsobit. Tento boom může mít rozmanité následky, některé se daly očekávat, jiné však nikoliv.

ČESKÁ POZICE: Jaké jsou ty nečekané?

HAVEL: Nikdo dřív netušil, jakou budou mít počítače obrovskou paměť a pracovní rychlost. Zatímco kdysi megabyte paměti znamenal hodně, dnes to není takřka nic, mluvíme už o gigabytech a terabytech. Operační rychlost se pohybuje v neuvěřitelném řádu mikrosekund. Lidé na něco takového donedávna nebyli, a mnozí dodnes nejsou připraveni.

Zpočátku se počítače považovaly jen za velké kalkulačky. Dnešní notebooky mají stejné schopnosti jako obří „sálové“ počítače z padesátých a šedesátých let 20. století, které navíc vyžadovaly značný přísun energie. A dnes si na počítačích školáci hrají pod lavicí interaktivní hry. Právě paměť a rychlost dovolují, aby byly použity zcela jiné metody programování, které by člověk použít neuměl, a ani nechtěl. Jsou založeny na principu nazývaném „hrubá síla“. Díky ní mohou počítače porážet v šachu světové velmistry.

Debatuje se, zda zanikne kultura knih a novin na papíře, a nakonec i dovednost ručně psát. Časem může zakrnět schopnost si rozšiřovat vědomosti.

To všechno se dalo předvídat, ale nedalo se čekat, že to půjde natolik rychle. Vše, co jsem dosud uváděl především jako přínos, však má nebo může mít i zcela nečekané stránky sociální a kulturní. Už jsem se zmínil o generačních vztazích. Debatuje se, zda zanikne kultura knih a novin na papíře, a nakonec i dovednost ručně psát. Časem může zakrnět schopnost si rozšiřovat vědomosti. Facebookové „přátelství“ může vytlačit potřebu se naživo setkávat.

ČESKÁ POZICE: Proč nastalo takové masové přijetí počítače?

HAVEL: Pro většinu běžných uživatelů je počítač vítaným pomocníkem. Když mi nabídne encyklopedické znalosti nebo pomůže šikovně a rychle stylizovat rozsáhlý text, vítám to. To jsou funkce, které lidem usnadňují spoustu věcí. Navzdory tomu si člověk jako uživatel neuvědomuje, že počítač paradoxně žádný čas nešetří. Práce s ním totiž vyžaduje nové schopnosti a další čas navíc. Zkrátka, počítač některé činnosti sice usnadní a zrychlí, ale přidá jiné – člověk už nejen mluví, čte a píše, ale i pracuje na počítači.

ČESKÁ POZICE: To je dobře, nebo špatně?

HAVEL: Na to je-li to dobře, nebo špatně, je velmi těžké odpovědět obecně. Když člověk začal chodit po dvou, když si osvojil řeč a začal stavět chrámy, bylo to dobře, nebo špatně? Je tu nějaký vývoj, což v případě, o kterém se bavíme, není evoluce biologická, nýbrž sociální, kulturní a technická. Ta si jde jakoby svou cestou a někomu se to může líbit, jinému nikoliv.

Moderní doba velebila pokrok, mnohdy však nevěděla, co se jím rozumí. Každou změnu lze považovat za pokrok, není to stagnace, to však automaticky neznamená, že jde o změnu k lepšímu, či horšímu. Zpravidla to bývá kombinace obojího, navíc záleží na tom, v jakém historickém odstupu to posuzujeme.

Nelze obecně tvrdit, že překotný vývoj informačních technologií je buď dobrý, nebo špatný. A zejména to nedokážeme říct ve vztahu ke vzdálenější budoucnosti.

Takže nelze obecně tvrdit, že překotný vývoj informačních technologií je buď dobrý, nebo špatný. A zejména to nedokážeme říct ve vztahu ke vzdálenější budoucnosti. Navzdory tomu jsou lidé, kteří mají apokalyptické vize budoucnosti, kdy nás ty geniální stroje ovládnou a podrobí, případně zničí. To jsou ale jen spekulace, může se ukázat, že to půjde zcela jiným směrem, než se předpokládalo.

ČESKÁ POZICE: V čem se spatřuje hrozba?

HAVEL: V tomto ohledu se objevily nejméně dvě vize. Dle prvé jde o nejasný strach, že si stroje osvojí nejen lidskou inteligenci, ale i chtivost moci, druhá vize se obává, co se v počítačové budoucnosti stane s lidskou kulturou. Anglický kybernetik Kevin Warwick ve své knize Úsvit robotů, soumrak lidstva, která vyšla i u nás, varuje před situací, kdy roboti budou nejen inteligentní jako člověk, ale dokonce inteligentnější.

A dedukuje, že budou-li roboti inteligentnější než člověk, budou automaticky mít také větší moc, a budou-li mít větší moc, budou nás chtít zotročit. Jako by inteligence automaticky vedla k touze po moci a nadvládě. To se mi zdá dost ujeté tvrzení, nicméně profesor Warwick jde dál a odvozuje z toho, že nás stroje jednou ovládnou, a pokud se nepoddáme, zničí nás. Jako by inteligence znamenala schopnost zničit a schopnost zničit znamenala touhu zničit. Ale možná to trochu vulgarizuji.

ČESKÁ POZICE: A ta druhá vize?

HAVEL: Někteří autoři berou problém trochu z jiného konce. Zaobírají se myšlenkou, že člověk ve věku strojů ztratí respekt sám k sobě, protože zjistí, že stroje dovedou totéž co on, včetně toho, o čem si dnes myslíme, že to umět nemůžou. Tím pádem se otupí lidská sebejistota, potažmo sebedůvěra.

Někteří počítačoví futurologové mají za to, že až se počítače stanou inteligentnější než člověk, budou mimo jiné schopné, analogicky jako člověk, konstruovat něco ještě inteligentnějšího, než jsou samy

Jiní počítačoví futurologové mají za to, že až se počítače stanou inteligentnější než člověk, budou mimo jiné schopné, analogicky jako člověk, konstruovat něco ještě inteligentnějšího, než jsou samy. Už nebudou napodobovat nás, nýbrž sebe samé, a navíc se v tom budou zrychleně vyvíjet. Dříve, či později se utrhnou z řetězu a nastane exploze zvaná inteligenční singularita. Pro počítače pak budeme tím, co pro nás jsou lidoopi.

ČESKÁ POZICE: Je to reálné?

HAVEL: Těžko by se mi mluvilo o realitě něčeho, co není dost dobře definované. Ty různé úvahy totiž mají nejasné a zamlčené předpoklady, podle mne neoprávněné. Především je tu otázka, co znamená být inteligentní, a navíc to umět stupňovat. Jsem já inteligentní? Jsem inteligentnější než vy? Co se míní inteligencí „člověka“ jako takového, čili lidského druhu? Je to průměrná inteligence všech lidí, anebo je to inteligence dokonalého člověka?

Soudí se, že inteligence je cosi měřitelného, jako by existoval nějaký univerzální IQ test, díky němuž by termín „inteligentnější“ měl jasný význam. Ve skutečnosti existuje mnoho dimenzí či směrů inteligence, v některých směrech jsou stroje už dávno lepší než kterýkoliv člověk – vezměme třeba faktografickou paměť, rychlé prohledávání textů, schopnost počítat s velkými čísly. To ale vůbec neznamená, že stroje jsou také „lepší“ v jiných věcech, jako je tvořivost, vynalézavost, intuice a vtip.

Je tu ovšem i jiná otázka, poněkud subtilnější. Uvažme, že třeba jednou bude počítač opravdu schopný sám od sebe, bez lidské pomoci, vyrobit vylepšenou kopii sebe sama. Otázkou je, zda bude chtít a zda jej to vůbec napadne. Patří vůbec k inteligenci stroje něco chtít a mít nápady? Podobně jako jsem o tom mluvil v souvislosti s Warwickovou úvahou, máme i zde zamlčený předpoklad, že jakmile bude počítač něco umět, bude to hned také dělat. To jsou přece dvě různé věci!

ČESKÁ POZICE: Co tedy znamená, když se o počítači říká, že je inteligentní?

HAVEL: Máme inteligentní domy, okna, mobily, termosky, co chcete. Ono to s počítači může nakonec být stejně jako s jinými artefakty. Ale ti, co o tom mluví, mají zřejmě na mysli „lidskou“, tedy všestrannou inteligenci. Jak jsem uvedl, problém je v pojetí.

Třeba jednou bude počítač opravdu schopný sám od sebe, bez lidské pomoci, vyrobit vylepšenou kopii sebe sama. Otázkou je, zda bude chtít a zda jej to vůbec napadne.

Jedno pojetí počítačové inteligence se odvolává na slavného matematika Alana Turinga, který v roce 1951 navrhl test inteligence zaměřený na schopnost chovat se jako člověk v rozhovoru se skutečným člověkem – počítač by měl po stanovenou dobu poměrně úspěšně předstírat, že je člověkem. Turing tehdy usoudil, že se to podaří před rokem 2000. Nebyla to tedy definice obecné inteligence, nýbrž pouze předpověď konkrétního úspěchu.

Mimochodem právě letos v červnu proběhla světem zpráva, že v jedné britské soutěži dokázal počítačový program „Eugene Goostman“ udržet třetinu členů poroty celých pět minut v mylném přesvědčení, že konverzují se stejnojmenným třináctiletým chlapcem z Oděsy. Týž Kevin Warwick, o němž jsem mluvil, to hbitě prohlásil za historický průlom v umělé inteligenci. Uvádím to však spíše jako ukázku, jak jsou takové úvahy vágní. Proč zrovna třetina členů poroty, a nikoli všichni? Proč zrovna pět minut, a nikoli trvale?

Já si myslím, že se vlastně testuje inteligence programátorů, kteří moudře zvolili ukrajinského kluka, aby nemusel na všechno znát odpověď a aby mohl dělat chyby v angličtině. A také si myslím, že je to test nízké inteligence poroty. Takže žádný průlom!

ČESKÁ POZICE: Navzdory tomu se stroje zdokonalují.

HAVEL: To jistě. Vývoj informačních technologií je obdivuhodný, to vidí každý. Už jsme o tom mluvili. Objem zpracovávaných dat, blesková přístupnost k paměti a její kapacita, mikrominiaturizace a navíc klesající cena, to jsou výjimečné věci. Ba i schopnost oklamat porotu. Navíc to vše roste exponenciálně, což v řeči prognostiků znamená, že časová křivka vývoje je strmá a stále strmější, dokud nenastane zmíněná singularita. Někteří katastrofičtí vizionáři soudí, že bude brzy, jeden odhad je například rok 2045. Já si to jednak nemyslím, jednak vím, že se toho naštěstí nedožiju.

ČESKÁ POZICE: Opravdu se věci, jak říkají zmínění vizionáři, začínají vymykat z ruky, anebo je má člověk stále pod kontrolou?

HAVEL: Máme sklon se utěšovat, že člověk si přece jen ponechává tu nejzákladnější schopnost – počítač vypnout. To samo bych nebral příliš vážně, dnes totiž už nejde o jednotlivý počítač, nýbrž o celosvětovou síť. Vypnete jeden a okamžitě ho nahradí spousta jiných. Anebo ho někdo jiný zase zapne. Jde tu podle mne o něco jiného, vlastně na jiné úrovni.

Stroje vymysleli lidé a vymysleli je jako stroje. Možná rychlejší, efektivnější a tak či onak schopnější, ale nemohli do strojů vložit něco, čemu sami u sebe dost dobře nerozumějí. Jen člověk se dovede svobodně rozhodovat a jen on si může uvědomit, zda jeho rozhodování je, či není svobodné. Počítač může skvěle hrát šachy, ale to přece neznamená, že hrát chce, ani že nechce. Prostě hraje nebo nehraje, vyhrává nebo prohrává, je mu to jaksi jedno. Může jednat i nahodile, ale náhoda je jedna věc a svoboda druhá.

Objevuje se otázka, zda si vůbec stroj může uvědomovat sebe. Protože k tomu, abych se mohl svobodně rozhodnout, musím především vědět, že „jsem“, a to v hlubším smyslu toho slova.

A hned se objevuje otázka, zda si vůbec stroj může uvědomovat sebe. Protože k tomu, abych se mohl svobodně rozhodnout, musím především vědět, že „jsem“, a to v hlubším smyslu toho slova. Chtít něco dělat je pak moje chtění, a není to tedy jen tak něco nahodilého. Vědomí, sebeuvědomování, nedovedeme – a podle mne to ani nejde – redukovat na fyzikální nebo biologický proces. Řečeno jinak, intelektuální výkon provádí někdo, kdo má subjektivní postoj k tomu, co koná.

ČESKÁ POZICE: Co by počítač musel umět, aby člověka nahradil?

HAVEL: Mít subjektivní postoj, aby mohl třeba i něco chtít. Já neříkám, že nemůže, jen si myslím, že to nejde naprogramovat, počítač by na to musel přijít jedině sám od sebe. Pak by nám to možná prozradil, ale my bychom mu nemuseli věřit – mohl by nás klamat stejně jako program „Eugene Goostman“.

Nechme tedy stranou problém subjektivity. Ale i pak budu mít s otázkou problém, nevím totiž, jak chápat termín „nahradit“. Měl by počítač za nás provádět lidské činnosti po stránce fyzické, duševní, či jaké ještě?

Minimálně bych požadoval autonomnost či samostatnost. Jenže aby se nám zdálo, že nějaký stroj je samostatný, se dá snadno zařídit už dnes. Existují roboti, kteří bez naší pomoci dovedou třeba uklidit byt, a vypadá to, jako by se sami rozhodovali co uklidit dřív a co později. I náhodné chování může vyvolat dojem, že je záměrné či nějak cílené. A náhodu naprogramovat není problém.

ČESKÁ POZICE: Zatím jsme mluvili spíš o budoucnosti. Rád bych přešel na dnešní stav. Co podle vás počítače už přinesly člověku dobrého?

HAVEL: Dal by se udělat dlouhý seznam dosavadních přínosů počítačů, jistě bych na mnoho věcí zapomněl. Již jsem se zmínil o Googlu. Počítače také pomáhají překládat mezi jazyky, editovat texty, dále je tu bezpočet užití ve vědě včetně kosmického výzkumu, v lékařství, při řízení podniků a tak dál a dál.

I náhodné chování může vyvolat dojem, že je záměrné či nějak cílené. A náhodu naprogramovat není problém.

Pomocí počítačů lze určovat optimální řešení velmi složitých problémů. Jistě nemusím připomínat navigaci nejen vesmírných sond, ale i pozemských automobilů. Internet umožňuje bleskovou komunikaci po celém světě. Také nás podporuje v našem nutkání si něco stále obstarávat, nakupovat a objednávat, což pro mne příliš neznamená, ale hodně lidí si to považuje.

ČESKÁ POZICE: Projevují se také nějaké negativní vlivy?

HAVEL: Leccos z toho, co jsem nadhodil, když jsme mluvili o budoucnosti, se začíná projevovat už teď. Jak tak dovolujeme strojům, aby nahradily naše intelektuální schopnosti, postupně o ně přicházíme. Já sám se už spoléhám víc na paměť svého notebooku než na vlastní. Tu si nijak obzvlášť neprocvičuji, takže kdo ví, jak to s ní dopadne...

Před lety se masově rozšířily jednoduché kalkulačky a jsem si jistý, že těm, kdo je používají, ubyla schopnost zacházet s čísly. Ani nevím, jestli se ještě ve školách učí násobení a dělení z hlavy, nebo aspoň s tužkou na papíře. Vypsaný rukopis byl vytlačen klávesnicí, myší a dotykovým monitorem. Lidé přicházejí o schopnost se pohotově a srozumitelně vyjadřovat nejen ústně, ale i písemně.

Na počítači lze vyhledávat, upravovat a skládat hotové obrázky, nepotřebujeme již obrazotvornost a výtvarný cit. Spoustu vlastnosti, na které dosud byli lidé pyšní, nahrazuje hrubá síla počítače.

ČESKÁ POZICE: Co se rozumí hrubou silou počítače?

HAVEL: Hrubá síla je technický termín (anglicky „brut force“) pro využití závratné operační rychlosti a prakticky neomezené paměti počítače k nahrazení jinak náročných intelektuálních výkonů lidí. Příkladem jsou opět šachy. Díky hrubé síle může počítač během okamžiku projít obrovské množství předpokládaných variant hry a k tomu i těžit ze znalosti sto tisíců dříve sehraných mistrovských partií. Lidský šachista nemá než intuici, fantazii, zkušenost a štěstí.

Spoustu vlastnosti, na které dosud byli lidé pyšní, nahrazuje hrubá síla počítače

Hrubá síla také zajišťuje počítačům vítězství v náročných znalostních kvízech. Neznám strategii použitou při předstírání chlapce z Oděsy, ale vsadil bych se, že v tom bylo více hrubé síly než porozumění. Možná vše, v čem nás umělá inteligence překoná, bude založeno na hrubé síle.

ČESKÁ POZICE: Napodobují se při konstrukci počítačů nějaké biologické principy?

HAVEL: Na nic se nezapomíná. Příklad za všechny: asi před 30 lety se objevila metoda takzvaných umělých neuronových sítí, která napodobuje – lépe řečeno připomíná – některé biologické procesy v lidském mozku. Nejde ani tolik o napodobení mozku jako takového, ale o použití principu, na němž mozek pracuje na nejnižší úrovni, tedy na úrovni neuronů a jejich plastických vazeb.

Počítač si pamatuje, třídí a rozpoznává data nikoliv v podobě slov a čísel, nýbrž pomocí změn propojení v rozsáhlé síti jednoduchých prvků. Poté, co je počítač vystaven velkému množství podobných úloh a vždy se dozví, zda se zachoval správně, bude nadále schopný řešit podobné úlohy sám. Tak se může naučit rozpoznávat rukopis a hlas svého pána. Takový počítač se učí z vlastních chyb a úspěchů.

Dovolte mi malou spekulaci. Představme si takovou umělou neuronovou síť s obrovským množstvím prvků, které mezi sebou křížem krážem komunikují, čímž se komunikační cesty postupně prošlapávají, narůstají a větví. Napadne nás otázka: Nevznikne někdy nějaká nečekaná konstelace propojení jaksi spontánně, bez zásahů člověka? Že by se v tom zdánlivě chaotickém chování mohla vykrystalizovat nějaká nepředvídatelná zvláštnost.

ČESKÁ POZICE: Proč tyto možnosti natolik vyrážejí dech?

HAVEL: To, co nás nejvíc překvapuje, je srovnání se stavem světa před vznikem počítače a situací teď. Ten rozdíl vnímáme jako obrovský skok, máme takřka pocit nějakého zázraku. Jenže tak to funguje v mnohém jiném, včetně biologické evoluce.

Počítač si pamatuje, třídí a rozpoznává data nikoliv v podobě slov a čísel, nýbrž pomocí změn propojení v rozsáhlé síti jednoduchých prvků

Dívám se na pavučinu a trnu v úžasu, kde se v tom pavoukovi mohla vzít schopnost něco natolik dokonalého upříst. Neuvědomuji si totiž, že to, co se mi jeví vlastností konkrétního pavouka, je spíše vlastnost druhu, a ta se musela vyvíjet po malinkých krůčcích miliony let. Vývoj počítačů jde také po krůčcích, ale podstatně rychlejších.

ČESKÁ POZICE: Co si myslíte o využívání počítače v sociálním kontaktu?

HAVEL: Kontakt s lidmi prostřednictvím počítače má pro spoustu uživatelů řadu výhod, jež si lze snadno představit. Já bych snad raději zkusil opět uvažovat o možných vedlejších efektech. Při přebujelé komunikaci na počítači se člověk připravuje o mnoho věcí, často například o svou identitu tím, že vstupuje do fyzické anonymity. Pak už to není člověk z masa a krve, je po něm jen text na obrazovce. Ochuzuje se pojem člověka jako lidské bytosti, která komunikuje nejen hlasem, ale i gestem, výrazem tváře, celým tělem.

Na Skypu se můžeme vidět, ale to není ono. Paradoxně se právě v sociální síti můžete cítit sociálně osamocen. Nechci tomu dávat zcela negativní znaménko, za dvacet třicet let se možná ukáže, že jsme se naopak obohatili, vedle okruhu reálných přátel vzniká další, větší okruh přátel virtuálních, nezávisle na jejich geografickém rozptýlení.

ČESKÁ POZICE: Vzniká díky počítačům nová forma společnosti?

HAVEL: Asi máte pravdu, vytvoří se úplně nové sociální vazby. Virtuální socialitu je asi předčasné nějak hodnotit, víme jen, že se zatím rozrůstá především u mladších generací. Ty ale časem budou starší. Myslím, že geografické rozptýlení, jak jsem to nazval, hraje velkou roli. Byla doba, kdy vášniví radioamatéři – prý ještě existují – navzájem komunikovali morseovkou přes kontinenty. Byl to takový jejich koníček a jistě to byl zážitek s někým se na dálku propojit.

Při přebujelé komunikaci na počítači se člověk připravuje o mnoho věcí, často například o svou identitu tím, že vstupuje do fyzické anonymity

Můj první pocit z e-mailu někdy v roce 1990 byl dost podobný. Ten neuvěřitelný zážitek, že jsem někomu poslal zprávu a vzápětí mi došla odpověď, třeba přes celý oceán. Možná jsme ve stadiu uchvácení tím, že už není jedinec jedincem, ale že existují velké skupiny lidí, které se takto pohodlně seskupují.

ČESKÁ POZICE: Do jaké míry to může být zneužitelné?

HAVEL: Je to dobře vidět i na zmíněném e-mailu. Původně jsem si myslel, že nebudu muset psát dopisy, olizovat známky a chodit na poštu, a že tím ušetřím spoustu času. Teď mi ale chodí tolik e-mailů, že je někdy i celé dopoledne jenom třídím, mažu reklamy a spamy, bojím se virů, odkládám pozvánky a odpovídám, na co musím ze slušnosti odpovědět.

Toto zahlcení pociťuji jako docela negativní stránku věci. Co se týče sociálních sítí, se mohou se stát stejně zneužitelnými jako cokoliv jiného. Lidé se prostřednictvím sítí mohou svolávat k dobré a dobročinné akci, ale také k rasové demonstraci. To se ale nedá klást za vinu síti samotné, jsou to zase jen lidé, kteří to můžou využít k dobrému, či špatnému. Obojí je snadné. Co se týče sociálních sítí, nakonec to třeba půjde ještě nějakou třetí cestou a nemusí se to pohybovat jen ve striktních kategoriích dobrého a zlého.

ČESKÁ POZICE: V americkém sci-fi filmu Ona z roku 2013 se řeší emoční vztah k počítači. Může se to stát realitou, či je to jen nadsázka?

HAVEL: Ten film se mi velmi líbil, nastoluje spoustu hlubších otázek. Jde o citový vztah nejen k textu na obrazovce, ale i k počítačem generovanému hlasu – zvláštní emoční vztah člověka k počítači i počítače k člověku. Nabízí se otázka, jestli lze vymyslet natolik důmyslný program, že napodobí lidské emoce po všech stránkách. Je plno lidských vlastností, které stroj dokáže napodobit, a člověk na to může naletět.

Sociální sítě se mohou stát stejně zneužitelnými jako cokoliv jiného. Lidé se prostřednictvím sítí mohou svolávat k dobré a dobročinné akci, ale také k rasové demonstraci.

Lidé mají emoční vztahy ke všemu možnému. Jako malé dítě jsem si vytvořil citový vztah k vlastním bačkorkám. Kdykoliv jsem je ukládal ke spánku, dbal jsem, aby se jim vedle sebe dobře spinkalo. Proč bych nemohl mít emoční vztah k programu na počítači? Může se to zdát úchylné, ale co když to pro člověka znamená zcela novou dimenzi citového života? Přeháním schválně.

ČESKÁ POZICE: Takové uvažování o emocích ve vztahu ke strojům často nahání lidem strach…

HAVEL: Některým lidem jistě. Těm, co mají sklon vidět vždy tu horší stránku, že to či ono nás spíše ochudí, než obohatí. Možná mají pravdu, vlastně i já mám takový sklon. Kdybych však měl uvažovat pozitivně, řekl bych, že díky umělé inteligenci mohou vzniknout úplně nové úrovně vztahů, aniž by to bylo na úkor těch dosavadních.

Mnoharozměrnost lidského intelektu a emocí se může ještě dál rozvíjet. Náš vztah k počítačům nemusí být na úkor vztahu k lidem, ale může nás obdařit dalším a zcela novým typem vztahů. Emoce jsou sice evolučně staré jako lidstvo samo, ale jak se všechno zrychluje, možná se brzy i u lidí projeví emoce nové. I to může být poučení z filmu Ona.

Naši pradávní předci měli původně asi jen čistě utilitární vztah ke zvířatům, buď se jich báli, nebo je lovili. Představte si, že by jim tehdy někdo tvrdil, že jednou to budou jejich domácí mazlíčci a že je to dokonce citově obohatí. Takže může nastat čas, kdy se budeme mazlit s počítači, a tím se cítit emočně bohatší. Ostatně, už existují roboti, kteří si hrají s dětmi, a ty je milují.

Ale může to dopadnout zcela jinak. Třeba nebudeme mít počítač za pouhou věc, ani za blízkého přítele, ale stane se součástí nás samotných. Podobně jako moje brýle se staly již částí mého těla a nesporně mi vylepšují život. Nemusíme si přece hned myslet, že počítače jsou zcela autonomní tvorové. Tím méně že mají vlastní „já“ – ani nevíme, co by to znamenalo. Počítače s umělou inteligencí můžeme chápat jako prodloužení našich smyslů, myslí a těl.

ČESKÁ POZICE: I lidských těl? Jak by něco takového vypadalo?

HAVEL: Koneckonců něco podobného je už dnes ve vývoji, a to v podobě inteligentních exoskeletů, například umělých končetin řízených myšlenkami. Tělesně postižení budou již brzy ovládat své protézy pouhou vůlí. Proč raději nepoužít strojů ke zdokonalení nás samých, než se jimi jen obklopovat?

Počítače s umělou inteligencí můžeme chápat jako prodloužení našich smyslů, myslí a těl

Rozšířím na stroj svoji subjektivitu a on mi za to poskytne nejen svou počítačovou hrubou sílu, ale i sílu fyzickou. Je to dobře, nebo špatně? Díky automobilům se přemisťujeme rychleji, zato však méně běháme a ochabují nám svaly. Máme tesknit, že jsme byli kdysi silnější a svalnatější a vyčítat autům, že nás toho zbavily?

ČESKÁ POZICE: Je to civilizační zlom? Ovlivňují současné technologické možnosti náš pohled na člověka?

HAVEL: Ovlivňují, jde jen o to, jakým směrem. Řada vědců přisuzuje mnohem větší význam exaktním vědám než člověku. Psychologie váhá. I ona by nejraději redukovala lidskou mysl na vibrace neuronů v mozku, ne-li přímo na chemické reakce. Pak by někdo třeba i vynalezl přístroj, který by z našeho mozku vyčetl i to, co si myslíme a co si přejeme. Třeba by snímal moje sny a promítal je druhým na plátno.

Tato představa je dost ztřeštěná, ale byl by to logický důsledek rostoucí role exaktních věd i v našem běžném životě. Všechno kolem nás je tak či onak technizované, což podsouvá lidem pocit, že technika umí vše, a co neumí ona, neumí nikdo. Že jedině díky ní můžeme mít pokrok. To je podle mého soudu negativní vliv současné technologické vyspělosti na myšlení člověka o člověku.

Plést si člověka se strojem je horší, než si plést stroj s člověkem

ČESKÁ POZICE: A pozitivní moment?

HAVEL: Pozitivní je člověk sám. Je to svoboda naší mysli, díky níž se necítíme být v područí tvrdých kauzálních souvislostí. Svoboda je protikladem determinismu – a na rozdíl od něj má i etickou náplň. Pro technika je nějaká věc špatná je tehdy, když nefunguje. Svobodná lidská bytost může jednat dobře i špatně. Je to výsada člověka, která ho odlišuje od hodinového stroje i od hrací kostky.

Pokud bychom chtěli redukovat naši svobodu na vibraci neuronů a molekul, člověka interpretujeme jako roztřesený stroj. Plést si člověka se strojem je horší, než si plést stroj s člověkem.

Ivan M. Havel (75)

Bratr Václava Havla. Vyučil se jemným mechanikem, později v roce 1966 absolvoval večerní studium v oboru automatizace na elektrotechnické fakultě ČVUT v Praze. Později, počátkem sedmdesátých, získal doktorát z počítačové vědy na prestižní Kalifornské univerzitě v Berkeley v USA. Několik let pracoval v Ústavu teorie informace a automatizace Československé akademie věd, později jako domácí pracovník v družstvu invalidů Meta.

Organizoval bytové semináře a spolupracoval na vydávání samizdatu. V roce 1989 patřil ke spoluzakladatelům Občanské fóra. V letech 1990 až 2008 byl ředitelem Centra pro teoretická studia Akademie věd ČR a Univerzity Karlovy, kde působí dodnes. Přednáší na Matematicko-fyzikální fakultě UK v Praze. Taktéž je šéfredaktorem odborného časopisu Vesmír.

Zabývá se především teorií automatů, umělou inteligencí a robotikou, v současnosti pak zejména kognitivní vědou, filozofií mysli a teorií vědy. Je autorem knihy Robotika (1980), v samizdatu pak vydal knihu filozofických rozhovorů s filozofem Zdeňkem Neubauerem Sidonia a Sakateky čtrnáctero zastavení. Jeho eseje vyšly v knihách Otevřené oči a zvednuté obočí (1998), Zvednuté obočí a zjitřená mysl (2005) a Zjitřená mysl a kouzelný svět (2013). V roce 2008 a 2010 mu vyšly rozhovory se spisovatelem Michalem Ajvazem Snování – rok dopisů o snech a Sindibádův dům. V roce 1997 vydal prozaickou juvenilii Arsemid.