Až se lidé stanou roboty...

Nebezpečí nespočívá v poslouchání algoritmů, jež jsou chytřejší než kterýkoliv člověk. Katastrofální důsledky však může mít, přestanou-li lidé naslouchat svému vlastnímu svědomí či nebudou-li se svobodně rozhodovat.

Kdo odpovídá za roboty? | na serveru Lidovky.cz | aktuální zprávy Kdo odpovídá za roboty? | foto: Richard Cortés, Lidové noviny
Kdo odpovídá za roboty? | na serveru Lidovky.cz | aktuální zprávy

Již zhruba sto let panuje strach, že díky technologickému pokroku vytvoříme entity, které budou tak dokonalé, že přijmou lidské chování a zničí lidi. Větší riziko ale možná představuje, že se lidského chování sami vzdáme.

Karel Čapek ve svém dramatu R.U.R. ukazuje následky, jež by pro lidstvo mohlo mít, kdyby robotům byla vdechnuta duše a stali se lidmi. Navzdory tomu hra končí poměrně optimisticky – roboti se stanou lidmi, čímž nezanikne láska, a roboti Primus a Helena začínají znovu od začátku jako Adam a Eva. Lidstvo jen mutuje do jiné podoby. Nabízí se ale otázka, jak by Čapek reflektoval dnešní situaci.

Nerozlišování zla a dobra

V současnosti lze občas obtížně rozeznat, zda mluví člověk či robot, například při hovoru s telefonním operátorem nebo při nákupu v supermarketu. Namísto otázky, zda se roboti stávají více lidmi, je možná třeba se ptát, zda se lidé nestávají roboty. K odpovědi je nutné nejprve definovat, co je typicky lidské, což není snadné.

Roboti nečiní zlo ani dobro, protože je nerozlišují, nepřemýšlejí v lidských hodnotových kategoriích. Neochutnali jablko ze stromu poznání.

Ukazuje se totiž, že mnoho lidských vlastností lze na primitivní úrovni pozorovat i u zvířat. Z vývoje umělé inteligence zase vyplývá, že mnohé z toho, co zvládne člověk, může zastat i stroj. Homo sapiens může připomínat neandrtálce na cestě mezi lidoopy a moderním člověkem, jenž ho nakonec porazil.

Člověk má na rozdíl od zvířat například vyšší uvědomění či víru a roboti se od něho liší v tom, že zcela poslouchají algoritmy, na jejichž základě byli naprogramováni. Nečiní zlo ani dobro, protože je nerozlišují, nepřemýšlejí v lidských hodnotových kategoriích. Neochutnali jablko ze stromu poznání.

Příliš složitý svět

Současný hodnotový chaos člověka mate – na internetu lze objevit argumenty pro cokoliv. Život v postfaktické době je únavný, protože se musí se ověřovat každé tvrzení. Není jasné, komu věřit, co jíst, jak žít. To je možná i jeden z důvodů nástupu silných lídrů a konspiračních teorií – vytvářejí iluzi, že alespoň někdo ví, jak to je, a řídí svět.

Není snadné si přiznat, že nikdo není vševědoucí, a svět příliš složitý, aby se v něm někdo vyznal, natož jej řídil

Není snadné si přiznat, že nikdo není vševědoucí, a svět příliš složitý, aby se v něm někdo vyznal, natož jej řídil. Mnoho lidí má ale také problém poslouchat silné jedince. Rakouský ekonom Friedrich von Hayek (1899–1992), který se zabýval střetem individuálního a kolektivního, si všímá, že se lidé podřizují spíše neosobní autoritě než silnému jedinci.

Je snazší poslouchat stranu než jednotlivce, popřípadě koalici stran než jednu stranu. Pokud jsou strany podporované experty, získávají autoritu ještě snadněji. Slova, jako je věda či expertní analýza, vyvolávají důvěryhodnost. Ukazuje se však, že expertní vědění je v případě předpovědi budoucnosti téměř bezcenné.

Přesnější než lidský úsudek

Vývoj se zrychluje a předvídat jej je stále obtížnější, proto pravděpodobně poroste poptávka po něčem přesnějším, než je lidský úsudek. Politici se možná budou zaštiťovat předpověďmi algoritmů vytvářejících programy i návrhy řešení. A pokud budou jejich předpovědi jen o trochu lepší než expertů, mohou je nahradit, popřípadě s nimi spolupracovat. Politici to budou mít jednodušší, protože nebudou plně odpovědní za svá rozhodnutí – tu s nimi ponese expertní algoritmus.

Vývoj se zrychluje a předvídat jej je stále obtížnější, proto pravděpodobně poroste poptávka po něčem přesnějším, než je lidský úsudek

Rozhodování algoritmy může ovlivnit i další oblasti života, například místo psycholožky či třídní učitelky na základní škole výběr budoucího vzdělání a povolání. Analýza algoritmů může pomoci i při volbě partnera, právníka či lékaře. Rozhodování algoritmů může být prospěšné, ale záleží na míře.

Nebezpečí nespočívá v poslouchání algoritmů chytřejších než lidé – sestrojit něco natolik dokonalého, jako je lidská mysl, bude trvat ještě dlouho, pokud se to vůbec podaří. Katastrofální důsledky ale může mít, přestanou-li lidé naslouchat svému svědomí či nebudou-li se svobodně rozhodovat a podstupovat rizika omylů, a podřídí se tomu, o čem si budou myslet, že je chytřejší, což je zavede na scestí. Stejně jako diktátoři ve 20. století.



Diskuse neobsahuje žádné příspěvky.