Nenápadná kontrola: Hlavní riziko demokratické organizace společnosti

Romány s vizemi totalitní budoucnosti George Orwella všichni znají. Ještě před ním na svět, co může přijít, upozorňoval anglický spisovatel Aldous Huxley. Seriál Netflixu na motivy jeho dystopického varování ukazuje, kolik se splnilo z jeho temných předpovědí.

Petr Fischer 5.4.2021
Umělá inteligence | na serveru Lidovky.cz | aktuální zprávy Umělá inteligence | foto: Reuters
Umělá inteligence

Utopie pohánějí i brzdí lidský vývoj. Lidé neumějí žít bez snů o lepší a šťastnější budoucnosti, bez vizionářství a představ o ideálním světě. Potřebují si vyprávět, že „bude líp“. Takové vyprávění uklidňuje a spojuje, vytváří společnosti. Utopie od Platónovy Ústavy, kde se popisuje ideálně fungující svět, po dnešní singularitu, myšlenku propojení všech mozků lidstva s umělou inteligencí pocházející z hlavy podnikatele Elona Muska, inspirují miliony lidí, ale další miliony, někdy stejné, děsí.

A tak vznikají antiutopie, často detailní varování před příliš ideální budoucností či před hrůzami současnosti, které lidstvo do budoucna ohrožují. Realita se i dnes snadno mění v antiutopii podobně rychle, jako se antiutopie uskutečňují coby reálný svět. V logice iluze se skrývá to, že je vždy předem v možnosti i deziluzí, což samo o sobě neříká nic o tom, co tento pohyb dějinně či psychologicky přináší.

Proměna utopie v dystopii

„Společnost je s to přežívat jen s pomocí fikce. Pouze fikce umožňuje dějinám pokračovat, pouze mýtus jim dodává smysl; společenství bez mýtů a iluzí je odsouzeno k zániku,“ píše Patrik Ouředník ve svých malých soukromých dějinách utopií nazvaných Utopus to byl, kdo učinil mě ostrovem. U-topie, jak naznačuje etymologie pojmu, vzniká mimo prostor, ale je také a-chronií, tedy mimo čas, připomíná Ouředník. Právě to utopii dává vizionářskou sílu, která posléze v konkrétním prostoru a čase nutně nějak vyprchává.

Utopická dokonalost se hroutí. Proto se každá utopie při srážce s realitou mění ve větší, či menší dystopii – stejně jako se sen o ideální komunistické společnosti, který kdysi neměla daleko od jakési civitas dei, boží obce bez Boha na zemi, skončil v gulazích a v perfidním ponižování obyvatelstva všudypřítomným, plíživým strachem.

Každá utopie se při srážce s realitou mění ve větší, či menší dystopii – stejně jako se sen o ideální komunistické společnosti, který kdysi neměla daleko od jakési civitas dei, boží obce bez Boha na zemi, skončil v gulazích a v perfidním ponižování obyvatelstva všudypřítomným, plíživým strachem

Protože s touto proměnou komunistického ideálu v černou můru má česká společnost silnou a dlouhou zkušenost, stal se v Česku dystopickou legendou, jakousi dystopií par excellence či dystopií všech dystopií román 1984 George Orwella (1903–1950). Dílo z roku 1949 bylo stálicí utajované normalizační četby. Mrazivá vize života v totalitním režimu s jeho podobenstvím Farma zvířat, bajce o životě rovnějších mezi rovnými a o možnosti či nemožnosti vzpoury, nebyla pro čtenáře v tehdejším Československu žádnou dystopií.

Naopak měli většinou pocit, že tato antiutopická fikce je více či méně žitou realitou, protože přesně popisuje rámec a principy fungování totalitního režimu, ve kterém jsme žili. Představa společnosti kontrolované strachem a ideologickým vymýváním mozků pod vládou všudypřítomného Velkého bratra se jako varování bohužel vyplnila. Ostatně, pojem „Velký bratr“ žije v běžné komunikaci jako idiom dodnes, i když má trochu jiné konotace, stejně jako žije dál orwelliáda či prostě „Orwell“.

Kupodivu stranou a zcela bez empatického pochopení zůstala v Česku, a to jak v komunistickém, tak porevolučním, druhá velká antiutopie 20. století, kterou sepsal také anglický autor, ale o 18 let dříve. Aldous Huxley (1894–1963) napsal svůj román Překrásný nový svět (Brave New World, česky Konec civilizace: aneb Překrásný nový svět) v roce 1931, kdy řádila velká hospodářská krize a k moci se dral fašismus.

Estetizace dehumanizace

Jeho antiutopické varování navzdory tomu primárně nemířilo na despotické a totalitní režimy, ale na systém demokratický, který je ohrožován vlastní utopií. Představou o nejlepším z možných systémů svobodné organizace lidských záležitostí, kde si každý člověk – jak říká americká Deklarace nezávislosti – činí nárok na „život, svobodu a sledování osobního štěstí“. „Pursuit of happiness“, tedy ještě silněji: kde lidé usilují o osobní štěstí, kdy se za ním ženou.

Huxley ve svém románu zachycuje spodní proudy této vytoužené „společnosti štěstí“, která ve snaze uspokojit všechny lidi nakonec lidské bytosti zbavuje jejich osobitosti a svobody, tedy lidského života vůbec. V knize se nevzdává naděje na demokratické koexistování, v němž může být většina lidí šťastná a svobodná, jak chce, šokuje ho však, co s tímto demokratickým nárokem na osobní štěstí dělá masová společnost. Huxley byl anglický elitář a individualista.

Seriál Brave New World streamovací společnosti Netflix, který je jedním z lákadel začátku roku 2021, huxleyovskou dehumanizaci pěkně estetizuje. Masové štěstí s úsměvy a pohlazením v pastelových barvách je hřejivé a hladké, dokonalé, jako je to na papíře u Huxleyho, který se inspiroval i ideologií fordismu prosazující ideu společnosti jako fungujícího stroje.

Projevy masové společnosti, v níž se lidé mění v neurčitého davového člověka, kterého lze snadno manipulovat podvědomě působícími psychologickými postupy či přinášet slast umělými potěšením a farmaceutickými prostředky, ho děsí. Proto se v jeho románu lidé v novém Londýně poloviny 3. tisíciletí udržují v klidu a pohodě uklidňující somou, sjížděním příjemných emotivních filmů a konzumací sexu bez limitů, učí se hypnopedií ve spánku, což lze jen obtížně odlišit od čistění hlavy brainwashingem.

A když je nejhůř, nepovedený model porouchaného jedince se překonfinguruje, upgraduje. Překrásný nový svět se letos, 90 let po svém vzniku, dočkal nové filmové verze. Seriál Brave New World streamovací společnosti Netflix, který je jedním z lákadel začátku roku 2021, huxleyovskou dehumanizaci pěkně estetizuje. Masové štěstí s úsměvy a pohlazením v pastelových barvách je hřejivé a hladké, dokonalé, jako je to na papíře u Huxleyho, který se inspiroval i ideologií fordismu prosazující ideu společnosti jako fungujícího stroje.

Stát je pak nejen firma, jak to naivně naznačuje český premiér Andrej Babiš, ale dokonce jedna velká továrna, kdy jednotlivá kolečka a strojky, tedy lidé, dělají, co je třeba. Proč se proti takové dokonalosti bouřit, když je vše hezké, hladké, fungující, a všichni si užívají strojového štěstí?

Vzpoura proti strojům slasti

Jenže bouřit se je nutné kvůli strojovosti a naprogramovanosti všeho, jak mimo jiné zdůrazňuje seriál, v němž ožívá trojice hlavních hrdinů Bernard Marx, Lenina Crowneová a divoch John. Snad aby předvedli, že každý dokonalý systém lidské společnosti se stále znovu rozbíjí o svou inherentní chybu individuální lidi („chyba – to jsme my“), jak to v závěru předvádí výtečně zinscenovaná společenská katastrofa způsobená vzpourou gam, lidí na nejnižší úrovni společenské hierarchie, připomínající dnešní prekariát.

Pro Huxleyho je důležitý rozdíl mezi strojovostí ideální lidské společnosti založené na Fordově konceptu masové tovární výroby všeho i na využití freudovské znalosti lidského podvědomí, která má z mechanismu stroje vytvořit hladký organismus, „aby se lidé chovali předvídatelně jako stroje“... Jenže lidé nejsou společenským hmyzem, kde je každé individuum jen programovou součástí celku, protestuje Huxley celý život, jakkoli se zdá, že se jím lidé musejí stále víc stávat, aby na Zemi v takovém obrovském množství přežili.

Huxleyho dystopie se i v seriálové verzi Netflixu, která interpretačně s předlohou nijak výrazně neexperimentuje, drží étosu svobodné vzpoury proti strojům slasti, která ale není bez obětí. Jenže taková osobní revoluce je v masové společnosti stále obtížnější. Jak těžké to je, vidíme i v dnešní covidové pandemické krizi, kdy se dokonce zdá, že model organizace státu podle vzoru společenského hmyzu (asijské země), v níž má celek přednost před jednotlivcem, je vůči přicházející hrozbám odolnější.

„Civilizace je mimo jiné procesem, díky němuž se primitivní smečky proměňují v analogické, hrubé a mechanické organické komunity sociálního hmyzu,“ vykresluje fordistickou ideu dějinného pokroku Huxley, s níž bytostně nesouhlasí. Každá včela či trubec mají být nejprve sami sebou a teprve potom spolupracovat na životě v úlu. „Člověk nebyl stvořen, aby byl automatem, a když se jím stává, dochází k poškozování duševního zdraví.“

Huxleyho dystopie se i v seriálové verzi Netflixu, která interpretačně s předlohou nijak výrazně neexperimentuje, drží étosu svobodné vzpoury proti strojům slasti, která ale není bez obětí. Jenže taková osobní revoluce je v masové společnosti stále obtížnější. Jak těžké to je, vidíme i v dnešní covidové pandemické krizi, kdy se dokonce zdá, že model organizace státu podle vzoru společenského hmyzu (asijské země), v níž má celek přednost před jednotlivcem, je vůči přicházející hrozbám odolnější.

V seriálu Netflixu se tato výhoda projevuje i v estetičnosti takové organizace, v jisté nesporné poklidné kráse (možná hrůzné), kterou obyvatelé nového světa prožívají i díky drogové euforii „bytostněji“. V roce 1958 Huxley napsal knihu Brave New World Revisited (Překrásný nový svět. Nová návštěva), v níž se po čtvrtstoletí snažil zachytit, nakolik se ve své vizi budoucnosti mýlil a nakolik se naopak jeho antiutopie stává realitou.

Manipulace davu

Kniha začíná kapitolou o přelidnění, z něhož Huxleymu vstávají vlasy hrůzou na hlavě už proto, že bylo o tolik rychlejší, než si on sám představoval. Zvyšuje se tím podle něho tlak na další méně násilné manipulace masy, přičemž je přesvědčen, že „metody trestů z Orwellova románu 1984 budou nahrazeny fixacemi a posilováním lidských stereotypů a manipulacemi Překrásného nového světa“.

„Ukázalo se jasně,“ shrnuje Huxley, „že kontrola trestáním nechtěného chování je v dlouhodobém pohledu méně efektivní než kontrola posilováním, fixováním chtěného chování pomocí odměn. A že vláda teroru působí na celek méně efektivně než vláda manipulace prostředí a myšlenek a pocitů individuálních mužů, žen a dětí.“ Huxleyho kniha je charakterizovaná také jako science fiction, vědecká fikce, což je v tomto případě třeba zdůraznit.

Huxley je posedlý vědeckým poznáním tajemství lidské duše a nejvíc ho rozčiluje, jak se vědecké poznatky využívají k manipulacím davu, zejména k manipulaci spotřebitelské a politické, které se začínají stále častěji prolínat. „Moderní technologie vedly ke koncentraci ekonomické a politické moci a k rozvoji společnosti kontrolované Velkým byznysem a Velkou vládou – bezohledně v totalitních státech, zdvořile a nenápadně v demokraciích.“

Huxley je posedlý vědeckým poznáním tajemství lidské duše a nejvíc ho rozčiluje, jak se vědecké poznatky využívají k manipulacím davu, zejména k manipulaci spotřebitelské a politické, které se začínají stále častěji prolínat. „Moderní technologie vedly ke koncentraci ekonomické a politické moci a k rozvoji společnosti kontrolované Velkým byznysem a Velkou vládou – bezohledně v totalitních státech, zdvořile a nenápadně v demokraciích.“

Právě tato nenápadná kontrola, k níž jsou zneužívaná i média a mediální inscenace (dnes bychom řekli fake news), je dle Huxleyho největším rizikem demokratické organizace společnosti. Už před 63 lety se nejvíc bojí toho, čeho i obhájci demokracie dnes: že se politické ideje prodávají stejnými metodami jako jogurty a že marketéři nebudují přesvědčovací strategie na kvalitě idejí a vizí blízké budoucnosti, ale výhradně na slabostech voličů. „Demokratické instituce jsou podkopávány politiky a propagandisty zevnitř,“ popisuje Huxley sebevraždu demokratických systémů.

„Poličtí obchodníci přitom apelují výhradně na slabosti voličů, ne na jejich potenciální sílu.“ Stejně jako si už „nekupujeme pomeranče, ale životní energii, nikoli auto, nýbrž společenskou prestiž“, protože „kapitalismus (tedy jakási hodnotová ideologie) je mrtev, králem je konzum“, nevolíme ani slib nižších daní nebo reformy sociálního systému, ale soulad s momentálním naladěním masy, příslušnost k ideologické skupině, životnímu stylu nebo vybrané sociální bublině.

Náhrada násilí

Přimykáme se k iluzi, vytvořené podobně jako v Překrásném novém světě dle psychologicky vyzkoumaných přání lidí. „Co se dnes jeví jako pouhá sci-fi, se brzy stane každodenním politickým faktem,“ píše Huxley o naší současnosti politiky sociálního marketingu obohaceného o analýzu big dat, o nichž ještě neměl tušení, jakkoli barvitě popisuje, jak sociologicko-psychologické týmy politických stran pracují na profilaci konzumentů svých programů. Zkrátka, jak se programuje volič.

Násilí v Orwellovi nahradila stále dokonalejší marketingově-psychologická kontrola, je přesvědčen Huxley, a připomíná dokonce i propagandistické rady Adolfa Hitlera (1889–1945), které se v dnešku neztrácejí: „Každá účelná propaganda se musí omezit na několik prostých nutností a ty musejí být vyjadřovány v několik stereotypních formulacích.“ Kdyby Huxley navštívil svůj Překrásný nový svět dnes, asi by zíral ještě víc, nakolik se jeho varování vyplňují. Možná je to ale s lidskými společnostmi podobné jako s dětmi.

Násilí v Orwellovi nahradila stále dokonalejší marketingově-psychologická kontrola, je přesvědčen Huxley, a připomíná dokonce i propagandistické rady Adolfa Hitlera (1889–1945), které se v dnešku neztrácejí: „Každá účelná propaganda se musí omezit na několik prostých nutností a ty musejí být vyjadřovány v několik stereotypních formulacích.“

Řekněte jim, že se něco nesmí dělat, a popište, jaké to je, a zaručeně si to skoro všechny budou chtít vyzkoušet. Své rady, jak zabránit realizaci této globální (anti)utopie, by ale Huxley jistě nezměnil. I to je překvapivě skoro totožné s tím, co od takzvaných demokratických alarmistů uslyšíte dnes. „PŘEŽITÍ demokracie závisí na schopnosti velkého počtu lidí realisticky volit ve světle adekvátních informací.“ S informacemi je to složitější. Ale to Huxley před 58 lety věděl také.

Tehdy sice použil oblíbený odkaz na Thomase Jeffersona (1743–1826), jednoho z otců-zakladatelů americké demokracie, podle něhož „lidé nedokážou být svobodní bez informací, proto tam, kde existuje svobodný tisk a každý člověk umí číst, je společnost v bezpečí“. Okamžitě ale dodal, že současná společnost se od tohoto průzračného ideálu dávno odklonila. I média chtějí více než uskutečnění svobody společnosti vydělávat, být vidět, mít vliv, proto většinou jen prodávají iluze těch, kteří je mají sledovat.

Ani na tomto Huxleyho zjištění není co měnit, což ale neznamená, že si Jeffersonův ideál svobodných médií nemůžeme v našem stále překrásnějším světě uchovávat v kapse jako utopii, která by se jednou, kdo ví, mohla vyplnit. „Tisk (média), to je vznešená instituce, přítel vědy a občanské svobody.“

Futuristický svět Singularity

„Překrásný nový svět“ bude jednou ještě dokonalejší než ten, který vykreslil Aldous Huxley. Díky vývoji počítačových technologií se vynořila myšlenka nadlidské inteligence, která se ze světa sci-fi přesunula do vědeckého prostředí. Už před 28 lety ji v článku Technological Singularity (Technologická singularita) popsal americký profesor matematiky Vernor Vinge, od té doby je vážně probíranou variantou budoucnosti.

Vinge rýsuje řadu možností, jak technologická singularita, tedy zjevení zcela nového světa, do jehož moci se propadne celé lidstvo, nastane. Propojením počítačů a jejich uživatelů, probuzením počítačů, jež překračují lidskou existenci, propojením lidí s digitálními stroji všeho druhu vedoucí k tomu, že se lidé promění v nový posthumánní druh.

Regulace digitálními sítěmi

Že nejde o snění, dokládá projekt Neuralink miliardáře Elona Muska. Jeho společnost vyvíjí komunikační rozhraní mezi mozkem a digitálními stroji, aby lidé ovládali stroje myšlenkou či si jejich pomocí usnadnili myšlení. Muskova realizovaná sci-fi, při níž je třeba mít v hlavě čip, byla předvedena na prasatech. Propojení má zatím omezené funkce, Musk je ale přesvědčen, že ještě za jeho života budeme díky Neuralinku komunikovat tímto „telepatickým“ způsobem.

Propojení jednou sítí se objevuje i v Huxleyho románu: pomocí čočky v oku je prováděna identifikace lidí, je tím však umožněna i kontrola mysli. Proto není divu, že otázku kontroly a nesvobody vyvolává i představa propojení čipů a inteligencí v Neuralinku, vedoucí k vynoření (emergenci) Singularity. Stačí si jen představit množství dat, které dnes o sobě sdělujeme vědomě i nevědomě přes algoritmy na sociálních sítích, na obchodních či úředních platformách, které pak simulují spotřební i jiné chování.

Singularita tedy už v jistém smyslu existuje, jen se ještě úplně „nevynořila“. Jak to ale bude v tomto světě s lidskou svobodou a subjektivitou? Stane se z člověka polobůh, který bude umět ovládat funkce univerza i individuí v něm, anebo člověk (pojem lidství, jak ho z dějin známe) zmizí, protože se stane funkční součástí posthumánní inteligence? Jednu z nejinspirativnějších knih, které se těmto otázkám věnují, vydal loni slovinský filozof Slavoj Žižek.

Jeho Hegel in a Wired Brain, tedy něco jako Hegel ve sdrátovaném mozku, je věnován 250. výročí narození německého filozofa a jeho myšlení dějin. To vše na pozadí příchodu propojeného, tedy sdrátovaného světa digitální Singularity (motiv drátu, fyzického základu i svazujícího pouta je pro ontologické rozumění dobré zachovat). Podle Žižeka je digitální propojení už tak husté, že to dává nový význam starému sloganu „osobní je politické“.

„Ve hře není jen kontrola intimního života: všechno je dnes regulováno nějakou digitální sítí, od dopravy po zdraví, od elektřiny po vodu. Vyhlídka na totální digitální kontrolu, o níž ani nevíme, nás brutálně konfrontuje se základní filozofickou otázkou: Je naše jediná šance na svobodu v tom, že se budeme izolovat od prostoru Singularity, nebo existuje dimenze lidského bytí, jež v principu Singularitě uniká, i když jsme do ní plně ponořeni?“ ptá se Žižek.

Musk jako Trockij

Žižekova odpověď na otázku po svobodě ve světě Singularity je komplexní, lze z ní tudíž vybrat jen několik inspirativních momentů. Předně, Žižek ukazuje, že vize přímého propojení člověka a technologie není nová, ale jde o věčný sen po lepším člověku, po přesáhnutí sama sebe.

Proto vede paralelu mezi Muskovým Neuralinkem jako jednou cestou ke zdokonalení člověka a sovětským „biokosmismem“ z dvacátých let 20. století, který představuje komunistickou „tajnou nauku“, kombinující vulgárně užívané vědecké poznatky a okultní prvky. Technika je tu pak od toho, aby pomohla předělat nedokonalého tvora, homo sapiens.

„Vytvořit novou, vylepšenou verzi člověka – to je budoucí úkol komunismu,“ cituje Žižek Lva Davidoviče Trockého (1879–1940), jemuž se komunismus už nejeví pouze jako naplnění dějinných zákonů, ale má širší smysl. „Jako takový je komunismus kosmická událost, ne pouze společenská transformace, jakkoli radikální může být: vše, co existuje – včetně zvířat a rostlin –, musí být osvobozeno od holého života.“

Musk v podstatě nedělá nic jiného, naznačuje Žižek, než vykřikuje jako Trocký, jen Neuralinkem potvrzuje kosmickou událost kapitalistickou, protože fungující propojení lidí a strojů pouze prodlužuje limity modernity jako jediná cesta vývoje. „Nutí nás to historizovat naši formu subjektivity,“ píše Žižek.

Znamená to rozvíjet představu, že hrdinou dějin, jak vyplývá z Georga Wilhelma Friedricha Hegela (1770–1831), je Duch, který se v čase a prostoru rozvíjí v různých fázích, zdokonaluje se a uskutečňuje až k nejvyššímu stupni pozdní modernity, neuralinkové Singularitě. „Nutí nás to ale i vzdorovat představě o jiné formě vědomí podobné snu o alternativní modernitě,“ dodává Žižek.

Obhajoba lidské subjektivity

Muskova snaha propojit člověka a stroj je dle Žižeka pokusem o legitimizaci kapitalistické logiky, v níž jsou lidé zbavováni soukromí a sexualizovaného nevědomí ve prospěch zneužitelné komunikace všech myslí. Žižekova analýza je ale nejzajímavější tam, kde se snaží dopátrat, v čem tkví výjimečnost lidské subjektivity.

S použitím psychoanalýzy, filmů a tvorby irského dramatika Samuela Becketta (1906–1989) se rozevírá něco jako lidská prázdnota, Nic, díra definující subjekt jako možnost pohybu mysli. Obhajoba lidské subjektivity, kterou stroj kvůli této bytostné mezeře nemůže nikdy uchopit, je nejzajímavější linií Žižekovy knihy. Lidská existence žije mezi symbolickým a reálným, jsme virtualitou, jež se dotýká obojího, virtualitou, kterou nelze redukovat na digiznak a přidrátovat ke stroji.

„Jsem ušní bubínek, na jedné straně mysl, na druhé svět, ale já nepatřím ani jednomu,“ říká Beckett, když se toto lidské Nic snaží chytit v románu Nepojmenovatelný. „Nic neuniká Singularitě – nic kromě tohoto samotného Nic, prázdna karteziánského subjektu.“ Úvodní problém se tedy posouvá – svoboda v tomto Nic nezmizí ani v Singularitě, jen ji najít, jen si ji uvědomit...

Počet příspěvků: 1, poslední 6.4.2021 10:33 Zobrazuji posledních 1 příspěvků.