Umělá inteligence je nová elektřina

Podle slovenského počítačového vědce Martina Spana umělá inteligence v blízké budoucnosti sice člověka nenahradí, ale v daleké ano. A v rozhovoru mimo jiné také říká, že vytvořit něco inteligentnějšího, než jsme my, by mohla být Darwinovská chyba.

Umělá inteligence. | na serveru Lidovky.cz | aktuální zprávy Umělá inteligence. | foto: Ilustrace Richard CortésČeská pozice
Umělá inteligence.

Slovenský počítačový vědec Martin Spano v rozhovoru mimo jiné říká: „Dvojsloví umělá inteligence však nebylo zvoleno ideálně. Je to skvělý název až na dvě věci – slovo umělá a slovo inteligence. Slovo umělá může znamenat, že je projevena neživými bytostmi, nebo že je simulovaná, a nikoli skutečná. A slovo inteligence je také problém, protože se vědci neshodnou, co to je, a jak se u nás vyvinula.“

Martin Spano, slovenský počítačový vědec.

ČESKÁ POZICE: Co je umělá inteligence?

SPANO: Umělá inteligence je, zjednodušeně řečeno, inteligence, kterou projevují stroje. Na rozdíl od té lidské. Příkladem umělé inteligence je v populární kultuře Terminátor nebo Vall-I, v technologiích pak autonomní auta či virtuální asistenti, jako je Siri či Alexa. Dvojsloví umělá inteligence však nebylo zvoleno ideálně. Je to skvělý název až na dvě věci – slovo umělá a slovo inteligence.

Většina vědců, kteří pracující v oboru, předpokládá vytvoření obecné umělé inteligence téměř jistě v tomto století, někteří odvážnější dokonce za jedno až dvě desetiletí. Mně osobně to vychází v letech 2040 až 2050.

Slovo umělá může znamenat, že je projevena neživými bytostmi, nebo že je simulovaná, a nikoli skutečná. A slovo inteligence je také problém, protože se vědci neshodnou, co to je, a jak se u nás vyvinula. Ale jak se říká, měl bys tančit s dívkou, kterou jsi pozval na rande, i my musíme pracovat s tímto slovním spojením.

ČESKÁ POZICE: Jak byste popsal rozdíl mezi umělou inteligencí a všeobecnou umělou inteligencí, Artificial general intelligence?

SPANO: Umělá inteligence, nebo, přesněji řečeno, úzce specializovaná umělá inteligence, je typ, který už máme i v současnosti, a dokonce ve všech sférách života. Navrhuje nám produkty při online nákupech, či filmy a hudbu na streamovacích službách, filtruje e-maily od spamu či řídí v autonomních autech. Jejím specifikem je, že dokáže dělat pouze jednu konkrétní činnost, na kterou byla vycvičená, třeba samostatně jezdit v případě autonomních aut. Zkuste ale takovému autu říct, aby vám uvařilo svíčkovou, a ani se nepohne.

Víc dovedností, podobně jako člověk, má až všeobecná umělá inteligence. Ta je však zatím předmětem filmů, jako je zmíněný Terminátor nebo Vall-I. Většina vědců, kteří pracující v oboru, předpokládá vytvoření obecné umělé inteligence téměř jistě v tomto století, někteří odvážnější dokonce za jedno až dvě desetiletí. Mně osobně to vychází v letech 2040 až 2050.

ČESKÁ POZICE: Významnou složkou umělé inteligence jsou sebeučící se algoritmy. O co jde?

Stačí se podívat, jak se učí malé dítě. Neřeknete mu vždy přesně, co má dělat, dáte mu základní instrukce, aby se ve světě zorientovalo, a učí se samo. Na tomto principu fungují sebeučící se algoritmy, které pohánějí současnou umělou inteligenci.

SPANO: Obor umělá inteligence má za sebou přibližně 60 let. Na začátku si jeho představitelé mysleli, že umělou inteligenci vytvoří tak, že ji naprogramují – podobně jako počítač. Počítačový program je tvořen zdrojovým kódem. Představme si jej jako dlouhý a podrobný kuchyňský recept. Stačí však jediná chyba v tomto „receptu“ a program přestane fungovat.

To je jeden z důvodů proč my, programátoři, tak dobře vyděláváme (smích). Tímto způsobem by se umělá inteligence programovat nedala. Stačí se však podívat, jak se učí malé dítě. Neřeknete mu vždy přesně, co má dělat, dáte mu základní instrukce, aby se ve světě zorientovalo, a učí se samo. Na tomto principu fungují sebeučící se algoritmy, které pohánějí současnou umělou inteligenci.

ČESKÁ POZICE: Které společností, univerzity a jednotlivců patří mezi nejlepší v oblasti umělé inteligence?

SPANO: Microsoft, Amazon, Apple, Alphabet a Facebook. Co mají tyto firmy společného? Za prvé, podle tržní hodnoty jde o pět největších firem na světě. Za druhé, všechny prohlašují, že ve svých produktech nasazují umělou inteligenci. Kdybych z nich měl vybrat jednu, pak Alphabet – čili Google –, konkrétně jimi vlastněná firma DeepMind, jejíž umělá inteligence AlphaGo porazila mistra ve hře GO, řádově složitější hře než šachy.

Microsoft, Amazon, Apple, Alphabet a Facebook. Co mají tyto firmy společného? Za prvé, podle tržní hodnoty jde o pět největších firem na světě. Za druhé, všechny prohlašují, že ve svých produktech nasazují umělou inteligenci.

Co se týče univerzit, pak Carnegie Mellon University, Stanford a MIT. Výzkumníci z oblasti umělé inteligence nejsou veřejnosti příliš známí, takže většině jména, jako je Geoffrey Hinton, Andrew Ng, Yann Lecun či Yoshua Bengio, nic říkat nebudou, přestože v oblasti umělé inteligence jde o žijící legendy.

ČESKÁ POZICE: Úvahy, že by umělá inteligence nahradila člověka, jsou staré. Můžete některé připomenout?

SPANO: Už Aristotelés ve své knize Politika uvažuje o tom, že jediný způsob, jak zrušit otroctví, které bylo v té době běžné, by byl, kdyby otroky nahradily automaty, tedy něco jako předchůdci robotů. Karel Čapek ve svém díle R.U.R. ve 20. století upozorňuje na nebezpečí přenechání veškeré práce robotům, čímž toto slovo poprvé definuje, i když jeho skutečným vynálezcem byl jeho bratr Josef.

V posledních letech se díky Nickovi Bostromovi (švédský filozof a futurolog a autor knihy Superinteligence – pozn. redakce) a Elonu Muskovi dostává existenciální problém vyspělé umělé inteligence znovu do popředí (Bostrom tvrdí, že vytvoření umělé inteligence by pro lidstvo mohlo představovat existenční riziko – pozn. red.). Pravdou ale je, že vytvořit něco inteligentnějšího, než jsme my, by mohla být základní Darwinovská chyba.

ČESKÁ POZICE: Proč se v současnosti začíná zase hovořit o umělé inteligenci?

Už Aristotelés ve své knize Politika uvažuje o tom, že jediný způsob, jak zrušit otroctví, které bylo v té době běžné, by byl, kdyby otroky nahradily automaty, tedy něco jako předchůdci robotů

SPANO: Ze tří důvodů. Za prvé, našli jsme způsob, jak ji efektivně vytvářet, a to pomocí strojového učení, konkrétně algoritmu zvaného hluboké učení. Zjednodušeně řečeno, tímto algoritmem napodobujeme funkci lidského mozku vytvářením umělých neuronových sítí.

Za druhé, učení funguje pouze za předpokladu, že máme dostatečné množství učebního materiálu, v případě strojů jsou to data, takzvaná big data, jež se pomocí velkého množství chytrých zařízení a sociálních sítí daří v poslední době generovat. A za třetí, tyto algoritmy a data potřebují velkou počítačovou sílu, kterou jsme díky Moorovu zákonu dosáhli.

ČESKÁ POZICE: Jsme blízko tomu, že umělá inteligence plně nahradí člověka?

SPANO: Blízko ne, v daleké budoucnosti ale určitě ano. Vyplývá to z podstaty technologického pokroku. Ten by se musel zastavit, aby tomu tak nebylo. Takže v daleké budoucnosti nastane doba, kdy člověk nebude muset pracovat. To není nutně špatné, protože práce není to jediné, co člověka šlechtí. Člověk se bude moci více věnovat sobě, a tím předefinovat své místo ve světě, jako bytosti, která tvoří a zkoumá.

ČESKÁ POZICE: Byla by umělá inteligence dobrý sluha, či zlý pán?

V daleké budoucnosti nastane doba, kdy člověk nebude muset pracovat. To není nutně špatné, protože práce není to jediné, co člověka šlechtí. Člověk se bude moci více věnovat sobě, a tím předefinovat své místo ve světě, jako bytosti, která tvoří a zkoumá.

SPANO: Záleží jen na nás. Nepředpokládám, že by umělá inteligence jednou převzala kontrolu nad světem. Ona už jej i v současnosti ovládá, jen si to neuvědomujeme, protože nám při našich každodenních činnostech v pozadí pomáhá.

Nebezpečím spíše je, že by se k této technologii v jejím pokročilém stadiu mohli dostat lidé, kteří to se světem nemyslí dobře. Tomu se i já jako podporovatel institutu Future of Life, který založil Max Tegmark (švédsko-americký fyzik a kosmolog – pozn. red.), či Bostromova institutu Future of Humanity, snažím svým malým příspěvkem zabránit. Budoucnost ukáže, zda se nám to podařilo.

ČESKÁ POZICE: Jak se díváte na aktivity filozofa Nicka Bostroma v této oblasti? Představuje umělá inteligence existenciální riziko pro lidstvo?

SPANO: Velmi jeho aktivity podporuji, i když jsem v těchto otázkách větší optimista. Nicméně neuškodí, když budeme opatrní, protože pokud se v tomto případě na případnou hrozbu dobře nepřipravíme, druhou šanci nedostaneme.

ČESKÁ POZICE: Bylo již v oblasti umělé inteligence sestrojené něco, co je podobně inteligentní aspoň jako mravenec?

Nepředpokládám, že by umělá inteligence jednou převzala kontrolu nad světem. Ona už jej i v současnosti ovládá, jen si to neuvědomujeme, protože nám při našich každodenních činnostech v pozadí pomáhá. Nebezpečím spíše je, že by se k této technologii v jejím pokročilém stadiu mohli dostat lidé, kteří to se světem nemyslí dobře.

SPANO: Nejblíže k tomu má Google a jeho projekt Google Brain či jím vlastněná firma DeepMind. Musím ještě jednou poznamenat, že současná umělá inteligence je úzce specializovaná, čili dokáže dělat jen jednu činnost, ale často lépe než člověk. Na obecnou umělou inteligenci si ještě musíme počkat.

ČESKÁ POZICE: Pokud sestrojíme umělou inteligenci na úrovni mravence, jak daleko bude od mravence k člověku?

SPANO: Rychlost technologického pokroku je exponenciální, proto to bude několikanásobně kratší čas, než se dostat k mravenci.

ČESKÁ POZICE: Není umělá inteligence „buzzword“? Všude se o ní mluví, dávají se na ni granty, ale významných projektů je málo?

SPANO: Vůbec ne. Umělá inteligence tvoří jádro většiny významných současných technologií. Je to „nová elektřina“, má potenciál přetvořit všechny současné byznysy. Pomůže konečně porazit obávané nemoci, jako je rakovina, či vymanit z bídy celý svět. Mám proto pocit, že by se jí mělo dostávat ještě více prostoru.

ČESKÁ POZICE: Umělá inteligence souvisí se svobodnou volbou, kterou se také zabýváte. Máme ji?

Neuškodí, když budeme opatrní, protože pokud se v tomto případě na případnou hrozbu dobře nepřipravíme, druhou šanci nedostaneme

SPANO: Ne v takové míře, jak si myslíme. Od počátku se filozofové dělí na dvě skupiny. Na deterministy, kteří jsou přesvědčeni, že naše chování je při naší dokonalé znalosti přesně předvídatelné. Mezi ně patřil například Isaac Newton či Albert Einstein. A na libertariány – nezaměňovat s politickým přesvědčením – přesvědčené o svobodné vůli. Běžný člověk má pocit, že má svůj osud pevně v rukou, ale na základě novodobých neurovědeckých pokusů, jako je Libetův experiment, tomu tak nemusí být.

ČESKÁ POZICE: Co je Libetův experiment?

SPANO: V tomto slavném experimentu z roku 1983 americký neurovědec Benjamin Libet požádal účastníky, aby zdvihli prst, když budou chtít, a zapamatovali si čas, kdy to udělali. Zároveň elektrodami měřil mozkovou aktivitu. Výsledek všechny zaskočil. Průměrně půl vteřiny před tím, než si účastníci pokusu uvědomili své svobodné rozhodnutí zvednout prst, mozek už věděl, že to učiní.

Tento pokus byl několikrát později zopakován s modernějšími technologiemi se stejnými šokujícími zjištěními. Čili podle nejnovějších neurovědeckých poznatků je myšlenka absolutní svobodné vůle pouze iluze, trik našeho vědomí na nás. V každém případě ale – podle mého názoru – můžeme živelně vznikající neurální aktivity způsobující naše chování naší svobodnou vůlí korigovat.

ČESKÁ POZICE: Inteligence možná vyžaduje vlastní vědomí. Podaří se ho uměle vytvořit?

Současná umělá inteligence je úzce specializovaná, čili dokáže dělat jen jednu činnost, ale často lépe než člověk. Na obecnou umělou inteligenci si ještě musíme počkat.

SPANO: Nejprve musíme zjistit, proč a jak vzniklo u nás. Jak již řekl Shakespeare: „Krása tkví jen v oku pozorovatele.“ To znamená, že kdyby u nás nevzniklo vědomí, všechna krása kolem nás, celý vesmír, by byl zbytečný. Byli bychom pouze jako zombie, jako biologičtí roboti, kteří by vše sice viděli, ale nevnímali.

Přesně tak dnes svět vnímá umělou inteligenci. Je sporné, zda jednou bude vnímat prostředí jako my, pomocí subjektivního vědomí. Podle mne by bylo lepší, kdyby vědomí nikdy neměla. Asi byste se nechtěli vrátit jednoho dne domů s tím, že je v ledničce vše rozpuštěné, neboť se vaše smart lednička zamilovala do robotického vysavače, a vzniklo z toho teplo.

ČESKÁ POZICE: Můžeme naučit umělou inteligenci uvědomit si, co je dobré a co špatné, když to sami někdy nevíme?

Je sporné, zda jednou bude umělá inteligence vnímat prostředí jako my, pomocí subjektivního vědomí. Podle mne by bylo lepší, kdyby vědomí nikdy neměla.

SPANO: Bostrom by asi odpověděl ne, zkusím být opatrný optimista. Když se objevily jaderné zbraně a byly shozeny v Japonsku, všichni si mysleli, že to má lidstvo spočítané. Podobně to bylo i v případě biologických zbraní. Ale jsme zde pořád. Nechtěl bych podceňovat nebezpečí, které nám hrozí, pokud to však zvládneme, čeká nás bezprecedentní zlatý věk, o který bychom se společně měli snažit. Technologický pokrok je totiž řešením všech problémů lidstva.

Martin Spano

  • Slovenský počítačový vědec.
  • Na Matematicko-fyzikální fakultě Univerzity Karlovy vystudoval obor počítačová věda.
  • Pracuje jako expert na strojové učení a je členem Asociace pro rozvoj umělé inteligence a Evropské aliance pro umělou inteligenci.
  • Na Slovensku vystupuje jako populalizátor umělé inteligence.
  • Podílel se na návrhu slovenské strategie pro rozvoj umělé inteligence, která byla včleněna do iniciativ Slovak-AI, slovenského centra pro výzkum umělé inteligence, které vzniklo v rámci Slovenské technické univerzity v Bratislavě.
  • Napsal knihu Umělá inteligence v ořechové skořápce, která vyšla také anglicky.

Diskuse neobsahuje žádné příspěvky.