Neregulovaná umělá inteligence je všude kolem nás

Umělá inteligence dělá obrovské pokroky, ale k její náhradě člověka vede ještě dlouhá cesta. „Rozhoduje se tak, jak jsme ji naprogramovali,“ říká Michal Pěchouček, šéf katedry počítačů na Fakultě elektrotechnické ČVUT.

Michal Pěchouček | na serveru Lidovky.cz | aktuální zprávy Michal Pěchouček | foto: Luděk Vokáč, Česká pozice
Michal Pěchouček | na serveru Lidovky.cz | aktuální zprávy

Dnes umělá inteligence hraje výborně poker, řídí auta, pohyby raket, zkrátka umí fantastické věci. Neznám ale takovou, která by zároveň řídila a uměla hrát go, říká v rozhovoru Michal Pěchouček.

LIDOVÉ NOVINY: Máme se bát toho, že vznikne umělá inteligence či superinteligence, která se postaví proti lidem?

PĚCHOUČEK: To je zcela legitimní otázka, stejně jako jestli přiletí mimozemšťané a ovládnou Zemi. Obojí lidé řeší posledních zhruba sto let. Jestli je to ale dnes relevantnější než dřív, to nevím. Vypadá to sice, že dnes máme víc informací než dřív, ale není tomu tak. To, že vidíme velký rozvoj umělé inteligence specializované na určité úkoly, nám nepomůže při odhadování, jestli se dočkáme obecné superinteligence podobné člověku, i když řada lidí dnes tvrdí opak. Dnes umělá inteligence hraje výborně poker, řídí auta, pohyby raket, zkrátka umí fantastické věci. Neznám ale takovou, která by zároveň řídila a uměla hrát go.

LIDOVÉ NOVINY: Slavný počítač Deep Blue ale byl naprogramovaný, aby hrál šachy přímo s Garrim Kasparovem, aktuální AlphaGo už dostal jen pravidla a porazil velmistry sám. Není tohle velký skok?

Stroj se skutečně sám učí, což znamená, že zpracovává obrovské množství dat a vyhodnocuje, jak je nejlepší hrát. V tom je podobný lidskému učení.

PĚCHOUČEK: Ano, učení je obrovský skok a dnes se hodně probírá. Stroj se skutečně sám učí, což znamená, že zpracovává obrovské množství dat a vyhodnocuje, jak je nejlepší hrát. V tom je podobný lidskému učení. Naučí se časem třeba rozpoznávat sám druhy hub. Nemyslím si ale, že to je svatý grál pro obecnou umělou inteligenci. Zásadní je nacházení podobností v odlišných světech, říct si sám, proč mám něco dělat. Všechny sofistikované programy dnes dělají, co jsme je my naučili. Není nejmenší záblesk algoritmu, který by se rozhodoval opravdu sám.

LIDOVÉ NOVINY: Samořiditelné auto tak bude dělat jen ta rozhodnutí, která mu naprogramujeme? Třeba zda v bezvýchodné situaci ohrozí spíše svého řidiče, nebo lidi na ulici?

PĚCHOUČEK: Bude mít nějaké pravidlo; ale je to trochu umělý, hypotetický příklad. Nevím, kolikrát v historii skutečně stál člověk před soudem za to, že se dostal opravdu do situace, kdy mohl otočit volantem doleva či doprava a pokaždé by někoho zabil. Nehodovost a chybovost s roboty a samořiditelnými auty značně klesla.

LIDOVÉ NOVINY: Není tedy problém spíš v tom, že si od umělé inteligence slibujeme, že bude lepší než my lidé?

PĚCHOUČEK: Roboti a umělá inteligence se mimořádně zlepšují. Rozšiřují inteligenci člověka. Ale podstatou obecné inteligence je schopnost propojovat. Třeba to, že umím dobře řídit v zácpě, souvisí s tím, jak zvládám emoce v osobních vztazích. Někdo umí třeba dobře počítat, někdo je nadaný skladatel. Ale proč byli geniální matematici i skvělí hudebníci, to nevíme. A právě propojování je klíč k obecné umělé inteligenci, v čemž ale věda dnes žádný pokrok nedělá. Obrovské pokroky se dělají právě v úzkých specializacích.

LIDOVÉ NOVINY: Co chybí k tomu, aby se to propojilo?

PĚCHOUČEK: Právě že nevíme. Na to je potřeba spousta vědecké práce, na kterou ale máme jen omezenou kapacitu.

LIDOVÉ NOVINY: A nehrozí nám spíš nadvláda algoritmů, které jsou už dnes všude kolem nás?

Jednak je potřeba říci, že UI je už dnes všude kolem nás, ale je neregulovaná. A bude ji potřeba nějak regulovat.

PĚCHOUČEK: Jednak je potřeba říci, že UI je už dnes všude kolem nás, ale je neregulovaná. A bude ji potřeba nějak regulovat. Už dnes nejen že řídí třeba dopravu, ale prakticky rozhoduje i o našich nákupních zvycích. Obrovské a velmi citlivé téma je umělá inteligence v medicíně a v léčbě, tam se určitě bez regulace neobejdeme.

LIDOVÉ NOVINY: Co bude tedy dalším krokem ve vývoji umělé inteligence?

PĚCHOUČEK: Vysvětlitelnost jejího rozhodování, to je zásadní i právě pro regulaci, nastavení pravidel.

LIDOVÉ NOVINY: My tedy nevíme, proč se neuronová síť rozhoduje tak, jak se rozhoduje?

PĚCHOUČEK: Dá se to tak říct. Rozhoduje se tak, jak jsme ji naprogramovali, jak jsme jí řekli, jenom úplně neumíme říct proč.

LIDOVÉ NOVINY: To ale není zas tak daleko od nějaké dystopické představy…

Ale to, že nás nějaká UI obklopuje a my ji nejsme schopni vysvětlit, neznamená, že se objeví obecná inteligence, která zničí lidstvo a ovládne svět.

PĚCHOUČEK: Ale to, že nás nějaká UI obklopuje a my ji nejsme schopni vysvětlit, neznamená, že se objeví obecná inteligence, která zničí lidstvo a ovládne svět. Vysvětluje to třeba, proč rozšíření umělé inteligence do obrany a zbrojení není takové, jaké by mohlo být. I ti, kdo se označují za válečné štváče, se bojí dát robotům do ruky zbraně bez kontroly…

LIDOVÉ NOVINY: Co je ta skutečně dystopická vize umělé inteligence? A proč se k ní dnes vůbec tolik upínáme?

PĚCHOUČEK: Dnes vidíme úžasné věci v té úzce specializované umělé inteligenci a to je vzrušující. Probouzí to lidskou fantazii. Dystopii si ale představuji tak, že lidstvo nezvládne nástup umělé inteligence. Nebo ji někdo zneužije k manipulaci lidí, k tomu, na co se budeme dívat, co budeme nakupovat. Druhá věc je, že je stále velmi křehká. Někdo na ni může zaútočit a vypnout tak třeba zdravotní péči. Především ale celospolečenská změna daná nástupem umělé inteligence bude obrovská, nejen na trhu práce a v sociálním systému. A nevím, jestli lídři, kteří mají šanci na to, připravit své země, k tomu mají dost velkou fantazii.

Michael Pěchouček

  • V Praze a v Edinburghu vystudoval IT, absolvoval i prestižní Singularity University.
  • S kolegou Martinem Rehákem založil startup Cognitive Security, který koupil světový obr Cisco, což byl jeden z největších úspěchů českého IT byznysu.
  • Je investorem ve fondech Credo Ventures a Evolution Equity, o umělé inteligenci přednáší na ČVUT.
  • Byl vybrán do prestižního žebříčku evropských osobností New Europe 100 Challenger listu Financial Times.


Diskuse neobsahuje žádné příspěvky.

Autor

Jan Klesla

Jan Klesla. | na serveru Lidovky.cz | aktuální zprávy

Další autorovy články