Technologie budou především pomáhat. Budeme-li dost opatrní

Narodila se v bývalém Československu a jako jedna z prvních žen se prosadila v matematice a informatice. Otcem umělé inteligence je informatik John McCarthy, matkou oboru ale jeho studentka Růžena Bajcsy. Tato 84letá profesorka vypráví o vlastním výzkumu se zaujetím a působí optimisticky.

Růžena Bajcsy. | na serveru Lidovky.cz | aktuální zprávy Růžena Bajcsy. | foto:  Michal Sváček, MAFRA
Růžena Bajcsy.

Na otázku, jestli se mají lidé s nástupem umělé inteligence (AI) a fenoménu sběru velkých dat čím dál více obávat o své soukromí, až překvapivě energická dáma odpovídá: „Měli bychom se bát. A já se bojím také.“ A jedna z nejvýznamnějších vědkyň svého oboru vysvětluje: „Zažila jsem diktatury, Hitlera i Stalina, a když se teď podíváme, jak opět ve světě bují různé autoritativní režimy, určitě bychom se měli bát, co se s našimi daty děje.“ Data a jejich sběr jsou podle ní pro fungování umělé inteligence nezbytná, ale velmi záleží na tom, jaká data a proč jsou sbírána.

„Je třeba si dát pozor, zda někdo nesbírá data třeba o vašich slabostech, zdravotních hendikepech, o vašich politických názorech a podobně. Taková data by totiž následně mohl někdo zneužít,“ vysvětluje s odkazem na svůj židovský původ. Zločinné režimy ji připravily o rodiče, oddělily ji od sestry a nakonec odloučily od dětí. „Tam už jsme byli,“ naznačuje, že přesně ví, co to znamená, když je někdo perzekvován za svůj původ nebo názory. A dodává, že otázce ochrany soukromí bychom měli „věnovat velkou pozornost“.

To, co vám data dovolí dělat, může být dobré, ale i špatné. Mohu třeba dostat upozornění na stoupající krevní tlak s tím, že bych si měla odpočinout, ale také může být tato technologie použita k tomu, aby mi zabránila volit.

Profesorka, která letos 17. ledna převzala v Betlémské kapli čestný doktorát ČVUT, uvádí i praktický případ z nedávné doby. „Umělá inteligence je vlastně jen obecná nálepka, ale v oboru sběru dat a vyvozování závěrů na jejich základě můžete dělat spoustu věcí. Však se podívejte třeba na vyšetřování ohledně ruského vměšování do amerických prezidentských voleb,“ naznačuje, že umělá inteligence může být zneužita třeba i ke správnému vytváření a „servírování“ falešných zpráv vhodnému publiku.

„To, co vám data dovolí dělat, může být dobré, ale i špatné. Mohu třeba dostat upozornění na stoupající krevní tlak s tím, že bych si měla odpočinout, ale také může být tato technologie použita k tomu, aby mi zabránila volit,“ ukazuje na dramatické protiklady. Tolik energie, jako má Růžena Bajcsy by od 84leté akademičky, která už mohla být dávno na penzi, asi jen tak někdo nečekal.

Je to jen na lidech

„Ne, neměli bychom se brát tak vážně,“ směje se, když jí fotograf při fotografování před tabulí navrhuje trochu „přísný“ postoj. O svém výzkumu vypráví se zaujetím, působí neskutečně optimisticky a silně.Když vykládá o tom, jak mají technologie lidem pomáhat a zbavit je těžké a nudné práce, je jí v očích vidět touha v tomto ohledu ještě něco dokázat. V jednu chvíli se však přece jen trochu zarazí. A není to tehdy, když vypráví o překážkách, které jí život v Československu kladl, než objevila svobodu akademické půdy v USA.

Každá technologie může být zneužita, ale je jen na lidech, aby se ujistili, že se tak nestane. Umělá inteligence ani robotika navíc podle ní nejsou obory, které snad mají lidi připravit o práci.

Bajcsy dnes pracuje především na tom, aby technologie opravdu pomáhaly. Ostatně, i proto je emeritní ředitelkou ústavu CITRIS na univerzitě v kalifornském Berkeley. Tato instituce se snaží podporovat využití moderních informačních technologií k ještě významnějšímu vědeckému pokroku – a tudíž snad následně i k dosažení většího užitku.

„Ohledně AI existují určité etické otázky. Ale tohle není první technologie v historii, která takovým otázkám čelí. Třeba jaderný výzkum je na tom stejně. Jaderná energie může být přínosná, ale také může zabíjet,“ pokračuje Bajcsy s tím, že každá technologie může být zneužita, ale je jen na lidech, aby se ujistili, že se tak nestane. Umělá inteligence ani robotika navíc podle ní nejsou obory, které snad mají lidi připravit o práci.

„Jsem humanista, věřím, že technologie by měla pomáhat lidem, ale nemyslím si, že by měla lidi nahradit.“ Jsou na místě obavy, že by jednou mohla umělá inteligence lidi „přechytračit“ a usoudit, že už nejsou potřební? „Nevěřím tomu,“ prohlašuje Bajcsy. A přidává postoj, který zastávali „otcové“ oboru, za které považuje svého školitele Johna McCarthyho, zakladatele laboratoře umělé inteligence Marvina Minského nebo otce teorie informace Clauda Shannona.

Neznámá hranice umělé inteligence

„Znala jsem všechny tyto muže a žádný z nich nikdy nepřemýšlel nad tím, že by lidi nahradili. I když snili o ,myslících strojích‘, ty měly za úkol lidem pomoci, udělat jejich práci i život efektivnějšími,“ popisuje prapůvodní motivace oboru. V 19. století podle ní podobnou roli sehráli strojní inženýři, jejichž práce ale také nebyla vždy vnímána pozitivně. Tomu, aby technika lidem nadále pomáhala, se aktivně věnuje při svém výzkumu.

„Zaměřuji se na to, že měřím fyzickou aktivitu lidí, zkoumám, v jakém stavu je jejich svalový a kosterní systém. A následně navrhuji zařízení, která pomáhají starším lidem získat více síly a jistoty – třeba když chcete něco zvednout,“ šibalsky pomrkává, že je snad jasné, proč to dělá. A pokračuje: „Je to stejné, jako když vy máte brýle nebo já tady to naslouchátko.“ Kromě toho nadále působí jako pedagožka; nikdy prý neměla ráda učení ve velkých třídách, ale užívá si práci s doktorandy.

Ze současných experimentů, byť jsou často aplikovány v praxi, se zatím jen učíme, co bude, a nebude fungovat. Každá technologie má svá omezení, své hranice. Jenže my teď nevíme, kde hranice umělé inteligence leží.

Když mluví o možnostech, které dnes umělá inteligence přináší, trochu opět krotí nadšení. Tentokrát má ale spíše realistický pohled na rozvoj oboru, ve kterém se po desetiletí pohybuje. „Než se ale dočkáme samořiditelných aut jako běžné služby, bude to trvat tak patnáct, dvacet let,“ odhaduje, že nástup některých technologií, které máme zdánlivě k dispozici už nyní, nebude jednoduchý a přímočarý. A naznačuje proč.

„Dnes se dá umělá inteligence použít třeba pro zlepšení lékařské diagnózy, pro předpověď vývoje zdravotního stavu. Ale může také odhadovat cenu akcií, chod ekonomiky a podobně.

Jenže to všechno jsou experimentální nástroje, byla bych velmi opatrná v tom je využívat pro zaručené předpovědi,“ přichází opět malé varování. Ze současných experimentů, byť jsou často aplikovány v praxi, se zatím jen učíme, co bude, a nebude fungovat: „Pamatujte, že každá technologie má svá omezení, své hranice. Jenže my teď nevíme, kde hranice AI leží.“

Spousta levné paměti

Podle Růženy Bajcsy si umělá inteligence už jedním obdobím přehnaného optimismu prošla, byť to bylo ve zcela jiných podmínkách. „V šedesátých letech se umělá inteligence, jak ji vymyslel můj školitel John McCarthy, soustředila na reprezentaci informací do určité symbolické podoby, aby se na tyto informace dalo aplikovat určité logické rozhodování a daly se vyvodit nějaké závěry,“ popisuje počátky oboru. Šlo o takzvané systémy založené na pravidlech a podle Bajcsy se s nimi pracovalo velmi dlouho a společnost v ně vkládala docela velké naděje.

Důvodem, proč jsme schopni dnes provozovat všechny ty algoritmy pro strojové učení, je fakt, že máme spousty levné paměti. Další velkou zásluhu na pokroku má zrychlení počítačů a výpočtů, a to nejen díky zrychlení taktů procesorů, pamětí a sběrnic, ale i vylepšení logiky jejich fungování – třeba o schopnost pracovat s paralelními procesy.

„Předpokládalo se, že umělá inteligence za nás bude dělat důležitá rozhodnutí. Ale po 15 letech práce se ukázalo, že dosavadní vývoj nic takového nepřinesl, problémy, které jsme měli vyřešit, jsme nevyřešili. To byla taková ,zima‘ oboru umělé inteligence.“ Jakousi nafouklou bublinou byla AI především v osmdesátých letech. „To dnes bují léto umělé inteligence,“ usmívá se Bajcsy, jako by se na tom letním slunci vyhřívala. Létu ale musí předcházet jaro, jež podle profesorky začalo někdy zhruba na přelomu tisíciletí.

„Důvodem, proč jsme schopni dnes provozovat všechny ty algoritmy pro strojové učení, je fakt, že máme spousty levné paměti. V dobách našich začátků bylo nepředstavitelné, že vůbec bude možné mít tolik paměti, kolik mají dneska tyhle stroje,“ ukazuje na chytrý telefon na stole. Další velkou zásluhu na pokroku má zrychlení počítačů a výpočtů, a to nejen díky zrychlení taktů procesorů, pamětí a sběrnic, ale i vylepšení logiky jejich fungování – třeba o schopnost pracovat s paralelními procesy.

„Třetí složkou, která se o současný pokrok v AI zasloužila, je pokrok v mikro- a nanotechnologiích, příchod nových senzorů,“ obrací Bajcsy pozornost opět ke smartphonu, který leží před námi místo diktafonu. „Vezměte si, jak velké byly fotoaparáty, které dnes máme v telefonech. Totéž platí pro mikrofony, různá pohybová čidla a další.“ Spousta malých a levných senzorů podle ní umožňuje s využitím AI více experimentovat.

Fascinující doba

Zkušenosti, které Růžena Bajcsy nasbírala a díky nimž může nabídnout pohled v podstatě na celý věk oboru AI a práci s daty, ale nemusela nikdy nasbírat. Optimistická dáma měla v mládí dost pohnutý osud. „Chtělo to hodně tvrdé práce, spoustu chucpe a trochu štěstí. Myslím, že jsem také od rodičů zdědila dobré geny, jsem zdravá a mám dost životní energie,“ odpovídá na otázku, jak je možné, že se „holka z Bratislavy“ stala významnou profesorkou v USA.

Když jsem přišla na Stanford, studovala jsem počítačové vědy. Tady v Československu jsme tehdy sotva dostali první počítač – Ural 2. A veškeré matematické základy a to, co budeme s počítači dělat, se u nás sotva rodilo. Na Stanfordu byli o trochu napřed. Ne o mnoho, ale byli vpředu, a i díky tomu jsem měla štěstí, že jsem stála na začátku vývoje umělé inteligence a celého jejího oboru. Byla to fascinující doba,.

„Můj otec byl inženýr a já ho zbožňovala, obdivovala. Chtěla jsem být jako on,“ naznačuje, kde se zrodila její láska pro přírodní vědy. Nevlastní matka byla lékařka a pocházela z rodiny, která věřila, že ženy mají být vzdělané a samostatné. „Vždy se mi snažila vštípit, že se nemám vdávat proto, aby mě můj manžel živil,“ vypráví.

„V mé generaci to bylo hodně neobvyklé smýšlení. A tady v Evropě to bylo ještě neobvyklejší, ale i v Americe panoval názor, že i když máte vysokoškolský diplom, vdáte se a své vzdělání použijete k tomu, abyste podporovala svého manžela, jeho kariéru a pomohla vzdělávání svých dětí,“ pokračuje. Rozdíl mezi oběma stranami železné opony možná nebyl tak dramatický ani v oblasti technologií.

„Když jsem přišla na Stanford, studovala jsem počítačové vědy. Tady v Československu jsme tehdy sotva dostali první počítač – Ural 2. A veškeré matematické základy a to, co budeme s počítači dělat, se u nás sotva rodilo. Na Stanfordu byli o trochu napřed. Ne o mnoho, ale byli vpředu, a i díky tomu jsem měla štěstí, že jsem stála na začátku vývoje umělé inteligence a celého jejího oboru. Byla to fascinující doba,“ hodnotí s odstupem času.

Podpora vášně pro vědu

Tato fascinující doba a svoboda, kterou v USA získala, ji ale stála hodně. Když v roce 1967 vyjela na Stanfordovu univerzitu na plánovanou roční stáž, zůstaly v Československu její děti i manžel. „Zůstali tu jako rukojmí,“ povzdechne si a vysvětluje, že ani tak nebyl výjezd snadný: „Abych dostala povolení vycestovat, musela jsem projít deseti komisemi. Na místní samosprávě, na fakultě, na univerzitě, pak státní a tak dále. Byl to doslova očistec.“ Je vůbec s podivem, že režim Bajcsy „pustil ven“.

Když dáte mladým lidem možnost se rozvíjet a vzkvétat a podporujete jejich vášeň pro vědu, pak se dějí dobré věci

Kvůli své svobodomyslnosti a podpoře výuky dle odkazu Jana Amose Komenského byla totiž takříkajíc na černé listině a třeba na univerzitě, kde jí dovolili udělat doktorát, nemohla kvůli tomu učit. Působila tam jako počítačový technik. „Nemohli jsme číst vědecké publikace ze Západu, nemohli jsme cestovat a komunikovat se zbytkem světa. Bylo to velmi depresivní období a já z toho chtěla ven,“ popisuje své pohnutky. Stanford přitom neměl být její konečnou zastávkou.

„Zpočátku jsem si myslela, že bych se mohla vrátit, protože to bylo v době Dubčeka, kdy se režim uvolňoval. Jenže pak přišel rok 1968 a musela jsem se rozhodnout, jestli v USA zůstanu, nebo ne,“ popisuje, jak ji touha po seberealizaci a komunistický režim připravily o rodinu. Zdá se však, že ji nakonec všechny těžké zásahy osudu posílily. „Když dáte mladým lidem možnost se rozvíjet a vzkvétat a podporujete jejich vášeň pro vědu, pak se dějí dobré věci,“ naznačuje své rozpoložení krátce po emigraci. Rozpoložení, ve kterém se nachází dodnes.

Růžena Bajcsy (84)

  • Narodila se v roce 1933 v Bratislavě do židovské rodiny.
  • Ve třech letech jí zavraždili matku, otec inženýr, po kterém podědila obecnou zvídavost a lásku k matematice, se později znovu oženil.
  • V roce 1944 odvedlo rodiče gestapo a Bajcsy se s nimi již nikdy nesetkala. V prosinci toho roku byli zavražděni, Růžena a její (nevlastní) sestra Marie přežily jen náhodou, protože si jich příslušníci nevšimli v zadním pokoji bytu.
  • Po válce našla tetu v Budapešti, která se postarala o nemocnou sestru Marii. Růžena zůstala na Slovensku, což po vyhlášení zákazu vycestovat v roce 1948 znamenalo definitivní oddělení od sestry.
  • Žila v dětských domovech a následně v pěstounské péči, studovala gymnázium a nakonec zvolila studium elektrotechniky na Slovenské technické univerzitě v Bratislavě. Tam získala nejprve magisterský titul a v roce 1967 i doktorát.
  • V roce 1953 se vdala, s manželem měla postupně dvě děti. Ty zanechala v Československu, když v roce 1967 vyjela na roční stáž na Stanfordově univerzitě.
  • Po invazi ruských vojsk do Československa v roce 1968 se rozhodla zůstat v USA. Děti tak viděla až po 15 letech a teprve po pádu železné opony se za ní mohly odstěhovat do USA.
  • Mezitím Bajcsy získala druhý doktorát (z počítačových věd). Působila jako profesorka na Pensylvánské univerzitě, v roce 1978 založila světoznámou robotickou laboratoř GRASP, o rok později se znovu vdala.
  • Na univerzitě byla jedinou ženou na katedře počítačových věd a později, v letech 1985 až 1990, tuto katedru vedla.
  • Dnes stále aktivně působí coby profesorka elektrotechniky a informatiky na Kalifornské univerzitě v Berkeley.

Diskuse neobsahuje žádné příspěvky.