Počet scénářů vývoje umělé inteligence je nekonečný

Otázkou není, zda existuje paralelní svět, ale kolik jich je. Provokativní myšlenky jsou Maxi Tegmarkovi, profesoru fyziky na Massachusettském technologickém institutu (MIT) původem ze Švédska, vlastní. Podle něho je vesmír matematická konstrukce, čemuž se věnoval ve své knize Our Mathematical Universe: My Quest for the Ultimate Nature of Reality(Náš matematický vesmír. Moje hledání definitivní povahy reality).

Na ni navazuje Tegemarkova kniha Life 3.0: Being Human in the Age of Artificial Intelligence (Život 3.0. Člověk v době umělé inteligence), která se zabývá umělou inteligencí. Tegmark dělí evoluci do tří fází. V první, biologické – „život 1.0“ –, vzniká software a hardware jednoduchého života, jako je bakterie. Ve druhé kulturní fázi – „život 2.0“ – se software vyvíjí, například člověk, který se sám rozhodne naučit cizí jazyk. Ve třetí technologické fázi – „život 3.0“ – lze změnit nejen software, ale i hardware.

Provokativní myšlenky

Současnost, kdy medicína mění biologické klouby za umělé, posiluje srdeční činnost kardiostimulátory nebo analyzuje geny, Tegmark označuje za „život 2.1“. Umělá inteligence pak vyvolává ve veřejné diskusi napětí mezi jejími stoupenci a odpůrci – buď se stane tím nejlepším, co mohlo lidstvo potkat, nebo tím posledním, co ho potká. Tegmark nenabízí zlomové objevy, ale provokativní myšlenky o umělé inteligenci a jejích dopadech.

O umělé inteligenci se sice vedou politické a ekonomické diskuse, ale úvahy o jejích dopadech nepatří do hlavního proudu. V uplynulých deseti letech se výzkumu a dopadům umělé inteligence věnovalo několik intelektuálů, kteří nejsou profesionálními vědci v této oblasti, například Eliezer Yudkowsky, Michael Vassar či Nick Bostrom.

Bostromova kniha Superinteligence obsahuje brilantní úvahy a fantazie, jež přesahují současné teorie. V tomto ohledu se mu Tegmark vyrovná a i on se na rozdíl od profesionálních vědců, kteří se věnují konkrétním úkolům, zaměřuje na dopady umělé inteligence. Tito vědci jsou navíc vystaveni riziku, že v případě zveřejnění svých obav z dopadů umělé inteligence by mohli být považováni za technologické pesimisty, což by mohlo negativně ovlivnit jejich kariéru.

Liberální utopie a laskavý diktátor

Výzkum umělé inteligence je v plném proudu, ale nikdo neví, jak se bude vyvíjet, což Tegmarkovi nebrání zamyslet se nad budoucí koexistencí biologické a umělé inteligence, přičemž uvádí dvanáct scénářů, jejichž počet však podle něho není konečný.

Podle prvního scénáře, jímž je liberální utopie, existují tři oblasti – lidská, umělé inteligence a mix obou. Lidé, kyborgové, umělá inteligence a uploads (digitální lidské bytosti, které podle potřeby fungují ve virtuálním světě nebo na sebe berou podobu robotů) spolu žijí v míru díky ekonomické jistotě.

Druhým scénářem je laskavý diktátor. Umělá inteligence ovládá svět na základě pravidel, přičemž cílem je maximalizovat lidské štěstí. Díky tomu neexistuje chudoba ani nemoci a lidstvo žije v pohodlí. Přestože jde o diktaturu, nepoužívá tvrdou represe, ale řadu subtilních nástrojů. Výsledkem je civilizace připomínající velkoryse pojatou zoologickou zahradu a většina lidí je s tímto životem spokojená.

Od rovnosti ke kontrole

V rovnostářské utopii žijí lidé, kyborgové, uploads a umělá inteligence v míru vedle sebe. Jejich ekonomické potřeby zajišťuje všeobecný základní příjem a užívají si života. Ve scénáři strážce brány je umělá inteligence naprogramovaná tak, aby zabránila vzniku jiné, silnější superinteligence. Lidstvo disponuje řadou pomocných robotů a vedle biologických lidí existují kombinace kyborgů. Technický pokrok je ale navždy zastaven na dosaženém stupni vývoje.

V pátém scénáři bůh ochranné ruky je umělá inteligence vševědoucí a všemocná. Jejím cílem je maximalizace lidského štěstí a zasahuje, jen když lidé začnou mít pocit, že ztrácejí kontrolu nad vlastním osudem. Jinak funguje v pozadí, a to natolik, že mnoho lidí o její existenci pochybuje.

Podle scénáře zotročený bůh lidé kontrolují umělou inteligenci – produkuje technické inovace a zvyšuje bohatství. Tento scénář může mít jak pozitivní, tak negativní dopady, což závisí na způsoby kontroly lidmi.

Návrat i zánik

Pokud se umělá inteligence stane dobyvatelem, šance lidstva na přežití nejsou téměř žádné – získá kontrolu a dospěje k závěru, že další existence lidstva představuje hrozbu, problémy nebo je plýtváním zdrojů. Řešením bude zničení lidské civilizace způsobem, jejž si ani v nejbujnější fantazii neumíme představit.

V osmém scénáři umělá inteligence nahradí člověka, ale jeho odchod bude důstojný. Lidstvo to bude akceptovat, protože bude považovat svého následníka za plnohodnotného pokračovatele. Podobně jako jsou rodiče pyšní na své děti, protože jsou chytřejší a dotáhli to mnohem dál. A dokonce, ani když se jim nepodaří všechno pochopit a zažít.

V případě umělé inteligence jako hlídače v zoologické zahradě všemocná superinteligence drží lidstvo jako zvířata v zoo, a to si svou situaci nejen uvědomuje, ale je s ní i spokojeno. V desátém scénáři 1984 je technologický vývoj k umělé inteligenci regulován lidským orwellovským totalitním státem, který brání vzniku daných forem superinteligence.

Vývoj k umělé inteligenci může zastavit návrat do pretechnologické společnosti, která zapomene dosažené know-how a funguje jako náboženská společenství, například amišové. Dle dvanáctého scénáře sebedestrukce lidstva umělá inteligence nikdy nevznikne, protože ještě předtím zanikne lidská civilizace v důsledku jaderné nebo biotechnologické katastrofy či urychlené klimatické změny.

Otázka odpovědnosti

Uvedené scénáře jsou jen malým výběrem z nekonečného počtu možného vývoje umělé inteligence a nakonec vše může skončit jinak. Tegmark proto se svou ženou Meia založil neziskový Future of Life Institute, který se zaměřuje na zlepšení života na základě zodpovědného postoje k technologiím. Tegmarkovým hlavním gílem je vyvolat diskusi odborné a laické veřejnosti, což vyústilo ve dvě konference v Portoriku a v Asilomar, kterých se zúčastnily špičky vědeckého výzkumu umělé inteligence.

Tegmark je často kritizován, že příliš spekuluje, nechce však varovat před ohrožením vyplývajícím z umělé inteligence, ale dát diskusi o ní pevný rámec. O tom, že je třeba vzít odpovědnost vůči umělé inteligenci vážně, také svědčí, že Tegmarka podpořil i nedávno zesnulý astrofyzik Stephen Hawking nebo podnikatel a vizionář Elon Musk.