Právo dopady automatizace nevyřeší

Učiníme-li každé, dokonce velmi abstraktní nebo častěji velmi absurdní riziko jakékoliv lidské činnosti záminkou pro hledání právní odpovědnosti, rozmělňujeme ji na padrť. Budeme-li navíc hledat cesty, jak učinit „právně odpovědnými“ moderní automatické stroje, vysměje se nám budoucnost.

Umělá inteligence. | na serveru Lidovky.cz | aktuální zprávy Umělá inteligence. | foto: Ilustrace Richard CortésČeská pozice
Umělá inteligence.

Znal jsem člověka, který jako manažer cestoval po celém světě. Jeho putovní plán určoval modus vivendi obří nadnárodní korporace. Pokud jste si v tom holdingu chtěli vybudovat kariéru a obsadit řídicí post, což byl jeho případ, přihlásili jste se do vnitropodnikového konkurzu. Kdo uspěl, nastoupil na místo šéfa firmy – dejme tomu – v Limě.

Po nějaké době byl vypsán nový konkurz na ředitelskou funkci v Singapuru. Asijská společnost byla větší, významnější, prestižnější. Vítěz konkurzu tedy postoupil na firemním žebříčku. A tak kráčel z poschodí do poschodí, až se dostal do indického Dillí. Tamní podnik na městské periferii byl skutečně velký – měl zhruba tři tisícovky zaměstnanců.

Když náš muž procházel provozem, dospěl do velké haly, v níž seděly desítky místních pracovníků, a před každým se tyčila vysoká hromada obálek. Vložit tiskovinu, zalepit, napsat adresu, naskládat do krabice. Jednoduchá činnost pro nekvalifikovanou pracovní sílu. „Tady je příležitost,“ blesklo kariérnímu manažerovi hlavou.

Za krátkou dobu se hala vylidnila, práci dvou stovek lidí zvládli čtyři a expediční automatická linka. Za týden začaly sílit nepokoje v chudé příměstské kolonii. Celá vesnice přišla o práci. A za dalších pár týdnů stál automat v rohu, v hale se tísnily desítky pilných pracovníků a lepily obálky. Znovu zavládl sociální mír.

Velký omyl

Zní to jako příběh z první poloviny 19. století, byť to nebylo tak dramatické jako v roce 1844, kdy se tiskaři kartounu v pražské firmě bratří Porgesů s kolegy z dalších tří závodů vzbouřili proti zavedení strojů zvaných perotiny (ve skutečnosti byly roznětkou konfliktu mzdy) a vzali na ně kladiva. Princip ovšem zůstal týž: nahrazení takzvané jednoduché (především manuální) práce strojem snižuje potřebu fyzické pracovní síly. Z ekonomického hlediska je to celkem jasné.

Na velkém omylu je každý, kdo by předpokládal, že právo – a nejlépe snad trestní – je možnou cestou řízení společnosti

Sociální aspekt je složitější, neboť technický a vědecký pokrok nepochybně a zákonitě přináší vedle pozitiv, například zvyšování produkce, rozšiřování služeb či vytváření nových oborů, také třeba dočasné otřesy, které mohou být doprovázeny radikálními náladami v částech společnosti. Balance – hledání sociálního míru – mezi těmito trendy je trvalým úkolem společnosti a státu.

Jedním z nástrojů, které k tomuto dynamickému, stále pohyblivému cíli vedou, je právo. Jeho základním smyslem, jak u nás zdůrazňovali především soudci takzvaného druhého desetiletí Ústavního soudu, například Pavel Holländer či Vlasta Formánková, je zajišťovat pokojný chod věcí. Na velkém omylu je každý, kdo by předpokládal, že právo – a nejlépe snad trestní – je možnou cestou řízení společnosti.

Prohibitivní regulace

Bohužel tento názor podle všeho v současnosti převládá u mnoha lidí, z nichž nelze vyjmout ani politiky. Jakmile se něco stane, hledá se spása v přijetí nového zákona nebo alespoň ve změně paragrafů. A protože se toho děje spousta, přibývají předpisy a rozšiřuje se jejich obsah. Motorový člun přejede plavce, což senátor Jaroslav Kubera sarkasticky komentuje: „Čekám, kdy někdo navrhne zákon, že buď nesmějí jezdit motorové čluny, nebo že plavci musejí mít na čepicích majáky.“

Prohibitivní regulace je cestou do velké černé díry, kterou se bohužel soudobá euratlantická společnost vydává s urputnou neochvějností stále dál

Česká středoškolská unie se zapsala do povědomí protesty proti regulaci nezdravých potravin na školách iniciované převratným zjištěním České školní inspekce, že mládež pojídá sladkosti. Vedoucí skautského tábora na televizní obrazovce smutně zírá na palouk, kde každé léto se svými svěřenci stavěl stany. Od letošního roku zakázáno. Palouk se administrativně stal záplavovou zónou.

Známe to z historie „ve velkém“ – stačí si připomenout Volsteadův zákon. Prohibitivní regulace je cestou do velké černé díry, kterou se bohužel soudobá euratlantická společnost vydává s urputnou neochvějností stále dál, až se z toho stane nezvratný proces, se kterým už nebude co si počít. Politika a legislativa se v tomto směru chovají podobně jako ti dělníci z pražských kartounek s kladivy v ruce. A nejde-li něco, vezmou větší kladivo.

Obrana

Poznatky moderních věd, technický rozvoj, rozšiřování zdrojů společenského bohatství a luxusního pohodlí dnešního života jsou faktory, které neustále nutí zvažovat nové možnosti, potřeby a nutnosti i ve sféře společenské – právo v tomto směru není výjimkou. Vodní skútry a malé motorové čluny dosahující rychlosti stovky kilometrů v hodině jsou něco jiného než pramička, na níž se námahou zarudlý mladík pokoušel ze všech sil veslovat, a přitom slečně pod parasolem recitoval Šrámkovy sentence o stříbrném větru.

Ač příroda přesvědčuje, že jejím rozmarům se nikdy definitivně neubráníme, nové technologie, varovné systémy, meteorologické mapy a další moderní nástroje umožňují, abychom se bránili „co možná“, abychom předvídali nebo přinejhorším včas utekli

Kdyby Magdalena Dobromila Rettigová spatřila v restauraci seznam alergenů, jehož podkladem jsou vědecké analýzy potravin, přestala by leknutím vařit. Pražský exprimátor Igor Němec by se svou pověstnou větou „situace je nadmíru výtečná“, pronesenou když se na Prahu valila potopa, na zmíněném palouku, ze kterého byli vymýceni skauti, žádnou škodu nenatropil – dokonce ministerstvo životního prostředí se podivuje, že by se záležitost měla týkat i přenosných obydlí, jako jsou stany.

Ač příroda přesvědčuje, že jejím rozmarům se nikdy definitivně neubráníme, nové technologie, varovné systémy, meteorologické mapy a další moderní nástroje umožňují, abychom se bránili „co možná“, abychom předvídali nebo přinejhorším včas utekli. Potíž je ve dvou věcech – v použití rozumu jako zvláštního lidského privilegia a v odvaze rozum použít.

Jedinečnost lidského myšlení

Francouzský filozof René Descartes (1596–1650) ve svém díle Rozprava o metodě vyložil: „Kdyby existovaly takové stroje, jež by měly orgány a vnější vzhled opice nebo jiného nerozumného zvířete, měli bychom důvod se domnívat, že by byly ve všem stejné povahy jako tato zvířata; kdežto kdyby existovaly stroje podobající se našim tělům a napodobující naše úkony potud, pokud by to mravně bylo možné, měli bychom vždy dva velice vážné důvody, abychom poznali, že proto ještě nejsou skutečnými lidmi.

Lidské myšlení je jedinečné – a dokud nesestrojí samostatně se rozvíjející umělou inteligenci nebo dokud zde nepřistanou Marťané, výjimečnost si uchová. To by celkem byla výhra, jenže má své jenže.

První důvod je, že by nikdy nemohly užívat slov ani jiných znaků, skládajíce je, jako činíme my, abychom své myšlenky vyložili jiným. Neboť lze dobře chápat, že stroj může být udělán tak, aby pronášel slova, ba dokonce aby pronášel některá ve spojení s tělesnými úkony, souvisejícími s nějakými změnami jeho orgánů: jako například když se ho dotkneme na určitém místě, aby se zeptal, co mu chceme říci, když na jiném místě, aby křičel, že ho to bolí, a podobně; nemůže však být udělán tak, aby slova různě sestavoval a takto odpovídal na vše, co se řekne v jeho přítomnosti, jako to i nejtupější lidé mohou činit.

A druhý důvod je, že i kdyby vykonávaly určité věci stejně dobře nebo snad i lépe než kdokoliv z nás, selhaly by nevyhnutelně v jiných, při nichž by vyšlo najevo, že nejednaly s vědomím, nýbrž toliko podle sestavení svých orgánů; neboť rozum je všestranný nástroj, kterého lze užívat ve všech možných případech, kdežto tyto orgány musí mít nějaké zvláštní uzpůsobení pro každý úkon jednotlivý; a proto je morálně nemožné, aby rozmanitost těchto orgánů v jednom stroji stačila přivést jej k tomu, aby jednal za všech okolností života stejně, jako jednáme my vlivem svého rozumu.“

Leckdo může z bohorovného nadhledu 21. století poukazovat na naivitu a přílišné zjednodušení těchto slov či na míle, které od časů Descartových k věku robotickému a kybernetickému urazila věda, leč lidské myšlení je jedinečné – a dokud nesestrojí samostatně se rozvíjející umělou inteligenci nebo dokud zde nepřistanou Marťané, výjimečnost si uchová. To by celkem byla výhra, jenže má své jenže.

Selhání mechanismu

Mechanismus, který v podivných strukturách momentálního způsobu myšlení kriticky selhává, je ten pradávný odpovědnosti – jeden z aspektů, na který názory filozofa ukazováčkem míří. Naše právo řeší tento problém zatím spíše okrajově. Nicméně zajímavý je v této souvislosti například systém interpretace mezí nutné obrany jako institutu trestního práva.

Nejvyšší soud vydal dokonce sjednocující stanovisko, v němž se mimo jiné uvádí: „Použití automatického obranného zařízení zejména v podobě nástražného systému, který se automaticky uvede v činnost po vniknutí útočníka do chráněného objektu, musí splňovat zákonné požadavky kladené na jednání v nutné obraně, a proto musí být zabezpečeno, aby se aktivovalo jen proti přímo hrozícímu či trvajícímu útoku na zájem chráněný trestním zákonem a aby jeho účinnost nebyla zcela zjevně nepřiměřená způsobu útoku.

Mechanismus, který v podivných strukturách momentálního způsobu myšlení kriticky selhává, je ten pradávný odpovědnosti

Problémy může vyvolávat zejména zajištění splnění první podmínky, neboť se v praxi může stát, že dojde k uvedení takového zařízení v činnost např. vůči hasiči zasahujícímu vůči požáru v chráněném objektu nebo proti dítěti, které překoná oplocení, aby nalezlo zatoulaného psa nebo zakopnutý míč, popř. jen tak ze zvědavosti.

Proto je na obránci, aby věnoval při instalaci automatického obranného zařízení dostatečnou pozornost nejen jeho funkčnosti a zabezpečení jen útokem odůvodněného uvedení v činnost, ale i dostatku vnějších varujících a zabezpečovacích opatření směřujících proti nedůvodné aktivaci automatického obranného zařízení.“

Bohorovný klid

Impulsem k přijetí tohoto výkladu byl případ, kdy obviněný pod podlahu kůlny na svém pozemku umístil nástražný výbušný systém. Zloděj přelezl plot, vnikl do kůlny a nastala exploze. Zloděj přišel o nohu a stal se poškozeným, majitel kůlny a pozemku byl obžalován, neboť při obraně svého majetku překročil meze nutné obrany.

Na názorovém proudu směřujícím k rozbití systému rozumné individuální a konkrétní odpovědnosti se naše společnost v bohorovném klidu houpe už celé roky

Nedávno způsobilo motorové vozidlo s automatickým řízením dopravní nehodu. A jedna světová automobilka se vyjádřila, že „pokud se někdy stane nehoda, za kterou bude moci autonomní vozidlo řízené v automatickém režimu, firma plně převezme zodpovědnost a sejme ji tedy z řidiče“. Jednoduchá představa. Škodu způsobil automat, učiníme odpovědným stroj. Ostatně – proč ne?

Na názorovém proudu směřujícím k rozbití systému rozumné individuální a konkrétní odpovědnosti se naše společnost v bohorovném klidu houpe už celé roky. Neplatiči alimentů mohou být v klidu – zaplatí za ně stát. Velké firmy hodí přes palubu stovky a tisíce zaměstnanců – stát půjčí na výplaty. Manažeři obchodní korporace svými rozhodnutími porušují zákon – zavedeme kolektivní postih na principu trestní odpovědnosti právnických osob.

Hra na bohy

Odpovídá to i dalším názorovým proudům, které společně tvoří nejen pěnu našich dní, ale i mohutný tok podemílající základy organizace společnosti. Produktem tohoto trendu je neschopnost vyvozovat rozumné závěry z rozumných předpokladů. Opouštíme princip příčinné souvislosti vykládaný racionálně a rozmělňujeme jeho podstatu ve výkladu emocionálním. Jako bychom si chtěli hrát na bohy, nahrazujeme reálný kauzální nexus ve společenských vztazích motýlím efektem.

Opouštíme princip příčinné souvislosti vykládaný racionálně a rozmělňujeme jeho podstatu ve výkladu emocionálním. Jako bychom si chtěli hrát na bohy, nahrazujeme reálný kauzální nexus ve společenských vztazích motýlím efektem.

Na amazonského motýla lze tímto způsobem shodit odpovědnost za cokoliv. A už vůbec pomíjíme, že odpovědnost v právním smyslu, natož v trestněprávním, je třeba zakládat v její objektivní stránce zase jen na příčinné souvislosti interpretované v právním smyslu, na což odborníci dlouho a úpěnlivě upozorňují. Ještě větším problémem může být, že nepovažujeme za primární to, jak věci jsou, nýbrž jak si panující moc usmyslela, že by být měly. Ne že by to byla novinka.

Galileův případ byl jen jedním v kontinuální řadě „před“ i „po“. (V roce 1633 byl astronom odsouzen za zveřejněné názory pro kacířství, přičemž mu bylo nabídnuto, že když se omylů zřekne, bude mu trest prominut. Galileo odvolal, a proto mu bylo uloženo jen domácí vězení a zakázána jeho díla – kauza mimochodem ovlivnila i Descarta.) Dnešní mluvou bychom mohli provokativně konstatovat, že ze strany katolické církve šlo o udržení dogmatu, ze strany Galileovy o pozdě, ale přece probuzenou politickou korektnost raného novověku.

Tento trend má v dějinách – zjednodušeně řečeno – povahu sinusoidy vybočené vertikálně směrem nad nulovou osu, která znázorňuje stav, kdy věci jsou většinově (veřejně) označovány přibližně tak, jak je společnost skutečně vnímá. Spodní – krátké a nehluboké – amplitudy značí období zvýšené informační otevřenosti, ale i u nich lze spoléhat pouze na relativitu.

Špičky ledovce

Když se něco v silně porouchané společnosti oznámkuje jako glasnosť, ještě to neznamená, že se říká pravda (ani v relativní podobě „poznané pravdy“). Ani fenomény, jako je WikiLeaks, na tom nic nemění, jak nasvědčuje debata o metodách, jež používá. Komentátor Ondřej Trhoň připomněl v rozhlasové poznámce komentář whistleblowera Edwarda Snowdena na Twitteru: „Demokratizace informací nikdy nebyla důležitější a WikiLeaks jí hodně napomáhají. Ale jejich nelibost vůči zdrženlivé kurátorské práci je chybná.“

Vášnivá debata o „spodních amplitudách“ je však co do rozsahu v dějinách zanedbatelná ve srovnání s tím, kolik by toho bylo napsáno o různých metodách potlačování informací v zájmu panujících skupin. Sókratés, Hus, Bruno jsou jen nepatrné špičky ledovce.

Podle Trhoně „vodítko k poměrům uvnitř organizace nabízí pět let stará kauza, během které byli interní zaměstnanci nuceni podepsat extrémně přísnou dohodu o mlčenlivosti. Tehdejší spolupracovník WikiLeaks James Ball to i přes silný psychický nátlak odmítl a pro The Guardian popsal, že dohoda byla řádově přísnější než jiné podobné dokumenty běžných mediálních institucí. Podle Balla navíc byl jemu předložený dokument antedatovaný do doby, kdy bylo zveřejňování informací o práci WikiLeaks součástí firemní PR strategie – což může naznačovat, že si Julian Assange chtěl vytvořit páku pro zpětné potrestání neposlušných zaměstnanců.“

A komentátor uzavírá: „Jestli WikiLeaks podobné dohody používají i dnes samozřejmě nevíme. Spolu s excesy při redakční práci s publikovanými materiály se ale obrázek Assangova projektu jako výspy upřímného whistleblowingu bortí. Když si totiž organizace zaštiťující se radikální otevřeností nechává podepisovat dohody o mlčenlivosti, měli bychom zpozornět. Protože jedno je jasné: whistleblowing je potřebná a chvályhodná aktivita, když ale ničí životy nevinných, musí se říct dost.“

Vášnivá debata o „spodních amplitudách“ je však co do rozsahu v dějinách zanedbatelná ve srovnání s tím, kolik by toho bylo napsáno o různých metodách potlačování informací v zájmu panujících skupin, tedy o etapách, kdy se společnost pohybuje v „horní části amplitudy“. Sókratés, Hus, Bruno jsou jen nepatrné špičky ledovce.

Nezávislost na řidiči

Proč se však trápit touto všeobecně politickou otázkou, když mluvíme o automatickém automobilu? Přinejmenším jednu spojitost v naznačeném směru snadno objevíme – a je jí problém forem odpovědnosti. Využití automatických systémů – podobně jako řada jiných faktorů – nepochybně komplikuje uplatňování právní odpovědnosti.

Pokud si pod pojmem „automat“ představíme v rámci současného vědomostního paradigmatu nejspíše počítačem řízený stroj s určitými předem nastavenými funkcemi, naskýtá se řada případů, které přicházejí v úvahu, jakmile se takové zařízení „účastní“ konfliktní situace. Máme – dejme tomu – automaticky řízený vůz v silničním provozu a nehodu, při které porazí cyklistu. Je samozřejmě třeba zkoumat, nakolik je automatický řídicí systém nezávislý na řidiči. Má vůbec automatické auto řidiče?

Je třeba zkoumat, nakolik je automatický řídicí systém nezávislý na řidiči. Má vůbec automatické auto řidiče?

Nedovedeme si dnes sice (možná s výjimkou vědců, vynálezců, spisovatelů science fiction nebo geniálních vizionářů) něco podobného představit, nikoliv však proto, že by nebylo možné vytvořit podobný automat. Připomeňme si třeba čínského Nefritového králíka nebo jiná lunární vozítka. S jejich funkčností mohou vznikat potíže, ale další poznatky nesporně povedou k jejich odstraňování.

To, co nám činí obtíž, je představa absolutní autonomie řídicího systému takového zařízení. Pokud by totiž existovala, skutečně by šlo o „vozidlo bez řidiče“, bez ohledu na to, zda by v něm seděla osoba, která se chce nechat přemístit z bodu A do bodu B a za tím účelem do stroje nasedne. Takový „neřidič“ – a o tom by nebylo nejmenšího sporu – by právní odpovědnost za nehodu nenesl.

Deus ex machina

Hledání právní odpovědnosti by tím ale nekončilo. Zkoumali bychom například, zda ji ponese firma, která zařízení zkonstruovala, certifikované pracoviště, jež homologovalo stroj pro použití v silničním provozu, ten, kdo naprogramoval funkce automatu, či technik, který měl na starosti údržbu a kontrolu řídicího systému. Záleželo by také na tom, zda odpovědnost, má mít povahu objektivní (zda jde o takzvanou odpovědnost za výsledek), nebo subjektivní (odpovědnost za zavinění).

Automatické zařízení je zatím pouhý stroj – machina. Obsahuje-li inteligenci, je pouze umělá, vložená člověkem nebo jiným strojem, nikoliv bohem. Není tu deus ex machina, který by disponoval vlastními zájmy, spřádal své záměry, zabýval se pohnutkami.

Vždy bychom ale také naráželi na problém, na který upozorňuji – na příčinnou souvislost v právním smyslu. Pokud bychom ji pominuli, posunuli bychom se k uvažování amerického soudu o příběhu pana Grazinského, který si v obytném voze odešel na dálnici od volantu vařit kávu, havaroval, ale soud pravil, že v návodu k obsluze vozidla nebylo výslovně uvedeno, že takovou pitomost udělat nesmí, a přiřkl mu náhradu škody.

Automatické zařízení je zatím pouhý stroj – machina. Obsahuje-li inteligenci, je pouze umělá, vložená člověkem nebo jiným strojem, nikoliv bohem. Není tu deus ex machina, který by disponoval vlastními zájmy, spřádal své záměry, zabýval se pohnutkami. Zde tkví jeden z kořenů problému.

Uchvácení představou

Naše společnost je zachvácena představou, že právo je a má být všemocné – že musíme najít osobu právně odpovědnou i za následky mávnutí motýlích křídel. Na jedné straně občanský zákoník „hrdě“ deklaruje: „Má se za to, že každá svéprávná osoba má rozum průměrného člověka i schopnost užívat jej s běžnou péčí a opatrností a že to každý od ní může v právním styku důvodně očekávat.“ Na druhé schizofrenně trváme na tom, že svobodnou vůli člověka je třeba neustále podrobovat testu kuchařek a návodů.

Naše společnost je zachvácena představou, že právo je a má být všemocné – že musíme najít osobu právně odpovědnou i za následky mávnutí motýlích křídel

Není sporu, že každý výrobce hraček by měl dbát, aby jeho produkty byly vůči jejich nejčastějším uživatelům dětem, které se nevyznačují plnou svéprávností, co nejbezpečnější. Rozum ale velí, že s hračkou musí být možné si hrát.

Ustanovení, že „hračky a jejich části musí mít takové rozměry, aby nepředstavovaly riziko, že dojde k udušení zamezením přístupu vzduchu z důvodu vnitřního zablokování dýchacích cest předměty, které se zaklínily v ústech nebo hltanu nebo uvízly na vstupu do dolních cest dýchacích“,může být (a jistě je) stokrát dobře míněno, jakmile se však stalo součástí platného práva, přestal bych, být výrobcem hraček, podnikat.

Nechť lidstvo zapomene na hru v kuličky, ačkoliv údajně, jak tvrdí Český kuličkový svaz, nejstarší nalezená kulička pochází z Egypta a datuje se do roku 3000 před naším letopočtem. Po pěti tisíciletích bojuje postmoderní společnost proti „riziku, že dojde k udušení zamezením přístupu vzduchu z důvodu vnitřního zablokování dýchacích cest“duhovou skleněnkou a volí v tomto boji těžké kladivo – právo.

Střet s pokrokem

Učiníme-li každé, dokonce velmi abstraktní nebo častěji velmi absurdní riziko jakékoliv lidské činnosti záminkou pro hledání právní odpovědnosti, neděláme ve skutečnosti nic jiného, než že ji rozmělňujeme na padrť. Touto pseudoprávní snahou naopak likvidujeme všechny ostatní druhy odpovědnosti – například morální, rodičovskou, přátelskou, bratrskou, sousedskou, uměleckou či vědeckou.

Právo se s pokrokem zákonitě střetá, a to současné tento střet neřeší dobře. Je technicistní nikoliv jen proto, že by bylo nadmíru technické, nýbrž proto, že mnohdy postrádá skutečný humánní rozměr, který nahrazuje pseudohumanitou, jež se projevuje v deficitu spravedlnosti.

Budeme-li navíc hledat cesty, jak učinit „právně odpovědnými“ moderní automatické stroje, vysměje se nám budoucnost, pokud ovšem ještě jaká přijde. A obráceně – nedostojíme-li své lidské povinnosti užívat všech forem odpovědnosti člověka podle rozumu a citu, jak apeloval T. G. Masaryk, nahradíme speciální právní odpovědnost prachobyčejnou nelidskostí.

Pokrok sice často škobrtá po hrbolatém dláždění nedokonalých cest našeho vědomí, ale navzdory tomu se – někdy pomalu, ale vcelku jistě – valí vpřed. Právo se s pokrokem zákonitě střetá, a to současné tento střet neřeší dobře. Je technicistní nikoliv jen proto, že by bylo nadmíru technické, nýbrž proto, že mnohdy postrádá skutečný humánní rozměr, který nahrazuje pseudohumanitou, jež se projevuje v deficitu spravedlnosti.

Prvních 50 modelů automatického auta firmy, která hodlá snímat odpovědnost z řidičů a nést ji na svých bedrech (zatím v ní mají technici a inženýři nezanedbatelný náskok před právníky), vyjede v testovacím provozu do ulic už v roce 2017. Trochu mě děsí, že ve městě, kde žije jedna z mých nejbližších osob. Budu ji muset upozornit, aby dávala pozor, zda auto, které potká na křižovatce, neprojíždí bez řidiče za volantem.



Počet příspěvků: 2, poslední 3.10.2016 09:34 Zobrazuji posledních 2 příspěvků.