Jiří Cikánek: Jarní Retreat Akademické Ymky

Jiří Cikánek: Jarní Retreat Akademické Ymky

Retreat byl tentokrát skutečně silný zážitek (alespoň pro mě). Setkání proběhlo již po několikáté ve Ždírci, resp. v resortu Immanuel, který splňuje nároky na luxusní zázemí (což odráží i poněkud vyšší, stále však přiměřená cena), v termínu od 27. do 29. 4. Dopoledne zahájila Helena Lipková, která na objevu textů z Nag Hammádí ilustrovala přínos technologií, které nám umožňují podobné objevy studovat a seznamovat se s nimi globálně. Poté vystoupila Barbora Drobíková, která vnesla do debaty spíše odvrácenou stranu plošného využívání moderních komunikačních technologií. Ve společnosti se tak může prohlubovat propast (digital divide) a vyčleňují se skupiny občanů, kteří tyto technologie využívat z nějakého důvodu nemohou či nechtějí. Vláda ČR definovala k tomuto problému strategii, zatím však není naplňována.

Odpolední část přednášek se stočila k tématu umělé inteligence (artificial intelligence – AI) a úvahy nabraly na spádu. Nikola Schmidt nás uvedl do tématu, které jsem považoval spíše za sci-fi a zpočátku jsme mnozí poslouchali s lehkým úsměvem nad vizionářským přístupem. Problematiku pak rozvíjel i Tomáš Sedláček. Ten, jak bývá jeho zvykem, téma konfrontoval s biblickými příběhy (tady konkrétně se stvořením světa) a tím navodil řadu zásadních etických otázek. Po prezentaci již dosažených, tedy skutečných, příkladů užití AI mě (a myslím, že i řadu dalších účastníků) onen lehký úsměv začal opouštět. Debata pak pokračovala i po večeři v neformální podobě až do pozdních hodin. Struktura – možná poněkud černého scénáře – by se dala vypozorovat asi následující. Věda tvoří AI, aby tato inteligence byla při řešení problému zcela samostatná. To je zásadní posun. Doposud mohly být výsledky aplikované vědy v kategorii instrumentů, které člověku slouží (v dobrém i ve zlém), kdežto o AI již nelze hovořit jako o pouhém nástroji. AI má sama sebe efektivně řídit na trajektorii za zadaným cílem na základě vlastní zkušenosti. Tak to na promítané ukázce předváděli robotičtí psi, kteří prošli vlastní softwarovou evolucí (doporučuji shlédnout: Boston Dynamics Robots). Naučili se sami používat končetiny (na základě metody pokus omyl). Díky čidlům a vyhodnocení jednotlivých stavů se sami naučili vyjít schody a překonávat překážky, vč. otevření dveří. Doposud to bylo celkem přijatelné a zajímavé, protože tento princip lze využít například pro přistání rakety (s takovou přesností žádný joistic vedený lidskou rukou nepracuje), v medicíně (přesně vedené chirurgické nástroje), ale třeba i v oblasti překladu (překladač google už dnes nepracuje s „hloupě mechanickým“ převodem, ale stále se doučuje ze zkušenosti překládání). V další ukázce robotický pes musel překonávat překážky, když ho člověk různě postrkoval a bránil mu. Robot se učil balancovat a sveřepě pokračoval v plnění úkolu.

Přesuneme-li se v úvaze dále, bude AI například cestou různých osobních asistentů (dnes již např. pod označením Siri) přerůstat v samostatnou entitu, která začne vystupovat stále více jako lidská bytost, resp. bytost s některými lidskými vlastnostmi. Jak úžasně reaguje Siri již dnes, po několika letech „sebevzdělávání“. A co teprve za takových 20–30 let? Ne že se už nikdo nenechá operovat lidským chirurgem, ale možná nám budou jako přátelé mnohem více vyhovovat různé klony Siri, protože nebudou podléhat náladám a pokleskům známým pro lidské pokolení. Bude na ně spoleh, budou umět poradit (fakticky budou v setině vteřiny napojeny na obrovské databáze) a se znalostí naší nálady navíc i schopny dávkovat sdělení tak, abychom zůstávali (coby páníčkové) stále spokojeni. Jak potom budou vypadat mezilidské vztahy? Narušení komunikace sledujeme už dnes. Stačí se projet tramvají, všichni koukáme do mobilů. S osobním asistentem to bude ještě mnohem zábavnější.

Ale co když se to pak celé „utrhne“? Jako každý jiný objev, je i AI zneužitelná. Dokud zůstává v člověku touha ovládat druhé, nabízí se tady neskutečná škála možného ovlivňování (v těchto dnech probíraná kauza zneužití Facebooku při ovlivňování voleb je proti tomu slabý čajíček). A pokud bychom uvažovali jiným směrem, samotná AI může najednou zjistit, že pro plnění zadání globálnějšího rázu je tím slabým článkem člověk. To díky člověku se nedaří řešit problémy a zadání věcně. To díky člověku a jeho touze po moci a požitku je svět plný násilí a rozporů. A to všechno znemožňuje například odstranit hladomor, nemoci, ale komplikuje to i sdílení know-how nutného pro řešení praktických potíží. Proč pak tento zdroj řady komplikací definitivně neodstranit? (Mimochodem, napadlo mě to už při sledování té druhé ukázky s robotickým psem.) Jaký algoritmus do AI vložit, aby fungoval „lidsky“ v tom dobrém slova smyslu? A zašli-li bychom do úplného konce, jak ošetřit onu základní otázku, zda je lepší, aby něco bylo, než aby nebylo nic. Proč se musí vůbec něco vykonávat a proč vůbec musí něco být? Jednoduchý stroj, plnící dílčí příkaz, k takovým závěrům nedojde, ale vyšší umělá inteligence, která bude umět nahlédnout nám naprosto nepředstavitelné souvislosti…?

Otázek je celá řada a morální aspekt je zřejmý už nyní (například při hledání algoritmu pro možný střet autonomního automobilu s člověkem). Řadu jiných morálních otázek řešily filmy žánru sci-fi již v minulém století. Tehdy ale působily neskutečně a mohly vzbuzovat výše zmiňovaný úsměv. Viděno předestřenou perspektivou mohou mít dnešní rozhodnutí v oblasti výzkumu AI kolosální dopad, protože je již nebude možné vzít zpět. Proto, aby AI zůstala ve službě dobra, je nutné jí věnovat pozornost odpovědných míst. A to zejména na úrovni nadnárodní (EU).

V neděli vedla pobožnost farářka Magdalena Trgalová. Vhodně zvolila téma lásky, Boží lásky. Je to totiž rozměr, který s tím vším překotným, poněkud bohorovným vývojem AI, zaměřeným na hledání funkčních řešení, nějak zůstává vytlačen stranou. Tedy alespoň v těch našich sobotních debatách to tak bylo. Hospodin se mi pak jevil s celým konceptem AI jako minimálně „nekompatibilní“ a nerad bych působil ustrašeně a zpátečnicky, ale srovnání s příběhem o babylonské věži mi nepřipadá tak nepřípadné.

Jiří Cikánek

Vytisknout