Roboti dnes nahrazují lidi ve výrobě, v call centrech nebo také při obchodech na burze. Z údajů, které analyzují, už se dokážou sami učit a upravovat své chování. Mohou tak zabránit automobilové nehodě nebo vyřídit dotaz zákazníka na infolince. Zatím ale zvládají řešit jen jednoduché úkoly, které se často opakují. Cesta k tomu, aby mysleli zcela samostatně a v inteligenci dohnali, nebo dokonce předčili člověka, je ovšem stále daleko.

Na rozvoji takzvané obecné umělé inteligence už přesto nyní pracují výzkumníci světových technologických gigantů, jako je Google, Facebook či IBM. Pozadu ale nezůstávají ani zaměstnanci pražské výzkumné firmy GoodAI, která mimo jiné zkoumá, jak předejít možné situaci, kdy by se roboti postavili proti svým stvořitelům, které už nebudou potřebovat.

"Daleko větším nebezpečím než inteligentní roboti ale mohou být lidé, kteří takovou umělou inteligenci vytvářejí. Musíme si dát pozor na to, aby se chovali dostatečně eticky," říká provozní ředitelka GoodAI Olga Afanasjeva. Podle ní umělá "superinteligence" jen rozšíří tu lidskou a znatelně se díky ní posune výzkum v medicíně, ochraně klimatu nebo přispěje k dalšímu prozkoumávání vesmíru.

Olga Afanasjeva

Rodačka z Moskvy vystudovala češtinu a umění na Západočeské univerzitě v Plzni a veřejnou a sociální politiku na Univerzitě Karlově. Ve výzkumné kybernetické firmě GoodAI působí od roku 2015 jako její výkonná ředitelka. Předtím dva roky pracovala v sesterské společnosti GoodAI, herním studiu Keen Software.

HN: Mohla byste vysvětlit, v čem se liší současná umělá inteligence od té, která přijde v budoucnu a na jejímž rozvoji pracujete?

Ta současná dokáže řešit jen konkrétní problémy, pro něž byla vyvinuta. Příkladem mohou být třeba autonomní auta, do kterých se umělá inteligence instaluje. Pokud je systém vystaven nepředvídatelné situaci, na kterou není trénovaný, tak ji zkrátka nedokáže vyřešit.

Obecná umělá inteligence by oproti tomu měla být schopná řešit většinu problémů. Měla by reagovat podobně jako člověk. Jako lidé se opíráme o znalosti, které jsme různým způsobem získali v minulosti. Postupně si je skládáme dohromady a pak jsme schopní řešit i problémy, na které nejsme vyloženě připraveni. Takový druh inteligence se v GoodAI snažíme vytvořit.

HN: Takže vytváříte počítačovou obdobu lidského mozku.

Takto se to říct nedá. Skutečně existují vědecké týmy, které se snaží lidský mozek replikovat. Firma Neuralink amerického podnikatele Elona Muska chce zase umělou inteligenci s mozkem spojit a voperovávat do něj čipy. To ale není naše cesta.

My se snažíme vytvořit základní algoritmus, který naprogramujeme a který bude mít schopnost sám se učit a budovat si vlastní učební strategie. Pak následuje fáze, kterou nazýváme škola pro umělou inteligenci. Jde o proces, kdy se algoritmus učí v simulovaném prostředí různým dovednostem, které považujeme za užitečné.

HN: Jak to v takové škole pro roboty vypadá?

Jde o to, vystavovat umělou inteligenci úkolům, které se postupně stávají složitějšími. Nejprve ji umístíme do jednodimenzionálního prostoru, pak se přesouvá do 2D, které se dá připodobnit ke starým počítačovým hrám. V těch většinou fungoval nějaký labyrint, kterým bod či postavička procházely, a navíc tam byly různé objekty jako jablíčka, stromy nebo domečky. A pak následuje 3D svět. Algoritmus se zkrátka těmito prostředími postupně posouvá a přitom se učí a čerpá ze znalostí, které dříve získal.

Všechno to probíhá ve virtuálním prostoru uvnitř počítače, takže je testování bezpečné. Pokud bychom k testům přistoupili v reálném světě, tak by mohla ještě nevyškolená umělá inteligence napáchat neplechu.

HN: Není ale právě tohle problém, který s rozvojem robotů přichází? Tedy že roboti lidi postupně předčí, vymknou se jejich kontrole a pak budou možná nebezpeční?

Existují různé druhy obav. Někdo se bojí, že roboti budou lidstvo ovládat nebo že někdo v robotice získá monopol a lidé se pak budou dělit na ty, kteří budou z umělé inteligence těžit, a na ty, kteří k ní přístup mít nebudou.

Každý lidský vynález lze využít k dobrým, ale i ke špatným účelům. U umělé inteligence ale převažují příležitosti nad riziky. S její pomocí můžeme předcházet různým existenčním problémům nebo zdokonalit zdravotnický či vesmírný výzkum, které v současnosti limituje naše nedokonalá inteligence. Jde zkrátka o to, že s touto technologií se naše příležitosti několikanásobně zvýší.

Možnost, že by přišel nějaký Terminátor, který začne lidi ohrožovat, je stále daleko, nechci ale říkat, že bychom měli rizika brát na lehkou váhu. Důležité je proto robotům vtisknout hodnoty, díky nimž porozumí lidskému světu. Podstatné je ale také sledovat nebezpečí spojená s lidmi, kteří se na rozvoji umělé inteligence podílejí.

HN: Jaká rizika nesou vývojáři? Jde o to, že nebudou při vývoji robotů postupovat eticky?

Ano, to může být jeden z důvodů. V současné době už sledujeme závod o umělou inteligenci, kdy se různé firmy nebo státy předhánějí, kdo s touto technologií přijde dřív. A to s sebou nese také hrozbu, že vývojáři ve spěchu třeba něco zanedbají. Nebo že někdo umělou inteligenci využije jen k vlastnímu prospěchu a mocenská rovnováha ve světě se vychýlí, protože jde opravdu o mocnou technologii.

Zároveň si ale myslím, že pokud někdo získá náskok ve výzkumu, tak to může ostatní výzkumné skupiny podnítit k tomu, aby se spojily dohromady a společně se pustily do zajištění bezpečnosti umělé inteligence.

HN: Zmínila jste se o tom, že je superrobotům, kteří jednou přijdou, třeba vtisknout naše hodnoty. Jak je možné naučit stroj, aby se choval třeba empaticky, a ne jen podle míry užitku, kterou si spočítá?

Ano, lidská společnost je postavená na empatii nebo řekněme nesobectví, které rodiče po generace předávají svým dětem. Umělou inteligenci ale můžeme také považovat za takové dítě, které se "narodí", a my ho budeme moci ovlivňovat a formovat podobným způsobem.

Dnes umělou inteligenci učíme prostřednictvím odměn a trestů. Pokud provede chybný úkon, obdrží určitý negativní signál, který vnímá. A pokud zase jedná správně, tak je ten signál pozitivní. My se ale při našem učení snažíme s umělou inteligencí komunikovat nejen prostřednictvím trestů a odměn. Pro lidi je podstatná komunikace. Jsou schopni si řečí vysvětlit i jinak těžko popsatelné pojmy. Řada věcí není černobílá. Při řešení různých etických problémů potřebujete znát kontext a někdy zase potřebujete nějakou věc obšírněji vysvětlit, abyste ji zcela pochopili. Naším cílem je proto s umělou inteligencí začít co nejdříve komunikovat, abychom zabránili vzniku kritických nepochopení mezi ní a lidmi. Chceme s ní mluvit nejprve zjednodušeným jazykem a potom i přirozenou řečí.

HN: Nejsou takové plány příliš utopické? Dá se v dohledné době čekat, že taková umělá inteligence vznikne?

Je to stejné, jako kdybyste se mě ptal, kdy objevíme lék na rakovinu. Máme pocit, že se takovému objevu postupně blížíme, pak ale zjistíte, že uběhlo třeba deset let a takový lék tu pořád není. Podobné je to i s umělou inteligencí. Tento obor ale v posledních letech zažívá ohromný boom, po celém světě se do něj investuje spousta peněz, takže mám pocit, že do 10 nebo 20 let taková chvíle může přijít. Věřím, že by se to mohlo stát ještě během vašeho života.

HN: Roboti už každopádně vstupují do různých pracovních oborů, ve kterých nahrazují lidi. Jak bude tento trend pokračovat?

Robotizace se zatím dotýká především jednoduchých manuálních oborů. Automatizovat se už ale dají třeba i některé právní služby, pokud se periodicky opakují. Právo je přitom považováno za vysoce intelektuální práci. Co zatím umělá inteligence neumí, je lidi nahradit na pozicích, kde je vyžadována kreativita a selský rozum. I tam ale časem pronikne.

Proto si myslím, že bude muset přijít nějaká forma základního nepodmíněného příjmu, tedy pravidelné peněžní dávky pro všechny obyvatele. Budeme muset rovněž přehodnotit roli tradičních institucí a státu. Už nyní vidíme, že v řadě oblastí dokáže soukromá sféra úkoly státu nahrazovat.

HN: Co v takovém světě zbude lidem? Co budou dělat, když nebudou muset pracovat?

Podle mě je umělá inteligence pouze nástrojem, který nám pomůže realizovat naše představy zcela jiným způsobem, než je to možné teď kvůli fyzickým nebo finančním omezením. Myslím, že lidi vždycky poháněla touha vytvářet, poznávat a sdílet. A s umělou inteligencí je naděje naplňovat tyto touhy snáze ve zcela jiném měřítku. Vytvářet zcela nové světy, krásná umělecká nebo technologická díla, objevovat mikrosvět nebo zcela nové galaxie. Vůbec poprvé můžeme lidem otevřít jejich nevyužitý potenciál.

Naším cílem není stvořit protipól člověka. Jde jen o rozšíření lidské inteligence, z něhož by měla mít prospěch co nejširší veřejnost. Zásadní přitom je, aby lidé měli přístup k těmto novým technologiím a měli možnost o nich rozhodovat.