Umírající technologie
podle článku Billa Tomlinsona
zpracoval: Jiří Svršek

Může technologie zemřít? Co si máme myslet o strojích, které nás nutí používat slova obvykle vyhrazená pro živé bytosti? Mohou stroje skutečně umírat nebo jde jen o slovní obrat?

Asi všichni máme jasnou představu o rozdílech mezi životem a smrtí. Něco žije a něco nežije. Neživé entity, které dříve žily, označujeme za mrtvé.

Role strojů v životě lidí se rozvíjela během 20. století. V roce 1921 významný český spisovatel Karel Čapek vymyslel slovo "robot" ve své divadelní hře "R.U.R: Rossumovy univerzální roboti". [1] Toto slovo odvodil od českého slova "robota" pro těžkou a otrockou práci poddaných. V 50. letech 20. století si získaly respekt sálové počítače používané pro složité matematické výpočty ve vědeckých laboratořích. Dnes jsou osobní počítače součástí našeho života. Mnoho lidí utrácí svůj čas při počítačových hrách nebo v síti Internet. Počítače se staly nezbytným nástrojem všech malých i velkých firem, státních úřadů a institucí.

Slova a metafory, která používáme v souvislosti s počítači, odrážejí jejich posun od otrocké práce ke společenskému významu. Pracující stroj, který přestane sloužit svému účelu, má poruchu. Každý dobře ví, že stroje nejsou živé. Na druhé straně moderní stroje s námi komunikují našimi vlastními pojmy, jako by měly nějaký vnitřní svět odpovídající našemu vnímání světa. Přestože nejsou živé, mají stále více charakter živých tvorů, aby lépe a účinněji sloužily lidské společnosti. Jak jsou nám tyto stroje stále bližší svými reakcemi na naše podněty, stále více pro ně používáme slova původně vyhrazená lidem, domácím mazlíčkům a ostatním živým tvorům, jako je "nevrlý", "unavený", "živý", "mrtvý".

Autor článku [X1] je postgraduálním studentem, který pracuje s profesorem Brucem Blumbergem v MIT Media Laboratory. Pomáhá sestrojovat stroje, které se podobají živým organismům. Těmito stroji jsou technologické produkty od reálných předmětů až po zcela virtuální svět, matematicky modelovaný na počítači. Pomocí studia chování zvířat jako modelu výzkumníci vytvářejí samostatné virtuální tvory, kteří jsou schopni ve svém virtuálním světě vnímat různé předměty. Toto vnímání představuje popudy, motivace a emoce k určitému jednání těchto tvorů v daném okamžiku. Hlubší porozumění lidského chápání života a smrti by mohlo přispět k vývoji strojů, které by ještě věrněji napodobovaly živé tvory.

Lidé mají celou řadu mentálních příznaků, které jim umožňují rozpoznat živé tvory. Kvůli přežití bylo nutné rychle a správně rozpoznat, zda je něco živé. Živí tvorové mohou být nebezpeční, neškodní, mohou být potravou, příslušníkem tlupy nebo sexuálním partnerem. Tím, že člověk něco vnímá jako mrtvé, zároveň vnitřně chápe, že předtím to bylo živé. Využitím těchto mentálních příznaků mohou vývojáři technologií od základů změnit postoje lidí ke strojům.

Tyto mentální příznaky fungují díky principu abstrakce. Naše mysl vytváří konstrukty, které nám snadno umožňují kategorizovat vnímané objekty, tedy zařadit je do škatulek se snadno chápanými nálepkami. Tyto mentální abstrakce často mají přiřazena slova, která je charakterizují, jako je "červený", "malý", "živý". Každý má definici reprezentující vnitřní myšlenkový obraz, který o dané abstrakci máme. Abstrakce se nezabývají "šedými zónami". Pokud chceme hovořit o nějakých hraničních situacích, používáme různá upřesnění nebo zjemnění.

Jeden z příznaků, který zřejmě nejtěsněji souvisí s živým objektem, je možnost jeho smrti. Všechny živé věci umírají. (Zda tomu tak skutečně je, není podstatné. Záleží pouze na "všeobecném poznání").

Autor článku [X1] se při vytváření systémů, které se někdy nesprávně jako "umělý život", setkal s řadou příkladů živých objektů, částí živých objektů (jako je umělá pokožka) a systémů, které imitují živé objekty. Zjistil, že existuje určitý spojitý přechod mezi objekty, které považujeme za neživé, a těmi, které považujeme za živé. Lidé jsou živí. Kladivo je neživé. Avšak co řekneme o zmrazených oplodněných lidských vajíčkách? Nebo o lidském těle s vážně poškozeným mozkem, které je připojeno k umělému respirátoru? Nebo co řekneme o "žijící" nervové tkáni laboratorního psa v živném roztoku? A co řekneme o laboratorním psu, jehož část nervové tkáně bude nahrazena digitální obvody? Technologie vstupují do "šedé zóny", která odděluje bílé od černého, živé od neživého.

Zatímco některé příznaky slouží k rozpoznání živých objektů, jiné slouží k rozpoznání zcela jiných kategorií a mohou vyvolat poznávací nesoulad. Dochází pak k psychologickému jevu, který pramení z naší tendence rozpoznávat abstrakce pomocí příznaků, k pocitu zhnusení. Román "Frankenstein" autorky Mary Shelley, který byl poprvé publikován v roce 1818, je archetypem zvrhlé technologie. Frankensteinovo monstrum vypadá jako by žilo, avšak je pouze lidským výtvorem, který děsil lidi po více než jedno století. Konstruktéři se musí naučit, jak nevyrábět stroje, které sice vypadají jako živé, avšak jako živé se nechovají. Takové stroje vyvolávají obavy, strach, odpor a hnus.

Autor článku [X1] si pokládá několik otázek. Mohou stroje skutečně obživnout? Proč chceme vytvářet stroje, které se chovají jako živé? Proč je pro stroje lepší, aby se chovaly jako živé než jako neživé? Jaký budeme mít prospěch z jejich následné smrti? Jak na nás budou působit stroje, které se budou chovat jako živé, avšak nebudou umírat?

1. Jako živé

Mladý Annakin Skywalker ve jedné epizodě filmu "Hvězdné války" (Star Wars: The Phantom Menace, George Lucas, 1999) říká robotu R2D2, aby vypnul autopilota, nebo oba zemřou. Chlapec považuje robota za živého. Robot několikrát krátce pípne na souhlas.

Stále více používáme stroje, které se chovají jako živé. Lidé mají stále více zkušeností s jinými lidmi a se zvířaty. Lze říci, že v tomto směru jsme odborníky. Proto pokud se stroje chovají jako živé, lépe se nám s nimi komunikuje, přestože tyto stroje s námi komunikují svým vlastním jednoduchým jazykem.

Mluvený jazyk je ve všech lidských kulturách všudypřítomný. Vytvořením strojů, které s námi komunikují svým vlastním jazykem, vývojáři omezili množství nových informací, které potřebujeme, abychom mohli s těmito stroji pracovat. Lidé jsou stále méně a méně ochotni věnovat nějaké větší úsilí pro zvládnutí určitého úkolu, protože jejich čas je vzácný. Softwarové firmy se proto usilovně snaží vytvářet co nejjednodušší komunikační rozhraní.

Manipulace a ovlivňování publika není nic nového. Lidé z filmových studií Walta Disneye nebo například DreamWorks jsou schopni zachytit zjednodušenou podstatu lidských vlastností ve svých filmových postavách. Kniha "Illusions of Life" (Thomas and Johnson, 1981) nabízí řadu zajímavých triků, jak zachytit osobnost nějaké postavy v kresleném filmu. Používá se k tomu určitým způsobem zvýrazněný pohyb a různé karikující vlastnosti postav. Připomeňme si například postavy z kresleného filmu Shrek režisérů Andrewa Adamsona a Vicky Jensonové podle stejnojmenné knihy Williama Steiga, který byl oceněn cenou Americké filmové akademie Oscar v roce 2001. Film vyvolává u většiny diváků silné emoce, přestože jde pouze o kreslené pohádkové postavy.

Přehnané tvary částí těla, pohyby a úkony kreslených postav se často používají jako zesílený stimul pro naši tendenci rozpoznat jednotlivé živé bytosti a jejich vlastnosti. Využívá se tím našich přirozených mentálních příznaků. Stejné postupy používají technologové, když chtějí přesvědčit uživatele o životě svých výrobků.

Ve světě programování byl jazyk Java několik let výjimečným programátorským nástrojem. Jeho klíčovou vlastností je tzv. objektově orientované programování. Programátoři mohou psát své programy s využitím stejného myšlenkového rámce, jaký lidé používají při analýze reálného světa. Části kódu lze chápat jako černé skříňky, které vyžadují určité vstupy a poskytují určité výstupy. Není proto nutné se zabývat složitými posloupnostmi funkcí. Prakticky všechny programátorské koncepty lze považovat za objekty. Jazyk Java umožnil programátorům lépe pracovat se složitými strukturami a vztahy mezi nimi. Objektově orientované vlastnosti se později objevily v programovacím jazyce C v podobě jazyka C++ a ve skriptovacím jazyce PHP jako nadstavby jazyka pro tvorbu webových stránek HTML.

Některé komerční softwarové balíky se snaží chovat, jako by byly živé. Nejznámějším příkladem je Svorka v textovém editoru Microsoft Word. [X10] Svorka je digitální postava ve tvaru malé kovové svorky na listy papíru, která se objeví na obrazovce, když chceme použít nápovědu. Textový editor Microsoft World je poměrně složitým nástrojem a proto společnost Microsoft napsala velmi účinný program pro nápovědu. Technologie nápovědy, která leží v pozadí Svorky nebo jiného pomocníka, obecně nabízí správnou odpověď s minimální obtížností. Aby byla tato technologie pro uživatele příjemná, byla použita postava Svorky nebo jiného pomocníka v podobě míčku, psíka, kočky a robota. Svorka se chová jako živá, tedy při práci s editorem a různých chybách se různě pohybuje a mění. Smyslem těchto postav je "zlidštit" programy a zbavit jejich uživatele případných obav a stresu.

Pokud se používají rozumně, mohou postavy živých věcí posílit oblibu neživých objektů. Stroje, které nevtíravě napodobují různé lidi nebo zvířata, usnadňují naši interakci a komunikaci s nimi. Zřejmě také tímto směrem se bude technologie v blízké budoucnosti vyvíjet. Technologové proto potřebují vědět, jakým způsobem lidé vlastně vnímají živé tvory kolem sebe.

2. Příznaky života

"Proč pláčeš, Glorie? Robbie byl jenom stroj, ošklivý a starý stroj. On nebyl živý."
"On nebyl žádný stroj!", divoce křičela Glorie. "On byl člověk, jako ty a já, a byl můj přítel! Já ho chci nazpátek. Mami, ať se k nám vrátí."
Isaac Asimov: Já robot. (1950)

Existuje celá řada příznaků, pomocí nichž lidé rozpoznávají něco jako živé. Autor článku [X1] sestavil přehled některých z nich a příklady jejich využívání.

Vlastnosti pohybu

Živé bytosti se pohybují velmi zvláštním způsobem. Zatímco servomotory robotů provádějí přesné, pevné a pravidelné pohyby, zvířata se pohybují plynule, hladce a spojitě. Přirozený pohyb živočichů je co nejméně trhavý a živočichové vynakládají na pohyb co nejméně své energie. V reálném světě většina pohybů má určité zaručené vlastnosti. Například nelze polohu změnit nespojitě skokem. Žádný živočich se ani nepohybuje z místa na místo trvale. Ve světě počítačové grafiky však lze například přemístit předmět nespojitě z místa na místo. Animátoři filmů a počítačových her tráví mnoho času tím, aby vytvořili hladký a spojitý pohyb a odstranili z něj nepřirozené vlastnosti. Každý animovaný film nebo počítačová videohra zaměstnává animátory, kteří se snaží, aby pohyb postav vypadal co nejpřirozeněji.

Reakce na podněty

Videohry působí na náš mozek jako velmi silné modely reality zejména tehdy, pokud živé postavy reagují podobně jako živí tvorové v přírodě. Videohry jsou plné různých postav, z nichž některé mají jednoduché chování. Některé však mohou mít chování značně složité a proto jsou velmi přitažlivé. Příkladem je úspěšná počítačová videohra "Escape from Castle Wolfenstein", v níž němečtí vojáci, zombie a různé příšery reagují velmi živě, opravdově a sugestivně.

Fyzická přítomnost

Japonská společnost Omron [X3] v roce 2000 představila robota nazvaného Tama, který měl podobu malé kočky. Robotická kočka vnímala dotyk, byla schopna pohybu, rozuměla lidskému hlasu a odpovídajícím způsobem na něj reagovala. Byla vybavena osmi dotykovými čidly a třemi pohybovými čidly, která jí umožňovala rozpoznávat dotyk a polohu těla. Proto byla schopna rozpoznat, když ji někdo choval v náručí nebo jak pohybovala svým ocasem. Byla schopna rozeznat, odkud k ní přicházejí zvuky a rozlišovala své vlastní hlasové projevy od hlasů okolních lidí.

Všechny informace ze senzorů se vyhodnocovaly v jejím "mozku", který pracoval na principech fuzzy logiky. Tama na své okolí reagovala jedním ze šesti emocionálních projevů. Dokázala vyjádřit hněv, překvapení, spokojenost, úzkost, nespokojenost a strach. Tyto emoce projevovala odpovídajícím "kočičím" způsobem. Tama se sama učila a její reakce na okolí se postupně měnily podle toho, jak se k ní lidé chovali. [N1]

Japonská společnost Sony vyvinula robota Aibo v podobě malého psa. Aibo se choval jako živý pes a na rozdíl od počítačových modelů působil na člověka svojí fyzickou přítomností. [X4]

Nepředvídatelné chování

Živočichové jsou složitými organismy a proto jejich chování často nelze předvídat. Reagují na řadu fyziologických podnětů ze svého vnitřního prostředí a na řadu podnětů vnímaných smysly ze svého vnějšího okolí. Obvykle reagují podmíněnými reflexy, avšak často také reagují na základě svých znalostí nebo zcela náhodně podle okamžité situace a svých pocitů a úsudků.

Nepředvídatelné chování často připisujeme složitosti, kterou obvykle spojujeme s živými tvory.

Přizpůsobení situaci

Živí tvorové jsou schopni se do určité míry přizpůsobit okamžité situaci nebo podmínkám. Tímto způsobem například reagují aplikace umělé inteligence (AI, Artificial Intelligence), jako je A.L.I.C.E (Artificial Intelligence Internet Computer Entity), konverzační robot v přirozeném jazyce s umělou inteligencí. Robot reaguje na libovolný psaný text způsobem, jako by byl sám živým a poměrně inteligentním tvorem. K tomuto účelu byl vyvinut programovací jazyk AIML (Artificial Intelligence Markup Language) [N2], [X5]

Potrava a růst

Tamagoči [X6] byla malá hračka ve tvaru vejce. Měla několik ovládacích tlačítek, pomocí nichž uživatel mohl "komunikovat" s "virtuálním tvorem" uvnitř vejce nebo reagovat na jeho požadavky. Tamagoči "potřeboval jídlo", bylo možno si s ním hrát a určitým způsobem cvičit jeho chování. Vyžadoval pozornost každých několik minut po dobu několika dní až týdnů. Hračku nebylo možno vypnout. Hračka pípla, když Tamagoči "měl hlad" nebo "vyžadoval pozornost". Tamagoči měl děti mimo jiné naučit, že živí tvorové potřebují potravu. Tato "potrava" se podávala pomocí kombinace tlačítek.

Tamagoči se stala ve své době výjimečným příkladem příznaků určitého chování, aniž měla nějaký anatomický vzhled. Hračka vypadala jako malé vejce se zobrazovací jednotkou z kapalných krystalů s malým rozlišením. Přesto byla schopna vyvolat velmi silné reakce svých uživatelů, protože jednoduše napodobovala snadno rozpoznatelné chování živých tvorů, jako je hraní, učení, vylučování, růst a smrt. Hračka u některých dětí vyvolala psychické trauma poté, co "zemřela".

Chlupatost

Většina savců má nějakou srst, proto je chlupatost silně spojována se živými savci. Tento příznak přímo nesouvisí se živými tvory, avšak souvisí s určitým typem živých tvorů, k nimž náleží také člověk. Děti všeobecně reagují na hračky, které mají "srst" a dospělým lidem je většinou příjemné hladit chlupaté savce..

Nevratnost chování

Furby [X7] byla další hračka v podobě malého chlupatého zvířátka, která používala řadu příznaků jako Tamagoči. Zvířátko se trvale učilo poznáváním svého okolí. Učení je nejvýznamnější vlastností hraček tohoto typu, jako byli Tamagoči, Furby nebo různí "virtuální mazlíčci" v osobních počítačích. Chování všech těchto virtuálních tvorů se mění a vyvíjí v reálném čase a tyto změny jsou nevratné, jako je tomu u živých tvorů. Nemají žádné tlačítko "Undo" nebo "Reset", které by umožnilo se vrátit k předchozímu stavu nebo umožnilo nové spuštění. Pokud živý tvor zemře, nemůže nikdy obživnout. Každý provedený úkon se trvale odráží ve stavu virtuálního tvora. Tato vlastnost lépe odpovídá skutečným vztahům mezi lidmi, kteří si pamatují všechno, co se jim kdy přihodilo.

Sebezájem

Pro projekt "Swamped!", který byl představen na výstavě SIGGRAPH v roce 1998, vytvořil tým Syntetic Characters Group virtuálního mývala amerického, jehož systém chování při svém rozhodování zahrnoval podněty (jako je hlad), pocity (jako je vztek) a smysly (jako je chuť). Mýval ve svém virtuálním světě hledal slepičí vejce a pokud měl hlad, tak je požíral. Byl schopen zaútočit proti slepici, která své vejce bránila.

Mýval měl řadu vlastností živých tvorů. Pokoušel se hledat potravu a proto zkoumal své území, podobně jako skutečný mýval. Výzkumníci na základě studia chování mývala amerického vytvořili virtuálního tvora, který projevoval zájem o svůj virtuální svět a své vlastní potřeby.

Tělesné tekutiny

Ve filmu Predátor (McTierman, 1987) Arnold Schwarzenegger hovoří o dalším příznaku: "Pokud krvácí, můžeme to zabít." Přestože většina hraček neobsahuje žádnou krev, je tato tekutina významným příznakem života. Někdy se používají jiné tekutiny, kdy panenky mohou plakat nebo se počůrat.

Smrt

Zřejmě nejvýznamnějším příznakem života je jeho smrt. Všichni živí tvorové umírají. Mrtvé objekty jsou zvláštní podskupinou neživých objektů. Pokud je člověk přesvědčen, že něco je mrtvé, musí být také přesvědčen, že to předtím žilo.

Doom [X9] byla počítačová hra, v níž hráč vedl postavu, která byla vyzbrojena různými zbraněmi od pistole, přes brokovnici až po RPG a výkonný laser. Cílem bylo zabít všechny nepřátele a nenechat se zabít. Doom přinesl na virtuální scénu smrt. John Romero, jeden z autorů hry Doom, v jednom interview hovořil o vývoji další hry "Castle Wolfenstein 3D". Romero uvedl, že něco na té hře nebylo v pořádku, přestože obsahovala více násilí a krve, než jiné hry. Hra získala na opravdovosti teprve tím, když bylo možno vidět, jak nepřátelé umírají.

Smrt je konečným příznakem života. Když vidíte nějakého tvora umírat, naplno a hluboce si uvědomujete, že skutečně žil.

Daně

Jeden starý muž kdysi prohlásil: "Pouze dvě věci v životě jsou jisté - smrt a daně". Smrt je nevyhnutelnou součástí života. Známe řadu příkladů virtuálních tvorů, které umírají, aby tak dokázali, že předtím skutečně žili. Možná se však někomu podaří vyvinout hračku, která bude trpět placením daní...

3. Abstrakce

Zřejmě jedním z nejdůležitějších konceptů počítačové vědy je abstrakce. Pokud máme vytvořit počítačový program, který je modulární a současně efektivní, je nutné nalézt vlastnosti, které jsou několika věcem společné. Lze se pak zabývat pouze těmito vlastnostmi. Také programování je rychlejší, protože není nutné opakovat podobný kód.

Činnost mozku většiny plazů a savců také vychází ze schopnosti abstrakce. Aby zvíře bylo schopno reagovat na bezpočet objektů a organismů ve svém okolí, potřebuje vnímat jejich společné vlastnosti a rozlišovat podstatné rozdíly. Rozdíl mezi tygrem a lvem není příliš podstatný, pokud v obou případech jde o šelmu, která mne může sežrat. Důležitější je rychle rozpoznat hrozící nebezpečí a bezprostředně na ně reagovat.

Velké výhody abstrakce - krátká reakční doba, nízké požadavky na paměť, snadnost programování - jsou vyváženy menší přesností. Útok tygra v kleci vyvolá okamžitou reakci, přestože si člověk stále uvědomuje, že za mřížemi je v naprostém bezpečí. Vyšší šance na přežití díky těmto reflexům výrazně převáží energii vynaloženou na reakci v případech, kdy tento reflex byl mylný.

Evolučním vývojem se u živočichů vyvinula taktika, jak rychle zhodnotit celkovou situaci a každý objekt ve svém blízkém okolí. Určité prvky vyvolávají prudkou a okamžitou reakci. Například lidé velmi dobře a rychle rozpoznávají tváře. Oči, nosy, ústa vidíme v řadě objektů kolem sebe, v mracích, automobilech nebo domech. Určité vnímané obrazce a uspořádání fungují jako příznaky a vyvolávají rychlou reakci. Příkladem je pohled na imitaci hada, pavouka nebo myši.

Pro mnoho objektů kolem sebe máme nějaké příznaky. Barvy, vzorky, obrazce, tvary, zvuky, pachy a chutě mohou vyvolávat v našem mozku silné asociace, s nimiž spojujeme různé věci nebo jevy. Přestože tyto příznaky nejsou zcela přesné, byly dostatečně přesné pro naše předky, aby v nebezpečném prostředí přežili. Malé rozdíly nejsou tak podstatné, jako rychlé a účinné zařazení.

Pro každého savce je velmi podstatné dobře rozlišovat mezi živými a neživými objekty. Živé objekty vykonávají činnosti, mohou se rychle pohybovat a je nutné na ně okamžitě reagovat. Naopak neživé věci budou zřejmě na stejném místě i zítra. Proto všichni savci velmi dobře chápou rozdíly mezi živými a neživými objekty.

Podstatné je také rozlišení, že něco je živé a něco mrtvé. To, co je mrtvé, může posloužit jako potrava nebo je signálem určitého nebezpečí. Pro většinu lidí je nejasná situace velmi nepříjemná.

Gordon Grice ve své knize "The Red Hourglass" (New York, Delacorte Press, 1998) napsal, že běžní lidé v principu věří ve smrt mozku. Smrt mozku nás zbavuje zodpovědnosti rozhodnout, že člověk zemřel, protože neexistuje žádný viditelný rozdíl. Žádný neodborník nemá vybavení pro měření mozkové aktivity. Proto jsme přesvědčeni, že toto rozhodnutí nemáme ve své moci a nemůžeme se rozhodnout. Odvážíme své umírající do nemocnice, určitého chrámu, kde lékaři v roli světských kněží vysloví ortel. Používají k tomu technologii, jíž většina z nás nechápe a pak zaznamenají čas úmrtí do úředních dokumentů, jako by smrt nastala právě v tomto okamžiku.

V našich životech máme řadu způsobů, jak se vyhnout všemu, co nevyhovuje našim přesným kategoriím. Nemocnice jsou zařízení, která stojí na rozhraní. V Disneyových filmech jsou postavy dobré nebo špatné, zatímco všichni reální lidé jsou jak dobří a špatní současně. Zákony jsou však stanoveny tak, aby vylučovaly všechny nejednoznačnosti. Soudci posuzují, zda dostupná fakta naplňují předepsanou definici zločinu.

4. Spojitý přechod mezi živým a neživým

Podle Websterova naučného slovníku je život vlastnost, která odlišuje živou bytost od mrtvého těla. Případně život považuje za princip nebo sílu, která leží v pozadí všech živých tvorů. Život je dále definován jako jistý organický stav, charakterizovaný schopností metabolismu, růstem, reakcemi na vnější podněty a rozmnožováním.

Život je také považován za posloupnost fyzických a mentálních prožitků, které tvoří existenci určitého jedince.

Životnost je obdobím trvání, užitečnosti a použitelnosti určitého předmětu (například baterie). Život je dále popsán jako vlastnost (jako je například pružnost) neživé substance nebo objektu, jímž se tato substance nebo objekt stávají živou bytostí.

Podle amerického Národního úřadu pro letectví a vesmír NASA [X8] v živých organismech probíhají následující procesy:

Debaty o tom, co je život, probíhají neustále. Různé skupiny navrhují nejrůznější přesné definice života. Autor článku [X1] tvrdí, že mezi živými a neživými objekty lze stanovit určitou stupnici. Proto neexistuje jasná dělící čára.

Lidé obvykle o této stupnici nikdy neuvažují, protože obě krajní možnosti pokrývají naprostou většinu případů, s nimiž se během svého života setkávají. Dobře víme, co kolem nás je živé - lidé, psy, mouchy, stromy, tráva. Dobře víme, co kolem nás je neživé - kameny, knihy, oblečení, stoly, počítače. Také víme, co je mrtvé - náš oběd, naši předci nebo naše kožené boty. Málokdy se setkáváme se skutečnostmi, která nevyhovuje našim představám - lidé připojení k přístrojům na podporu života, embrya, uměle rostoucí kůže. Pokud nastanou, obvykle se nemusíme rozhodovat, zda jsou tyto objekty živé nebo mrtvé.

Technologie však celou situaci značně komplikuje, protože vytváří stále více příkladů na nejasné hranici mezi našimi představami neživého, živého a mrtvého. Nakolik lze člověka, který je připojen k přístrojům na podporu života, považovat za živého? A co buňka? Játra? Srdce? Mozek? Celý nervový systém? Nervový systém se sluchovým orgánem? Nervový systém se sluchovým orgánem a hlasovým orgánem? Pokud dokáže poslouchat a mluvit s námi, pak přece musí být živý.

Donna Haraway ve svém článku "The Cyborg Manifesto" (Simians, Cyborgs and Women, New York, Routledge, 1991) uvažuje stírající se rozdíl mezi živými organismy a stroji. Podle ní se stroje stále více snaží setřít rozdíly mezi přírodním a umělým, myslí a tělem, vlastním vývojem a sestrojením a dalšími vlastnostmi, pomocí nichž charakterizujeme živé organismy a stroje. Naše stroje jsou znepokojivě živé, zatímco my sami jsme stále více neteční.

Dokonce pokud bychom měli nějakou konsistentní definici života pro všechny objekty, které kolem sebe pozorujeme, existuje stále více skutečností, které by takovou definici ohrozily. Stále složitější situace nastává v oboru biologických počítačů. Tento obor mimo jiné usiluje o kódování digitálních informací do DNA místo do polovodičů. Budou takové biologické počítače živé nebo nikoliv?

A co si máme myslet o projektech pěstování tkáňových kultur, kdy tkáně živočichů rostou a rozmnožují se v umělém prostředí? Jedním z cílů takového výzkumu je vyvinout "položivé" objekty.

Naše neschopnost rozpoznat přechod mezi neživým a živým neznamená, že takový přechod neexistuje. Naopak, existence takového přechodu vede ke zcela nové situaci. Tento přechod je spíše spojitý, než aby se skládal z nějakých mezistupňů. Proto mezi jednotlivými typy objektů mohou být těžko postřehnutelné rozdíly. Tyto objekty budou stále složitější a stále lépe budou splňovat charakteristiky živých organismů. Setřením hranice mezi neživým a živým nám technologie umožní mnohem lépe pochopit vznik a vývoj života z neživé hmoty.

Podobně jako existuje přechod mezi neživým a živým, existuje také přechod mezi živým a mrtvým. Mrtvé objekty jsou nyní neživé, avšak předtím žily. Smrt si někdy představujeme jako poruchu a jako přepínač živý - mrtvý. Ve skutečnosti neexistuje žádná jasná hranice mezi živým a mrtvým organismem. Každý organismus postupně umírá, zanikají jeho jednotlivé funkce a rozpadají se jeho jednotlivé tkáně.

Pokud však existuje přechod mezi životem a smrtí, proč lidé trvají na umělém přesném odlišení těchto dvou stavů? Tento způsob myšlení je pro nás vysoce efektivní. Není biologicky ekonomické se zabývat věcmi a situacemi, které se vyskytují zřídka.

5. Pocit zhnusení

Pes s rozpáranou hlavou je mrtvý. Plyšový pes s rozpáranou hlavou je poškozený. Plyšový pes s rozpáranou hlavou ležící v kaluži krve je však pro nás mrtvý.

Existuje problém s vytvářením strojů, které se chovají jako živé. Tímto problémem jsou pocity zhnusení. Pokud se objekt velmi podobá živému tvorovi, avšak tato podobnost není dokonalá, lidé reagují odporem a pocitem zhnusení. Tohoto efektu bylo využito například ve filmu "Vetřelec" (The Alien) britského režiséra Ridleyho Scotta, v hlavní roli se Sigourney Weaver. Počítačové systémy nákladní lodi Nostromo při návratu k Zemi zachytily signály neznámého původu. Průzkumníci na povrchu planety objevili trosky mimozemského stroje a při prohlídce na jednoho z nich zaútočil neznámý organismus. Při pokusu odstranit organismus z obličeje průzkumníka vytryskla z řezu prudká žíravina. Po čase organismus zdánlivě odumřel, avšak ve skutečnosti pronikl do těla průzkumníka a přeměnil se do nebezpečnější formy. Po svém krvavém zrození Vetřelec zmizel v útrobách kosmické lodi a postupně útočil na jednotlivé členy posádky, kteří se ho snažili najít a zničit.

Tento jev zhnusení se v odborné literatuře označuje jako "Uncanny Valley" (Reichardt, 1978). Poprvé se o něm zmínil Masahiro Mori z Tokijského institutu technologie. Pokud sledujeme korelaci mezi podobností člověku a oblíbeností, zjistíme, že nejprve oblíbenost roste s podobností stroje člověku. V určitém okamžiku však podobnost stroje člověku vyvolává značný odpor a zhnusení. Například ležící tělo vyvolává nepříjemné emoce, zatímco ležící tělo kreslené postavy nikoliv.

Frankensteinovo monstrum z románu autorky Mary Shelley je příkladem popsaného jevu. Frankenstein oživí stroj, který v lidech vyvolává iracionální strach a odpor. Frankenstein se tak stal moderním symbolem zvrhlé technologie. Vědci a konstruktéři proto budou muset postupovat velmi opatrně, když se budou snažit vytvořit stroje velmi podobné lidem.

Upíři a další neživé stvůry vyvolávají odpor z podobného důvodu. Podobají se lidem, avšak nikoliv úplně. Termín "neživé stvůry" v podstatě ilustruje naši neschopnost někam zařadit tyto fantastické románové a filmové představy.

Odpor a zhnusení pramení z naší neschopnosti něco správně zařadit. Představa, že stroje mohou myslet a uvědomovat si, některé lidi znepokojuje a vyvolává jejich nepříznivé reakce. Stvoření, která vypadají téměř jako člověk, představují pro náš kartotéční systém příznaků nepřekonatelný problém. Proto máme problémy se všemi věcmi, které se nacházejí v "šedé zóně". Odpor a zhnusení se objevuje také u objektů spadajících do kategorií, o nichž jsme přesvědčeni, že jsou neslučitelné.

Autor článku [X1] uvádí vlastní zážitek, když viděl rozkládající se tělo psa napůl nacpaného do odpadkového pytle. Jeho podvědomí nebylo schopno situaci zhodnotit buď jako tělo mrtvého psa nebo jako odpad zabalený v pytli.

6. Projekty

V souvislosti s našimi mentálními příznaky, které nám umožňují rozpoznat živé od neživého, se objevila řada projektů a počítačových her, které útočí na naši představivost.

Příkladem je Schrödingerova schránka. Uzavřená schránka věrně imituje škrábání, mňoukání a naříkání kotěte, které se snaží ze schránky uprchnout. Když člověk krabici otevře, všechny zvuky utichnou. Krabice je prázdná.

Výzkum umělých bytostí, který provádí Synthetic Character Group v MIT (Massachusetts Institute of Technology), je založen právě na mentálních příznacích. Digitální stvoření, která skupina vyvíjí, vycházejí ze studia chování zvířat. Vědci tohoto týmu studují zvířata a vytvářejí teorie o tom, jak se zvířata chovají, jednají a rozhodují. Pak se pokoušejí vytvořit umělá stvoření, která chování, jednání a rozhodování zvířat věrně napodobují. Tato stvoření pak reagují na své prostředí a díky tomu lze sledovat chování lidí, kteří s nimi přicházejí do styku. Smyslem této práce je jednak přizpůsobit stroje lidským potřebám a jednak lépe pochopit lidské reakce.

Autor článku [X1] je přesvědčen, že tým, jehož je členem, učinil první malé kroky směrem k vytvoření nové formy života.

7. Přijatelnost

O tom, co je živé, rozhoduje lidská společnost. Dominantní skupina lidí ve společnosti často tvrdí, že právě její názor je pravdivý. Náboženství se odvolává na Boha, vědci na přírodní zákony, politikové na Ústavu. Živé ve společnosti je to, co je za živé společností pokládáno. Roboti, virtuální stvoření a další bytosti vytvořené moderními technologiemi budou do společnosti pronikat postupně, jak se bude měnit převažující paradigma. Až bude většina společnosti považovat některé stroje za živé, tak bude přijatelná dokonce myšlenka, že jejich osud určuje Bůh. (Hans Moravec: "Robot: Mere Machine to Transcendent Mind", Oxford University Press, 1999)

Aby společnost byla ochotna přijmout novou formu života, musí se tato stvoření podobat tvorům, které považujeme za živé. Musí proto mít podobně složitou anatomii a chování. Podoba, funkce a chování těchto stvoření však postačovat nebudou.

Druhým, daleko obtížnějším krokem bude přijatelnost nové formy života. V historii je řada příkladů, kdy lidé odmítali zřejmé věci. Otroci nebyli jen ze tří pětin lidmi. Avšak otrokáři a zákon na ně tímto způsobem nahlížel. Židé nebyli podlidmi. Avšak němečtí nacisté s nimi takto zacházeli, aniž tím vyvolali větší odpor německé veřejnosti. Proto stroje s funkcemi, anatomií a chováním blízkým člověku nemusí být považovány za živé jen proto, že je sestrojili lidé. Velmi poučné jsou v tomto směru sci-fi romány známého spisovatele Isaaca Asimova.

Filmová produkce zejména ze Spojených států syntetickému životu vytváří někdy pochybné pozadí. Příkladem je film "The Matrix" (Andy Wachowski and Larry Wachowski, 1999), kolem něhož dokonce vznikl určitý kult.

V roce 1968 Stanley Kubrick natočil film "Space Odyssey" podle románu Arthura C. Clarka. Kosmickou loď ovládl palubní počítač Hall, který byl ve filmu představován velkým červeným okem. Přesto se stal nejvýznamnější virtuální postavou celého filmu. Kubrick a Clark tímto filmem položili základy směru k hlouběji propracovaným filmovým postavám počítačů a robotů.

Série filmů "Hvězdné války" ("Star Wars", George Lucas, 1977; "The Empire Strikes Back", Irvin Kershner, 1980; "Return of the Jedi", Richard Marquand, 1983; "Star Wars Episode I: The Phantom Menace", George Lucas, 1999) ukázala roboty R2D2 a C3PO v příznivějším světle s jejich poněkud komickým chováním a nezávislými osobnostmi. Oba roboti se nechovají složitě a často vystupují spíše jako domácí mazlíčci. Přestože se občas dostávají do vážných nebezpečí a jsou dokonce vážně poškozeni, ve filmu neumírají.

Ridley Scott v roce 1982 natočil film "Blade Runner". Hlavní roli ztvárnil Harrison Ford, který pronásleduje replikanty (syntetické lidi). Replikanti nemají na Zemi přístup. Přesto se několik z nich rozhodlo setkat se svými tvůrci. Vůdčí replikant zachrání jejich pronásledovateli život těsně předtím, než jeho vlastní čtyřletý životní cyklus skončí. Režisér film ukončí střihem a ponechává na divácích, zda pronásledovatel replikantů byl sám replikantem. Film "Blade Runner" mnohem více než všechny předchozí filmy popsal život strojů a zabýval se jejich myšlením a pocity v nepřátelské lidské společnosti. Replikanti hledali ve společnosti lidí porozumění a ochranu.

Postavy inteligentních strojů se ve filmu objevují často. Inteligentní stroje a kyborgové se objevili ve filmech "Vetřelec" ("Alien", Ridley Scott, 1979; "Aliens", James Cameron, 1986; "Alien 3", David Fincher, 1992; "Alien: Ressurection", Jean- Pierre Jeunet, 1997), Robocop (Paul Verhoeven, 1987) a "Star Trek: The Next Generation" (1987 - 1994).

Tím, že ve filmech hrají jak kladné tak záporné role stejně jako lidé, tyto filmy pomáhají představit roboty, počítače a inteligentní stroje jako budoucí členy naší lidské společnosti.

Lidé určitého věku nikdy nepřijmou stroje jako rovnoprávné biologickému životu. Avšak budoucí generace, ovlivněné filmy, televizními show, videohrami a domácími počítači se k budou k inteligentním strojům stavět mnohem příznivěji a budou je chápat zcela přirozeně jako mobilní telefony a počítače. Nikdy nenastane situace, že by inteligentní stroje náhle obživly. Děti budou přirozeně vyrůstat vedle syntetického života a vůbec nebudou chápat, proč jejich rodiče budou tvrdit, že jejich domácí robot není živý. Budoucí generace budou syntetický život přijímat jako něco zcela přirozeného a běžného.

Počítače a roboti však mohou úplně obživnout teprve poté, co je jim to lidská společnost umožní. Do té doby digitální stvoření zůstanou umělým životem.

8. Nakonec

Výzkumníci týmu Syntetic Character Groups v MIT vytvářejí stroje, které napodobují život. Sestrojují inteligentní stroje na základě pečlivého studia biologického života.

Inteligentní systémy jsou nepochybně složité. Pokud je nějaký systém dostatečně složitý, není již podstatné porozumět jeho vnitřnímu fungování a lze tento systém považovat za černou skříňku, která přijímá určité vstupy a poskytuje určité výstupy. Nejlepším způsobem, jak studovat složité stroje, je chápat tyto stroje jako živé bytosti. Pokud začneme stroje považovat za živé, přestaneme rozlišovat mezi strojovým životem a biologickým životem.

Proč vlastně chceme vytvářet věci, které jsou živé? Někteří možná naplňují svoji tvořivou potřebu. Některé vzrušují problémy a záhady, které musí vyřešit. Někteří zase dělají věci, které jsou užitečné a zajímavé. A někteří to dělají proto, že nemají v dané chvíli nic užitečnějšího na práci.

Proč je lepší vytvářet věci, které se chovají jako živé než jako neživé? Hlavní důvod spočívá v tom, že lidé jim lépe rozumí a lépe s nimi pracují a komunikují. Například při práci s osobním počítačem je pro mnohé lidi užitečné si představovat, že pracují s určitou živou bytostí než s bezduchým a neživým programem.

Pokud stroje skutečně obživnou, budeme je pohřbívat, když zemřou? Bude vraždou zničit takový stroj? Nebo půjde o jistý "druh spánku", z něhož se opravou může probudit? Bude morální takové stroje posílat do dolů, do válečných střetů, do vesmíru nebo do jiných nehostinných podmínek, kde mohou zemřít? Mohou mít takové stroje nějaké vnitřní cítění a vědomí vlastní existence? Jak se budou tyto stroje dále vyvíjet? Podobně jako v přírodě existuje přirozený výběr, lidé představují mechanismus umělého výběru v digitálním světě. V evoluci strojového života může "zdatností", která rozhoduje o výběru, být co nejúčinnější služba lidem. Zvířata se před smrtí potřebují rozmnožovat, aby se jejich geny přenesly na další generaci. Stroje se mohou "reprodukovat" před svojí "smrtí".

Nebudou lidé závidět inteligentním strojům, že neumírají? Zatímco pro některé typy strojového života bude pro nás výhodné, aby umíraly, jiné budou sestrojeny tak, aby žily věčně. Různé inteligentní stroje, které budou zajišťovat nepřerušitelné služby v nemocnicích nebo v celých společenstvích, by neměly umírat. Budou však lidé schopni tolerovat stroje, které nás budou přežívat a v budoucnu budou mnohem inteligentnější než my sami? Pouze tehdy, pokud s nimi nebudou muset soutěžit. Možným řešením bude vytvořit při narození člověka jeho vlastní stroj, který bude zničen v okamžiku jeho smrti. Pokud stroje dosáhnou dostatečné inteligentní úrovně, snad se jim podaří léčit všechny nemoci lidí. Pak stroje i lidé budou prakticky nesmrtelní.

Existuje však také "černá vize", kdy na určitém stupni svého vývoje inteligentní stroje usoudí, že již lidstvo k ničemu nepotřebují a že jim lidstvo překáží. Velmi podnětné myšlenky k tomuto tématu jsou například ve sbírce polského spisovatele science fiction Stanislava Lema "Futurologický kongres".

Dnes samozřejmě všichni víme, že stroje nežijí. Každý to ví. Každý ve středověku věděl, že Země je plochá.

Odkazy:

[X1]  Bill Tomlinson: Dead Technology. Syntetic Characters Group. MIT Media Laboratory. [M1]

[X2]  Syntetic Characters Group. MIT Media Laboratory. Prof. Bruce Blumberg.

[X3]  Robotická kočka Tama. Japonská společnost Omron.

[X4]  Robotický pes Aibo. Japonská společnost Sony.

[X5]  Promoting the adoption and development of Alicebot and AIML free software.

[X6]  Elektronická hračka Tamagoči. Společnost Bandai.

[X7]  Elektronická hračka Furby. Společnost Tiger Toys.

[X8]  Definice života. Národní úřad pro letectví a vesmír NASA.

[X9]  Doom. IdSoftware.

[X10]  Microsoft Word. Microsoft Corporation.

[N1]  Inteligentní stroje společnosti Omron. Robotická kočka Tama. Natura 9/2000.

[N2]  Umělá inteligence. Natura 3/2004.

[1] Karel Čapek: R.U.R.: Rossumovy univerzální roboti., 1921.