Ember a gépben

Félnünk kell-e saját teremtményünktől? Némileg leegyszerűsítve, ezen a kérdésen gondolkodott el Asimov, amikor megfogalmazta a robotika három törvényét:

1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.
3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.

Az asimovi „kodifikáció” érzékelhetően egy hosszabb alkotói folyamat eredményeképpen jött létre. Első két robottörténetében még egyáltalán nincsenek törvények. Az első törvény az 1941-es Te hazug című novellájában jelenik meg, a három törvény az 1942-es Körbe-körbe című robottörténetben jelenik meg a maga teljességében először. Asimov azon szerzők közé tartozik, akik viszonylag kevés találgatásra adtak teret műveikkel kapcsolatban. A The rest of the robots című novelláskötetének előszavában.

Teremtményét, a robotot Mary Shelley Frankensteinjének teremtményéhez hasonlítja; a novellabeli Frankensteint ugyanakkor egy új Faustként aposztrofálja, aki megteremti a saját Mephistophelesét. 

„Frankenstein achieved its success, at least in part, be-cause it was a restatement of one of the enduring fears of mankind—that of dangerous knowledge. Frankenstein was another Faust, seeking knowledge not meant for man, and he had created his Mephistophelean nemesis.”

Egyben felteszi a kérdést: hol vannak a tudomány eredményeinek etikai határai? Zárkózzunk-e el a nyilvánvaló előnyökkel kecsegtető „teremtmény” használatától? Végtelenül unalmasnak találja a húszas, harmincas években a tudományos-fantasztikus irodalomban elszaporodó Frankenstein-klónokat, és a gyilkos robot toposzát:

„A robotot megalkották, a robot elpusztította teremtőjét; a robotot megalkották, a robot elpusztította teremtőjét; a robotot megalkották, a robot elpusztította teremtőjét.”

Válasza a robotika három törvényének megfogalmazásávan született meg. Ezzel gyakorlatilag új toposzt teremtett. A robotika törvényei a zsáner axiomáivá váltak. Másfelől a tudomány etikus alkalmazásának irodalmi megjelenésének is katalizátorává vált. A kérdés leglelkesebb felszínen tartója Michael Crichton volt, aki harvardi orvosi diplomával vált bestselleríróvá, és gyakorlatilag minden regényében a tudomány etikus alkalmazásáért kardoskodott.

Én, a robot (Axel Proyas, 2004)

Asimov az igazi kérdést azonban csak implicite teszi fel. Miért is kell félnie az embernek a saját teremtményétől? Azért talán, mert a teremtéssel isteni kiváltságot birtokol? Vagy pusztán azért, mert a tiszta ész alapján működő (élő?) racionális lények érzelmek híján bűntelenek teremtőjükhöz képest? Közvetlen választ nem kapunk műveiből. A Robot-univerzumból és az Alapítvány-sorozatból azt a tanulságot szűrhetjük le, hogy a Robot (Daneel R. Olivaw) életcélja az emberi faj védelme, fennmaradásának biztosítása.

A választ, és egyben egy újabb sci-fi toposzt Philip Kenderick Dicktől kapjuk meg. 1968-ban jelenik meg Dick Álmodnak-e az androidok elektronikus bárányokkal? című regénye, amelyben először találkozhatunk az emberhez szinte mindenben hasonlatos, ráadásul ember által alkotott lénnyel, az androiddal. A hasonlóság oly fokú, hogy a Földről kitiltott, de oda visszaszökő lények felismeréséhez bonyolult pszichológiai teszteket kell elvégezni. A Minsky által vizionált elektronikus agy, amelyben minden egyes agysejtet mikrocsip helyettesít, Dick világában valósággá válik, s amit az alkotó nem teremthet meg, az kialakul. A mennyiség minőséggé nemesül, az androidok szocializáció útján érzelmeket alakítanak ki, és akár emberebbé válnak az embernél. A regény, amely mellőz minden didaktikus mozzanatot, mindezen következtetéseket nem adja közvetlenül a befogadó tudomására. Olvasni kell a sorok között. Nem úgy a filmadaptáció, a Ridley Scott által rendezett Szárnyas fejvadász (Blade Runner), amelyik ugyan híven az alaptörténethez, szintúgy homályban hagyja az események mozgatórugóját, ugyanakkor sokkal világosabb képet kapunk az androidok cselekvéseinek motivációjáról. A Nexus 6 modell egyedei, akik kapcsolatot keresnek teremtőjükkel, nagyon is konkrét dolgot akarnak. Hosszabb élettartamot. Az ember ugyanis tapasztalati úton – tehát nem tervezés nyomán – felfedezi, hogy teremtménye idővel kialakítja érzelmi intelligenciáját, és ezáltal kiszámíthatatlanná válik. Elveszíti tehát az ember számára hasznos voltát, és az így kialakuló erkölcsi parancsaival szemben álló utasításokat nem teljesíti, sőt adott esetben teremtője ellen fordul, és mivel Dick Nexus hatosai nem ismerik a robotika három törvényét, tekintve, hogy többek robotoknál, akár végezhetnek is a kétségbe vonható parancs kiadójával. Az android tehát hasznos, de könnyen veszélyessé válható rabszolga. Az alkotók kiszámítják, hogy érzelmi világa nagyjából négy év alatt alakul ki, így élettartamát is erre az időre korlátozzák.


Szárnyas fejvadász (Ridley Scott, 1982)

Érdekes, hogy Dick az emberhez megtévesztésig hasonlatos androidokat már 1953-ban megalkotja a Kettes változat (Space Science Fiction Magazine, 1953. május) című novellában. Ebben a posztapokaliptikus világban a szovjetek általi atomháborút követően a megszállók a túlélő amerikai csapatokkal küzdenek, akik bevetik utolsó reményüket, a mesterséges értelemmel felruházott fegyvereket. A „karmosok” azonban addig fejlesztik magukat, amíg az embertől megkülönböztethetetlen külsejű lényeket hoznak létre, szerencsére csak öt változatban. A teremtmények meglehetős gyorsasággal megszerzik az univerzális emberi jegyek talán legszörnyűbbikét, egymás elpusztításának képességét. A következő párbeszéd két android és két ember között folyik, akiknek fogalmuk sincs, hogy beszélgetőtársaik nem fajtársaik egyben. A poszthumán faj kialakulásának lehetőségét az egyik ember veti fel:

„– Látod – mondta Rudi -, ezért akartunk tárgyalni veletek. Mármint az oroszok. Úgy két hete jöttünk rá, hogy a Karmosaitok saját maguk is létrehoznak változatokat. A saját új típusaikat. Jobb típusokat. Azokban a földalatti gyárakban a vonalaink mögött. Hagytátok, hogy módosítsák, megjavítsák magukat. Egyre ravaszabbá tettétek őket. A ti hibátok, hogy ez megtörténhetett.

[…]

– Érdekes, nem?
– Mi?
– Ezek az új típusok. A Karmosok új változatai. Teljesen ki vagyunk szolgáltatva nekik, kényükre-kedvükre. Mostanára már biztosan eljutottak az ENSZ vonalakhoz is. Nem tudom, nem egy új faj születésének vagyunk-e tanúi. Az új fajénak. Folytatódik az evolúció. Itt az ember utáni faj.
– Az ember után nincs faj – horkant fel Rudi.
– Nincs? És miért nincs? Talán éppen ezt látjuk, az ember halálát, egy új társadalom kezdeteit.
– Ók nem faj. Csak gyilkos gépek. Gyilkolásra csináltátok őket, és semmi másra nem is képesek. Egyfunkciós gépek.
– Most még így látszik. De mi lesz később? Ha vége lesz a háborúnak? Talán ha már nem lesznek elpusztítandó emberi lények, akkor majd felszínre kerülnek az egyéb képességeik.
– Úgy beszélsz, mintha élnének!
– Miért, talán nem így van?
Csend lett.

[…]

– Egy is elég belőlük. Ha az bejut, mennek a többiek is. Százával, és mind egyforma. Látnod kellett volna őket. Mint a hangyák.
– Tökéletes szocializmus – szólt közbe Tasso. – Az ideális kommunista állam. Minden állampolgár ugyanolyan.”

A „második változat” Tasso, egy tizennyolc éves nőnek látszó lény, aki ironikusan, vagy cinikusan(?) felveti a tökéletes szocializmus kívánatos ismérvét a teremtmények tökéletesen azonos külseje okán. Ő (ők) az (azok), akik az összes más változat elpusztítására törnek. A novella főhősével töltött idő alatt, a nőnemű android bizonyos mértékig személyes kötődést alakít ki az emberrel, amit akár szimpátiának is tekinthetünk. Mindenesetre végül nem öli meg, pedig megtehetné, sőt távozta előtt átadja neki fegyverét is, amellyel android társai ellen harcolhat. A novella filmadaptációjában, az Elhagyott bolygóban a nőnemű android egyenesen szerelmes lesz az emberi hősbe, és élete árán menti meg azt egy vele külsőleg tökéletesen azonos „kettes változattól”.

Dick poszthumán lényei tehát gyorsított ütemben élik meg az emberinek megfelelő érzelmi fejlődést. A tiszta ész, az intelligencia érzelmet generál, mert Dick műveiben az emberi létezés lényege ez. Embernek lenni annyi mint érezni, és így teremtményei maguk is emberekké válnak. Belső világában ugyanazt az eredményt kapjuk a poszthumán lények fejlődése során, mint a Minsky által vizionált neuronszámítógéptől. Minden egyes agysejtnek megfelelő mikrocsip ugyanazt a feladatot hajtja végre. Az azonosság azonos eredményt hoz, amely egyben újrateremti a rabszolgaság létjogosultságának kérdését is. Frederick Pohl Átjáró-sorozatában többek között, és mintegy mellesleg megoldja a halhatatlanság prolémáját, legalábbis addig, amíg van áram. Ebben a harmadik modellben az embernek egyáltalán nincsen szüksége testi valójára. Személyiségét, ismereteit, reakcióit egyetlen hatalmas, intelligens program segítségével szerveren, jobban meggondolva a ma alkalmazott felhő szolgáltatásban tárolják. Beleértve az érzékszerveit is. Az így virtualizált emberi lény ugyanúgy érez fizikai fájdalmat, örömet, mint a valóságos. Programja hasonlóan a testbe szorult emberéhez közvetíti érzőidegeihez (esetünkben bizonyos szenzoraihoz, algoritmusaihoz) az ingereket, mint a test érzékszervei. A virtualizált ember a számítógép (a jövőben fejlettebb) perifériáin keresztül képes még fizikailag élő társaival kommunikálni. Akár megjelenni. Virtuális vacsoráját ugyanúgy élvezi, mint korábban, szerelmes lesz, szeretkezik, alszik, alkot, érez, gondolkodik.

Ez a poszthumán lény némileg hasonlít a Berlin felett az ég angyalaihoz, bár nekik nincs szükségük elektromos hálózatban közvetített energiára a léthez.

Lovas Lajos

• Publikálva: 2013.05.30. 10:40 • Címke: dokumentumfilm, irodalom, tudomány