BBC News

Horor, književnost i tehnologija: Kako izgleda Frankenštajnovo čudovište 21. veka

Frankenštajn

Getty Images

Veštačka inteligencija uvek deluje kao da je na oko 30 godina od nas: decenijama su futuristi i naučnici predviđali razvoj čovekolike inteligencije mašina u okviru svoje generacije.

Imajući u vidu da trenutno čak ni automatizovani automobili ne umeju da se staraju o sebi, izgleda da još neko vreme nećemo morati da se brinemo da li će nama zavladati svesne mašine.

Štaviše, jedino mesto na kom su ljudi koje je napravio čovek napredovali jeste svet proze.

Pre dve stotine godina, dvadesetogodišnja Meri Šeli dobila je opkladu sa budućim mužem Persijem Šelijem i njegovim prijateljem lordom Bajronom da će napisati horor roman.

Stvorila je Frankenštajna, priču o ženevskom naučniku koji je stvorio veštački život – i zažalio zbog toga do kraja života.

Šeli je postigla više nego što je bila svesna: njena priča smatra se ne samo prvim naučnofantastičnim romanom, već je i izrodila vojsku čudovišnih potomaka.

Šta je to što uporno privlači pisce, naročito one koji obično ne pišu naučnu fantastiku, da stvaraju veštačke ljude?

Kako pisci koriste ove likove da bi nam rekli nešto o samima sebi?

Kako izgleda Frankenštajnovo čudovište 21. veka?

Valja se prvo podsetiti o čemu to Frankenštajn – oklevetan u Holivudu da postane manijakalni cirkus nakaza – zapravo govori.

Jedna definicija klasika, na kraju krajeva, glasi da je to knjiga koja uporno ume da vas iznenadi.

U romanu, radoznali student Viktor Frankenštajn udahne život „stvorenju”, koje potom beži i polazi u ubilački pohod.

„Njegova duša jednako je nakazna kao i njegova spoljašnjost”, zaključuje Viktor, prokazavši vlastitu kreaciju, „prepuna podmuklosti i demonske zlobe”.

Ali čitalac je prisiljen da preispita svoj stav prema čudovištu kad ovo izravno progovori o svojim iskustvima: o žudnji za ljudskim društvom, večitom izopštenju, okretanju prvo protiv samog sebe.

„Usamljen sam i omražen… Nisam napravljen za uživanje u zadovoljstvima” – a potom i protiv Viktorove porodice, kao zamenu za omraženog tvorca.

„Ako ne budem mogao da pobudim ljubav, izazvaću strah.”

Saznajemo da su pravo čudovište obojica.

Viktor zbog svirepog odbijanja da mu napravi družbenicu kako bi ublažio usamljenost kreacije, a čudovište zbog traga leševa koji ostavlja za sobom pre nego što se uputi ka konačnom izbeglištvu na arktičkom moru.

Otkako je Šeli pokrenula ovaj trend, drugi pisci su s oduševljenjem istraživali kvazi-ljudske kreacije, da bi utoliko bolje proučili šta je to što nas čini ljudima.

Jedan od najnovijih je Pol Bredon, čiji je debitantski roman Aktuelnost nedavno objavljen, a BBC je već kupio prava za snimanje TV serije po njemu.

Radnja Aktuelnosti smeštena je oko 150 godina u budućnost i ispričana je iz vizure Ivi, jedne od dva preživela, izuzetno napredna Veštačka autonomna bića (VAB), u vreme kad su takve kreacije postale zakonom zabranjene zbog problema sa ranijim modelima.

Ona je u stalnom bekstvu sa ljudskim mužem i ispočetka za sebe misli da je čovek:

„Uporno je poricala istinu čak i kad su dokazi počeli da se gomilaju i gomilaju.”

Ironično, jedna vrlo ljudska osobina.

Napetost u priči potiče i od njenog otkrivanja svoje prave prirode i od bekstva od vlasti i potrebe da se bori kako bi zaštitila vlastito postojanje.

Bredon za BBC Kulturu kaže da on vidi paralelu između Frankenštajna i Ivine priče:

„Poput čudovišta, i ona postaje izgnanica; ljudi je se plaše zato što od nje očekuju najgore.

Kao i Frankenštajnovo čudovište, u teoriji Ivi ima potencijal da bude bilo šta, ali je ograničena načinom na koji ju je stvorio njen tvorac. Ona mora da se oslobodi stega vlastitog postojanja.”

Aktuelnost nam donosi bogatu kontemplaciju nad etičkim i filozofskim pitanjima o veštačkom životu i inteligenciji.

Gde život počinje, a gde se završava? Ako VAB poput Ivi može da simulira svest, da li ona onda ima i prava?

Opet, ako ubije pravo ljudsko biće, može li da se pozove na odgovornost?

U priči je Ivi zasnovana na pravoj ženi i, kako objašnjava Bredon, „uslovljena je programiranjem da oponaša nekoga kog nikad nije srela i ponaša se kao što bi ona – njena ‘nepokolebljiva misija da bude druga najbolja’ – ali uprkos tome, ona i dalje mora da bira između dobra i zla”.

Dok je Ivi u bekstvu, njene odluke imaju „posledice po život i smrt” drugih, kaže Bredon.

„Povremeno sam se osećao kao da sam napravio Ivi suviše dobrom za njeno dobro, ali mislim da sam do kraja pronašao dovoljno mračnog u njoj da se sve to izjednači.”

Haotična mešavina

Naravno, da bi veštački čovek bio realističan, da bi ličio na nas ostale, on mora da bude haotična mešavina dobra i zla, da put pronalazi prebirajući po ruševinama vlastitih loših odluka.

Još jedan skorašnji primer je stvorenje po imenu Kakosezvaše u romanu Frankenštajn u Bagdadu Ahmeda Sadavija, koji se našao u užem izboru za Međunarodnog Bukera 2018.

U ratom zahvaćenom Iraku ranih 2000-tih, trgovac otpadom Hadi sastavlja biće od delova tela ljudi ubijenih u sukobu.

„Upotpunio sam ga da ga ne bi tretirali kao smeće, da bi bio poštovan kao i drugi mrtvi, i da bi dobio pristojan ukop.”

Ali Kakosezvaše nestaje i polazi u osvetnički pohod, baš kao i originalno Frankenštajnovo čudovište.

Sadavijeva vizija je satirična, najcrnja komedija o osvetničkim ubistvima po principu oka za oko i dehumanizaciji ljudi u ratu.

Stvorenje otkriva da kako osveti svaku smrt, odgovarajući deo tela mu otpadne, tako da mora da ubija više ljudi da bi ih zamenio.

Na kraju „znao je da je njegova misija suštinski da ubija, da ubija nove ljude svaki dan, ali više nije imao jasnu predstavu o tome koga treba da ubije i zašto.”

Ovo najsavremenije od čudovišta čak drži konferenciju za štampu da bi opravdalo svoja dela i podsmeva se svom tvorcu, poput deteta koje se buni protiv oca:

„Ti si bio samo kanal, Hadi. Pomisli samo koliko je glupih majki i očeva proizvelo velike ljude tokom istorije.”

Za Sadavija, čudovište je „odraz u ogledalu nas kao celine”, odražavajući kako su ljudi u Iraku „postali ili aktivni učesnici u ubijanju ili nezainteresovani prema prizorima smrti”.

Govoreći za Kalčaral frontlajn BBC Svetskog servisa, on je rekao da „volimo da vidimo sebe kao žrtve a druge kao agresore, ali u ovom slučaju, Kakosezvaše je istovremeno i agresor i žrtva”.

Baš kao i kreacija Viktora Frankenštajna – i on predstavlja „čudovište u svakome od nas – ne samo među Iračanima, već svuda.”

Sklepano stvorenje, drugim rečima, zakrpa je sastavljena od naših najboljih i najgorih ljudskih osobina.

Kako može biti drugačije?

U Frankenštajnu, ljudsko društvo koje je prokazalo stvorenje čudovišnog izgleda navelo ga je na ubilački pohod.

Pol Bredon je upravo to imao na umu kad je pisao Aktuelnost:

„Zaista se brinem kako bismo mi kao ljudi imali interakciju sa nečim takvim.”

Kad je pripovedač romana i sam stvorenje veštačke inteligencije, postavljaju se suštinska pitanja o čovečanstvu

Getty Images
Kad je pripovedač romana i sam stvorenje veštačke inteligencije, postavljaju se suštinska pitanja o čovečanstvu

U središtu ovih priča nije samo odnos veštačkog čoveka prema njegovom tvorcu, već i svrha njegovog nastanka.

Viktor Frankenštajn napravio je stvorenje iz plemenitih pobuda jednog znatiželjnog naučnika.

Nikad ne saznajemo kako je Frankenštajn zapravo napravio svoje čudovište, pravdajući se da ne želi da bilo ko ponovi njegovu grešku, mada je to zgodno spaslo Meri Šeli smišljanja tehnike samog događaja.

U Aktuelnosti, s druge strane, pokretačka snaga iza Ivinog nastanka manje je časne prirode.

Bez spojlera, ali „sve se svodi na to šta motiviše ljudsku vrstu”, kaže Bredon, „što bi u najprostijem smislu moglo da se svede na novac, moć i seks”.

Mogu li ženu da naprave muškarci?

Može li ona dobrovoljno da pristaje na seks?

Kao i svi mi, Ivi je ograničena okolnostima vlastitog nastanka.

Seks je zaista nešto bez čega nijedna priča o čoveku – ili veštačkom čoveku – prosto ne bi bila kompletna, a roman Dženet Vinterson iz 2019. Frenkisstajn to iskorišćava do kraja, sa njenom tipičnom odvažnošću i duhom.

Roman Dženet Vinterson ukršta priču o tome kako je Meri Šeli došla do toga da napiše Frankenštajna sa alternativnom sadašnjošću u kojoj se veštački ljudi prave kao seksboti.

Vinterson, čija vidovitost znači da je pisala o veštačkom seksu („teledildoniks”) još u romanu iz 1992. godine Pisano na telu, ne iznenađuje što vidi da čovečanstvo polazi putem koji je ona predvidela.

„Zato što smo tako temeljno glupavi”, izjavila je ona, „delićemo planetu sa nebiološkim životnim oblikom koji smo sami stvorili tako da bude pametniji od nas samih. Bravo, ljudska raso!”

Ali Frenkisstajn je, možda jedini od svih romana o veštačkoj inteligenciji prikazanih ovde, veoma duhovit.

„Svet je toliko u škripcu u ovom trenutku da je veoma važno nasmejati ljude. To nije eskapistička reakcija, već način da se izborite s tim.”

Jedan poslušniji nečovek našao se na policama za knjige kad je Kazuo Išiguro objavio Klaru i sunce, njegov prvi roman otkako je osvojio Nobelovu nagradu za književnost 2017.

Klara je Veštačka prijateljica, kvazi-ljudski uređaj stvoren da spreči usamljenost kod tinejdžera.

Kao i Ivina priča, Klarina je napisana iz tačke gledišta neljudskog lika.

Kako je Išiguro pristupio tome? „E, pa”, rekao je on za BBC Kulturu, „prosto sam nesmotreno uskočio naglavačke u sve to da vidim šta bi se dogodilo.”

On se smeje.

„Ali oduvek su me privlačili blago iščašeni pripovedači.”

Kao pripovedač, kaže on, Klara „ima veliku prednost zato što tehnički nije čovek”.

I to onda veoma prirodno postavlja pitanja u čitaočevom umu: Šta znači biti čovek? Šta ljudi misle kad kažu da vole nekoga?

To je veoma dobar način da dođete u situaciju da postavljate ta pitanja a da ne delujete nategnuto ili pretenciozno.”

I iako je manje verovatno da će Klara postati begunac nego neke druge kreacije o kojima smo govorili ovde, Išiguro na sličan način koristi Veštačku prijateljicu da prikaže čitav dijapazon ljudskog života, baš kao što je uradio sa klonovima u Ne daj mi nikada da odem.

Kako se njena priča razvija, Klara u realnom vremenu prolazi kroz proces učenja kako ljudi razmišljaju i osećaju.

„Ovo je pripovedač koji u sebi može, mislim, da nosi neverovatno složenu mešavinu sofisticiranosti i naivnosti”, kaže Išiguro.

„I mislio sam da u njen pristup možete da nagurate čitav jedan ljudski životni vek, u svega nekoliko godina koliko ova mašina postoji.

Ona može da prođe kroz iskustvo od mališana, preko tinejdžera, do nečeg sličnog roditelju, do sindroma praznog gnezda, kada oseća da je uradila sve što se od nje očekivalo.”

Savremeno Frankenštajnovo čudovište, stoga, jednako je raznovrsno kao i ljudi koji su ga stvorili.

To je prozna tehnika, oni su dobar povod za satiru, triler, horor ili alegoriju, čak i ako, kao što Ijan Makjuan napominje u romanu o ljubavnoj aferi androida Mašine kao ja, na kraju predstavljaju samo „čudovišni čin ljubavi prema samom sebi”.

Ali u svim slučajevima, oni na kraju uspevaju ili propadaju u zavisnosti od toga kako se pravi ljudi odnose prema njima, što je nešto što njihovo programiranje ili mašinsko učenje nikad ne može da prevaziđe.

Tjuringov test za veštačku inteligenciju kaže da ako ne možemo da razlikujemo veštački i ljudski um, prema veštačkom umu treba da se odnosimo kao prema ljudskom.

Ali ljudski likovi u ovim romanima – motivisani veoma ljudskim predrasudama – to ne čine, u strahu od različitosti ovih stvorenja, ili samo zbog prezira prema njihovoj savršenosti.

U romanu Meri Šeli, Frankenštajnovo čudovište imalo je potencijal da bude bolje od svih nas.

Ono se za uzore ugledalo na miroljubive zakonodavce iz Plutarhovih Života – ali se povelo za najnižim ljudskim nagonima zbog onoga kako su se drugi ophodili prema njemu.

To su sve loše vesti za veštačke ljude, ali dobre za književnost: naša moralna nesigurnost ne čini samo da ove priče žive i cvetaju.

Stvorenja koja nisu sasvim poput nas mogu da nam pomognu da bolje razumemo sami sebe, čak i ako rezultati nisu uvek najlepši.

Štaviše, u Makjuanovom romanu Mašine kao ja, lik androida Adama komentariše da bi u svetu kojim vladaju veštački ljudi, bez emotivnih potresa, bez večitih misterija ljudskog srca, većina književnosti bila irelevantna i suvišna.

Onda je baš dobro što se to neće desiti još nekih 30 godina, zar ne?


Pratite nas na Fejsbuku i Tviteru. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk

Dodaj komentar

Kliknite ovde da biste komentarisali

Vaš komentar

Send this to a friend