Oliver Jukić
ZAMRZNUTA FOTOGRAFIJA
Zagreb, utorak kasno navečer
Prozori na Markovu trgu bili su uglavnom mračni, uz nekoliko iznimaka.
Veliku salu za sastanke, koja je bila zauzeta do kasnog popodneva, čistili su djelatnici službe za održavanje. U nekoliko ureda sjedili su nižerangirani službenici, mahom iz istog razloga: upaljeno svjetlo na kraju hodnika značilo je da Premijer još uvijek radi. Kako je bilo općepoznato da on više cijeni lojalnost nego stručnost, biti viđen na poslu u taj kasni sat bilo je više nego korisno za strelovito napredovanje u službi.
Te večeri, međutim, ova taktika nije davala rezultata. Premijer je bio zatvoren u svom uredu, ne izlazeći satima, potpuno nesvjestan tko je još osim njega u zgradi. Stoga su se uredi s vremenom polako praznili, sve dok Markovim trgom nije ostalo dominirati samo svjetlo iz onog najvažnijeg i najvećeg, lepezasto se šireći prema prekrasnoj crkvi sv. Marka.
Pripremajući se za sutrašnje aktualno prijepodne, Premijer je odlučio sabornicima prezentirati najsvježije pokazatelje kvalitete života u Hrvatskoj, pri čemu se za obradu podataka koristio naprednim alatima umjetne inteligencije. Ništa nije želio prepustiti slučaju niti je želio da neki od podataka „procure“ van prije reda. Stoga je ovaj posao obavljao sam, ne konzultirajući se pri tome čak ni s ministrom financija, jednim od najbližih suradnika. S obzirom da nije bio previše vičan računalnim tehnologijama sve je potrajalo nešto duže, ali je rezultatom bio izuzetno zadovoljan. „Treba li mi uopće ministar financija?“, smješkajući se upitao Premijer izlazeći iz zgrade Vlade sat vremena nakon ponoći.
* * *
Massachusetts, utorak kasno navečer prema srednjoeuropskom vremenu
Poruka elektroničke pošte koju je Robert Ludford, voditelj Centra za istraživanje umjetne inteligencije na MIT (Massachusetts Institute of Technology) upravo dobio, ugodno ga je iznenadila. Nekoliko ju je puta pažljivo pročitao, ne želeći se izgubiti u bespućima svog osrednjeg francuskog, sve dok nije bio potpuno siguran – bio je to poziv na sastanak Upravnog odbora Svjetske agencije za umjetnu inteligenciju u Parizu! Istini za volju, očekivao je Ludford taj poziv već duže vrijeme nadajući se da će, kao jedan od vodećih svjetskih stručnjaka, kad-tad biti uključen u rad ove prestižne agencije. U nekoliko navrata konzultirali su ga oko sporednih pitanja no, nekako mu se činilo da je u cijeloj toj priči bio zaobilažen, dok su znatno manje kompetentne kolege bile redoviti gosti odborskih sastanaka. Stoga je, vidjevši pošiljatelja poruke, s pravom zaključio da bi ovo mogao biti njegov trenutak slave ali i konačnog proboja u svjetsku znanstvenu elitu. Međutim, intuicija mu nije dozvoljavala da u potpunosti uživa u trenutku. U pozivu je uočio nešto čudno. Sastanak se održavao već idući dan što je organizaciju putovanja činilo iznimno zahtjevnom. Kada je vidio da mu je agencija osigurala privatni mlažnjak, laknulo mu je, barem što se organizacije tiče. Ostalo je, međutim, otvoreno pitanje čemu tako hitan poziv. Na to pitanje Ludford nije imao odgovor i to ga je ispunjavalo nelagodom.
* * *
Zagreb, srijeda ujutro
Kao i obično, pred sam aktualni sat sabornica je bila ispunjena do posljednjeg mjesta. Zastupnici su bili u svojim klupama, dok su novinari doslovno okupirali galeriju. Već sutra situacija će biti drastično drugačija, jer će se većina zastupnika razmiljeti „po terenu“, dok će na galeriju tek povremeno proviriti samo usko specijalizirani novinari koji većinu vremena ipak provode u saborskom kafiću. No, u tom trenutku sabornica je bila puna a atmosfera naelektrizirana. Još nesnošljivija postala je kada se Premijer pojavio u društvu svega nekoliko ministara među kojima, naravno, nije bilo onih povezanih s recentnim političkim aferama. Oporba je na to doslovno podivljala, tražeći odgodu rada do potpunog kompletiranja Vlade. Premijer, baš kao niti predsjednik Sabora, nije se na to uopće obazirao uz lakonsko opravdanje da je prozvani ministarski trojac na službenom putu. Dio oporbe je napustio sjednicu, nakon čega se atmosfera ipak malo primirila te su krenula pitanja od kojih su početna, ona vladajuće većine, uglavnom bila namijenjena promociji postignuća aktualne vlasti.
Zatraženu analizu trenutnih ekonomskih pokazatelja kvalitete života u Hrvatskoj Premijer je započeo neizostavnom frazom o „izvrsnom pitanju“ da bi potom u ruke uzeo sinoćnje bilješke i započeo strastveni monolog.
Govoreći o rastu BDP-a u proteklom kvartalu od 20,1 posto, istaknuo je da se radi o četrdeset i sedmom kvartalu zaredom u kojem BDP raste.
– To je pokazatelj brzine oporavka gospodarstva, rezultat rada naših radnika i pregalaca, ali i potvrda da su mjere koje smo donosili u ovim teškim vremenima bile pravodobne i sveobuhvatne te omogućile rast hrvatskog gospodarstva – poručio je slavodobitno.
Prezentirani podaci oporbu su na trenutak ostavili bez teksta. Ministar financija osjetio je nelagodu jer nije bio siguran odakle Premijeru takvi pokazatelji. U ruke je uzeo kalkulator i na brzinu odlučio napraviti neke preliminarne izračune. Nije volio gubiti tlo pod nogama. Tek što je pritisnuo tipku „On“, oporba je počela gotovo razulareno vikati Premijeru da laže, na što je nekolicina dobila opomenu predsjednika Sabora. Premijer je nastavio izlaganje gotovo vičući:
– Što se tiče priopćenja Državnog zavoda za statistiku koje navodi da su prošli mjesec cijene dobara i usluga za osobnu potrošnju u prosjeku bile manje, pazite: „manje“, 17,8 posto u odnosu na isti mjesec prošle godine, ne moram ni govoriti koliko to značenje ima za naše ljude. Kako za one koji ovdje žive, tako i za one koji se sve više vraćaju iz inozemstva u Hrvatsku. I samo za vašu informaciju: ove godine ih se vratilo 168.000!
Izrekavši ovo, Premijer je pogledao prema ministru financija, čija glava je bila zadubljena u izračune. Vratio se na svoje mjesto u prvom redu i, okrenut licem prema zastupnicima, izvadio mobitel i počeo pregledavati vijesti s portala.
Naravno da je oporba istog trenutka zatražila mogućnost repliciranja, te je vođa najvećeg kluba oštro demantirao Premijera:
– Što se tiče BDP-a, on raste tek devetnaest kvartala zaredom, dok je u proteklom kvartalu povećan samo za 7,2 posto. Dakle, gotovo tri puta manje nego što Vi govorite. Nadalje, cijene su pale jedva 14 posto, dok se naših ljudi vratilo znatno manje nego Vi tvrdite, naše brojke govore o 100.000 povratnika. Ne vidim zbog čega na ovako primitivan način, podastirući lažne brojke, obmanjujete cijelu hrvatsku javnost, koja jako dobro zna kako živi ona velika većina koja nije upletena s Vama u isto kolo – poentirao je vođa oporbe i vratio se u klupu.
S lijeve strane sabornice prolomio se pljesak odobravanja koji je prerastao u graju koja bi potrajala znatno duže da se u međuvremenu za riječ nije javio i ministar financija, koji je upravo dovršio vlastite izračune. Kada je ustao, u dvorani je nastala tišina, jer je uživao poštovanje gotovo svih političkih opcija. Svjestan toga, oprezno je vagao riječi:
– S obzirom na to da se ovdje govori o brojkama, dakle, egzaktnim pokazateljima, te s obzirom na to da mislim da postoji mogućnost da su barem neki od jutros ovdje iznesenih u jednom dijelu pogrešni, ili manje točni, da se tako izrazim, a što je moguće i posljedica neusklađene metodologije, predlažem da raspravu po ovoj točki nastavimo sutra.
Nakon nekoliko sekundi tišine, dvoranom se začulo komešanje i šuškanje. Nije bilo uobičajeno da netko od ministara u Vladi ostavlja mogućnost da su pokazatelji koje Premijer iznosi „pogrešni, ili manje točni“ i to je na jednoj strani dvorane izazvalo ogromno zanimanje, a na drugoj strani nesigurnost – neki su u ministrovom izlaganju vidjeli napad na Premijera. Mali, prikriveni, ali ipak napad. S obzirom na to da u izrazito monolitnoj vladajućoj stranci nije bilo uobičajeno soliranje, gotovo svi zastupnici počeli su kalkulirati i procjenjivati radi li se možda o organiziranom napadu i začecima kraja Premijerove do tada blistave karijere ili tek ministrovom suludom potezu. U panici su pogledavali prema predsjedniku Sabora, koji je na Premijerov mig proglasio stanku u radu do sutra ujutro.
* * *
Pariz, srijeda ujutro
Robert Ludford stigao je na sjednicu Upravnog odbora Svjetske agencije za umjetnu inteligenciju svega nekoliko minuta prije početka. Još uspuhan i uznojen, vukući za sobom kofer s kotačićima, brzo je ušao u prostoriju i sjeo pored kolega koje je poznavao sa znanstvenih skupova na kojima je redovito izlagao svoje radove. Natočio je vodu u čašu i promatrao. U prostoriji je vladala čudna atmosfera iščekivanja jer nitko nije znao što je povod sastanka.
Predsjedavajući nije kasnio ni minutu. Ušao je žustro u prostoriju, ošinuo sve sudionike pogledom i teatralno rekao: Gospodo, imamo problem!
Žamor koji je polako počeo izbijati kao nožem je prerezan čim je predsjedavajući nastavio izlaganje:
– Od jučer nam se gotovo svi sustavi umjetne inteligencije ponašaju izuzetno čudno, bez valjanog razloga. Na ista pitanja razni sustavi daju različite odgovore, a takvo ponašanje ne ovisi ni o platformi i operacijskom sustavu, ni i o dobu dana, ni o frazama koje se koriste prilikom formiranja upita. Događa se kontinuirano i, kao što vidite, bez određenog pravila i reda. Izazvalo je to već i neke ozbiljne reakcije, jer postoji mnogo industrijskih i transportnih sustava koji se naslanjaju na umjetnu inteligenciju. Osim toga, kao alat koriste je i mnogi znanstvenici, što vi uostalom najbolje znate. O upotrebi u medicini ne trebam ni govoriti.
Predsjedavajući je otpio gutljaj vode i nastavio:
– Pozvani ste ovdje kao vodeći svjetski autoriteti iz tog područja. Molim vas da se odmah primite posla. Doktorica Berezinski će vam dati sve potrebne podatke, a sljedeći sastanak zakazujem već danas navečer. Tada ćete me, svatko ponaosob, izvijestiti o potencijalnim uzrocima problema koje ste uspjeli detektiranim kao i mogućim rješenjima. Molim vas za maksimalnu ozbiljnost i usredotočenost, jer eskalacija ovog problema može nanijeti ogromnu štetu ne samo ugledu znanstvene zajednice i naše agencije, već i globalnu štetu koja se mjeri milijardama pa čak i ljudskim životima.
Robert Ludford je ustao odmah nakon zadnje riječi i požurio u laboratorij. Problem ga je vrlo zainteresirao.
* * *
Zagreb, srijeda navečer
Uglednici su polako dolazili u skupocjenim, crnim limuzinama pred sjedište Stranke. Sastanak je bio zakazan točno za 19:30 i nitko nije želio kasniti. S obzirom na to da su im poziv i štura informacija bili dostavljeni tek popodne, shvaćali su da se radi o nečem ozbiljnom. Gotovo svi su bili uvjereni da je ovakav iznenadni sastanak uzročno-posljedično vezan s jutrošnjim događanjima u Saboru. Svatko je u sebi grozničavo kalkulirao na koji si način osigurati ostanak u zoni komfora, ukoliko stvari krenu po zlu.
– Smiju nam se svi portali, smiju nam se kvazi-komentatori, dobili smo petnaest minuta u dnevniku. Ismijavaju nekakvu moju bahatost, ismijavaju cifre, nanose nam političku štetu. I to u ovoj hiper-izbornoj godini. Gospodo, za ovo netko mora snositi odgovornost!
Izrekavši ovo, Premijer je zašutio. U prostoriji se mogla čuti muha jer sudionici ne samo da su šutjeli. Zagledani u stol ispred sebe, oni se nisu ni micali. Sve je djelovalo nadrealno, kao zamrznuta fotografija iz najcrnjeg boljševičkog doba.
– Ministre! – Premijer je zagrmio i uperio pogled prema ministru financija – Ako bi netko morao braniti ekonomske pokazatelje kojima se ova vlada može i mora dičiti, to bi trebao biti ti. Međutim, ti si jutros uglavnom šutio. A i kada si govorio, bolje da nisi. Pa ti si direktno urušavao moj autoritet pred milijunskim auditorijem!
Mistar financija je progutao gvalju.
– Kod vođenja kadrovske politike u idućem razdoblju, vodit ću računa i o minulom radu, pa to se valjda podrazumijeva? Zar misliš da mi trebaju mangupi u našim redovima!?
Svjestan svoje neugodne pozicije, ministar je bojažljivo odgovorio:
– Predsjedniče! Dozvolite da objasnim. Vaše cifre su mi se učinile nešto optimističnijima. Ali problem je što su i oporbene bile nešto bolje od realnih. Na brzinu sam morao izvršiti provjere i...
– Dosta je sada – Premijer nije želio dugotrajnu debatu po ovom pitanju. – Doći ćeš sutra u šest kod mene u ured i skupa ćemo provjeriti brojke. Ako i dalje bude problema, očekujem da podneseš ostavku. I ti i svi koji su odgovorni za nastalu situaciju. Stranka nam mora biti ispred svega!
Glave su i dalje gledale u stol želeći samo da sastanak što prije završi.
* * *
Pariz, srijeda navečer
Ludford nije bio u potpunosti siguran u svoje zaključke, ali kada je vidio da nitko od kolega nema adekvatno objašnjenje o čudnom ponašanju sustava umjetne inteligencije, ohrabrio se i javio za riječ.
– Sve nam govori da se ovdje radi o sindromu „Kravljeg ludila“.
Pogledao je oko sebe prateći reakcije kolega. Osjetio je zainteresiranost te je brzo nastavio:
– Ova bolest prvi put je dijagnosticirana u goveda u Engleskoj 1986. Do današnjeg dana, njezino podrijetlo ostaje nepoznato. Postoji nekoliko teorija, a najpopularnija među njima je da su životinjski ostaci, pa čak i kravlji, korišteni u proizvodnji mesnog i koštanog brašna kojim su hranjene krave.
Ludford je zastao i pustio prezentaciju na veliki ekran.
– Smatram da se nešto slično dogodilo i našim podsustavima zaduženim za učenje unutar platformi umjetne inteligencije. Naime, kao što svi znate, ti podsustavi znanje su crpili, između ostalog, i iz članaka s Interneta. S vremenom su i sami počeli producirati ogroman broj tekstova, koji su, kolajući Internetom, postajali materijal za učenje, i to upravo podsustavima koji su ih prije toga producirali. Takvi članci postali su, da tako kažem, mesno i koštano brašno. Smatram da je ovdje došlo do nehotične simulacije spomenute bolesti, koja se u tehničkim sustavima umjetne inteligencije manifestirala djelomičnim gubitkom neuronskih veza te posljedično krivim interpretacijama naučenog. Proces se odvija kontinuirano, odakle dolazi i stohastičko ponašanje sustava.
U Ludfordovu izlaganju Predsjedavajući je osjetio slamku spasa. Vremena za gubljenje uistinu nije bilo.
– Kolega Ludford, možete li to dokazati, barem na jednom konkretnom primjeru? Nadalje... smatrate li da je problem rješiv?
Ludford je promijenio slajd na prezentaciji.
– U svom laboratoriju na MIT imam jedan izolirani sustav umjetne inteligencije, koji je materijale dobivao kontrolirano, isključivo kroz lokalnu mrežu. Na tom sustavu nismo primijetili nikakve anomalije. A ako sam u pravu, rješenje je jednostavno. Svi materijali koji su generirani sustavima umjetne inteligencije imaju neku vrstu digitalnog potpisa. Na samom ulazu u podsustav za učenje ugradit ćemo jednostavan filter te pokrenuti ponovno proces učenja. Ukoliko to napravimo odmah, glavne platforme bi do jutra mogle biti popravljene, da se tako izrazim.
– U tom slučaju, ne gubite ni trenutka. Ukoliko uspijete, čeka Vas svijetla budućnost u ovoj Agenciji.
***
Zagreb, četvrtak ujutro
Iako je podatke obrađivao na isti način kao i prije tridesetak sati, Premijer je kao rezultat obrade dobivao drugačije pokazatelje. Neki su bili relativno zadovoljavajući, ali opet znatno lošiji od onih prezentiranih u Saboru prošlo jutro, ali neki su čak bili i poražavajući. Osim toga, pokazalo se i da su oporbeni podaci također bili krivi, što je davalo za pravo ministru financija.
Ovaj je mirno sjedio pored Premijera i na mobitelu pratio breaking news na vodećim svjetskim portalima. Svi su pisali o „istočnom grijehu“ umjetne inteligencije, sindromu „Kravljeg ludila“, bugu koji je bio ugrađen u samu srž sustava, koji je u samo nekoliko sati doveo do cijelog niza problema koji su tek pukom srećom završili bez ljudskih žrtava. Ispod velikih Ludfordovih fotografija kočoperili su se naslovi čiji autori su se upravo natjecali u bombastičnosti: „Junak civilizacije“, „Spasitelj našeg doba“, „Super-Robert“ i slični. Prenuo ga je uzvik:
– Što je ovo, majku mu?
Naviknut da Premijer koristi uglavnom sterilne fraze u govoru, ministar financija se trznuo. Bacio je oko na ekran i zadovoljno se nasmiješio. Premijerovi najnoviji pokazatelji bili su gotovo u dlaku isti kao i oni koje je jučer dobio brzinskom, ručnom obradom.
– Mislim da ovaj put imate ispravne podatke, Premijeru.
Premijer ga je začuđeno pogledao.
– Jučerašnji su bili bolji! Kako to, objasni!?
– Gledajte – ministar se trudio staloženo pojasniti situaciju. Pokazao je Premijeru mobitel – Nakon uočenog problema i noćašnje akcije na svjetskoj razini, sve platforme umjetne inteligencije ispravile su određene pogreške koje su bile posljedica sindroma „Kravljeg ludila“.
– Čega?
– Ma, to nije ni toliko bitno. Bitno je da su sustavi tijekom protekle noći proradili kako treba. Više nema pogrešaka kod obrade podataka. Ovo što ćete sada pokazivati u Saboru, to je čista umjetna inteligencija.
Premijer se zamislio.
– Pa što je onda bilo ono jučer?
Ministar je duboko uzdahnuo.
– Ono je bila umjetna glupost.