Autor knjige “Homo Deus” Yuval Noah Harari kaže da bi automatizacija mogla milijune ostaviti bez posla i pogoršati globalnu nejednakost.
Harari govori o četvrtoj industrijskoj revoluciji koja će u biti biti stvaranje interneta tijela i umova. Pita se što učiniti s BESKORISNIM ljudima koji neće pristati na ovakvo vezivanje s umjetnom inteligencijom te kako se prema takvima trebaju postaviti zagovornici transhumanizma.
Uvjerite se sami što je sve izrekao na jednom ni manje ni više nego na etičkom forumu.
U prilogu videa je transkript njegovog govora i odgovora na postavljena pitanja.
——
YUVAL NOAH HARARI: Hvala. Pozdrav svima. Dobrodošli na ovaj govor o budućnosti čovječanstva, koji ćemo pokušati pokriti u otprilike 30 minuta i ostaviti malo vremena za vaša pitanja.
Ono o čemu stvarno želim razgovarati je sljedeća velika revolucija u povijesti. Naravno, bilo je mnogo različitih revolucija u posljednjim tisućama godina. Imali smo revolucije u tehnologiji, ekonomiji, društvu i politici. Ali jedna je stvar ostala nepromijenjena tisućama, čak i desecima tisuća godina, a to je samo čovječanstvo.
Čovječanstvo se zapravo nije promijenilo od kamenog doba. Još uvijek smo isti ljudi koji smo bili u Rimskom Carstvu, u biblijska vremena ili u kamenom dobu; još uvijek imamo ista tijela, iste mozgove i iste umove kao ljudi koji su slikali pećinsku umjetnost u Lascauxu i Altamiri .
Sljedeća revolucija će to promijeniti. Stvarno velika revolucija 21. stoljeća neće biti u našim alatima, u našim vozilima, u našem društvu ili u našem gospodarstvu. Stvarno velika revolucija bit će u nama samima, u čovječanstvu. Glavni proizvodi ekonomije 21. stoljeća bit će tijela, mozgovi i umovi. Sada učimo kako hakirati ne samo računala, već i kako hakirati organizme, a posebno kako hakirati ljude; učimo kako ih konstruirati i kako ih proizvesti.
Stoga je vrlo vjerojatno da će u roku od jednog ili dva stoljeća Homo sapiens kakvog poznajemo tisućama godina nestati—ne zato što će, kao u nekom holivudskom znanstveno-fantastičnom filmu, roboti doći i ubiti nas, već zato što ćemo koristiti tehnologiju da nadogradimo sebe – ili barem neke od nas – u nešto drugačije, nešto što je daleko više drugačije od nas nego što smo mi drugačiji od neandertalaca. Medicina se pomiče, ili će prijeći, s liječenja bolesnih na nadogradnju zdravih. Možete reći da će stvarno veliki projekt čovječanstva biti početi manipulirati ili stjecati kontrolu nad svijetom u nama.
Tisućama godina čovječanstvo je stjecalo kontrolu nad svijetom izvan nas – stjecalo je kontrolu nad životinjama, šumama i rijekama – ali s vrlo malo kontrole nad svijetom u nama. Znali smo zaustaviti rijeku; nismo znali kako zaustaviti starenje tijela. Znali smo ubiti komarce ako bi nam zujali u ušima i ometali san; nismo znali kako zaustaviti zujanje misli u vlastitom umu koje nam ometaju san – idete spavati, želite zaspati i odjednom se pojavi jedna misao. Što uraditi? ti ne znaš Nije komarac kojeg možete ubiti.
To će se promijeniti u 21. stoljeću. Pokušat ćemo steći istu kontrolu koju smo imali nad vanjskim svijetom. Pokušat ćemo steći istu kontrolu nad svijetom u nama. Ako ovo doista uspije, to neće biti samo najveća revolucija u povijesti. Bit će to zapravo najveća revolucija u biologiji od samog početka života.
Život se prvi put pojavio, koliko znamo, na planeti Zemlji prije oko 4 milijarde godina, a od njegove pojave ništa se bitno nije promijenilo u temeljnim zakonima života. Da, imali ste sve dinosaure, sve sisavce i sve te stvari, ali osnovna pravila igre života nisu se nimalo promijenila 4 milijarde godina. 4 milijarde godina imali ste prirodnu selekciju. Sve – dinosauri, amebe, kokosovi orasi i ljudi – razvilo se prirodnom selekcijom i 4 milijarde godina sav je život bio ograničen na organsko područje. Opet, nije važno jeste li Tyrannosaurus rex ili rajčica; bili ste napravljeni od organskih spojeva.
U nadolazećem stoljeću čovječanstvo bi moglo imati sposobnost da, prije svega, prirodnu selekciju zamijeni inteligentnim dizajnom kao temeljnim principom evolucije života. Ne inteligentni dizajn nekog boga iznad oblaka, već naš inteligentni dizajn bit će glavna pokretačka snaga evolucije života.
Drugo, mogli bismo steći sposobnost stvaranja prvih anorganskih oblika života nakon 4 milijarde godina organske evolucije. Ako ovo uspije, onda je ovo doista najveća revolucija od samog početka života.
Naravno, u to su uključene mnoge opasnosti. Jedna opasnost je da ćemo učiniti svijetu u sebi ono što smo učinili svijetu izvan nas, što nije baš lijepo. Da, tijekom tisuća godina ljudi su stekli kontrolu nad vanjskim svijetom, nad životinjama, šumama i rijekama; ali oni zapravo nisu razumjeli složenost ekološkog sustava i nisu bili previše odgovorni u tome kako se oni—mi—ponašaju, zbog čega je sada ekološki sustav na rubu kolapsa. Iskoristili smo našu kontrolu da potpuno destabiliziramo ekološki sustav, da ga potpuno izbalansiramo, velikim dijelom zbog neznanja.
Također smo vrlo neupućeni u svijet u nama. Vrlo malo znamo o složenosti ne samo tijela i mozga, već prije svega o složenosti ljudskog uma. Zapravo ne razumijemo kako funkcionira i što ga održava u ravnoteži. Opasnost je da počnemo manipulirati svijetom u sebi na način koji će potpuno dovesti do neravnoteže naš unutarnji ekološki sustav, te se možemo suočiti s nekom vrstom unutarnje ekološke katastrofe slične vanjskoj ekološkoj katastrofi s kojom se danas suočavamo.
Druga opasnost je na društvenoj razini. Zbog ovih novih tehnologija možemo završiti s najnejednakijim društvom u ljudskoj povijesti, jer će po prvi put u povijesti biti moguće prevesti ekonomsku nejednakost u biološku nejednakost. Tisućama godina postojale su razlike između bogatih i siromašnih te plemstva i pučana, ali one su bile samo ekonomske, pravne i političke. Kraljevi su možda umislili da su superiorniji od svih ostalih, da su sposobniji, da su kreativniji, da su hrabriji, svejedno, i zato su kraljevi i plemići. Ali to nije bila istina. Nije bilo stvarne razlike u sposobnostima između kralja i seljaka.
U 21. stoljeću to bi se moglo promijeniti. Koristeći nove tehnologije, bit će moguće u osnovi podijeliti čovječanstvo na biološke kaste. Jednom kada otvorite takav jaz postaje gotovo nemoguće zatvoriti ga.
Druga povezana opasnost je da ćemo – čak i bez bioinženjeringa i sličnih stvari – vidjeti krajnje nejednako društvo jer elite i države gube interes i poticaj da ulažu u zdravlje, obrazovanje i dobrobit masa. 19. i 20. stoljeće bilo je doba masa. Mase su bile središnja snaga u politici i društvu.
Gotovo sve napredne zemlje, bez obzira na politički režim, mnogo su ulagale u zdravlje, obrazovanje i socijalnu skrb masa. Čak su i diktature poput nacističke Njemačke ili Sovjetskog Saveza izgradile masivne sustave obrazovanja, socijalne skrbi i zdravlja za mase – bolnice, škole, plaćanje učitelja i medicinskih sestara, cijepljenja, kanalizacijske sustave i sve to. Zašto su to učinili? Ne zbog Staljina i Hitlerabili su vrlo dragi ljudi, ali zato što su znali da im trebaju mase. Hitler i nacisti su savršeno dobro znali da ako žele da Njemačka bude jaka nacija s jakom vojskom i jakim gospodarstvom, trebaju milijune siromašnih Nijemaca koji će služiti kao vojnici u vojsci i kao radnici u tvornicama i uredima, što je zašto su imali vrlo dobar poticaj za ulaganje u svoje obrazovanje i zdravlje.
Ali možda napuštamo doba masa. Možda ulazimo u novu eru u kojoj mase jednostavno nisu korisne ni za što. Oni će se iz radničke klase pretvoriti u beskorisnu klasu.
U vojsci se to već dogodilo. Vrlo često u povijesti vojske marširaju nekoliko desetljeća ispred civilnog gospodarstva. Ako pogledate današnje vojske, vidjet ćete da se tranzicija već dogodila. U 20. stoljeću najbolje vojske na svijetu oslanjale su se na regrutiranje milijuna običnih ljudi da služe kao obični vojnici u vojsci.
Ali danas se najbolje vojske na svijetu oslanjaju na sve manje i manje ljudi, a ti ljudi nisu vaši obični vojnici. Oni su uglavnom visoko profesionalni vojnici, sve elitne specijalne postrojbe i super-ratnici, a vojske se sve više oslanjaju na sofisticirane i autonomne tehnologije poput bespilotnih letjelica, kibernetičkog ratovanja i sličnih stvari. Dakle, u vojnom polju većina ljudi već 2017. je beskorisna. To nema nikakve veze s njima; nisu potrebni za izgradnju jake vojske.
Ista stvar se može dogoditi u civilnom gospodarstvu. Sve više čujemo razgovore o opasnosti umjetne inteligencije i strojnog učenja koji guraju stotine milijuna, možda čak i milijarde ljudi s tržišta rada. Samovozeći automobili koji su prije 10 godina zvučali kao potpuna znanstvena fantastika, danas je jedini argument hoće li proći pet godina, 10 godina ili 15 godina dok ne vidimo sve više samovozećih vozila na cestama, a oni će gurati svi taksisti, vozači kamiona i vozači autobusa izvan tržišta rada. Ti poslovi vam neće trebati.
Iste se stvari mogu dogoditi iu drugim područjima poput medicine. Računala i umjetna inteligencija postaju sve bolji i bolji u natjecanju, pa čak i nadmašuju ljude u dijagnosticiranju bolesti i preporuci liječenja, što čini većina liječnika. Vjerojatno će uvijek biti posla za neke liječnike, ali možda ne za veliku većinu njih.
Kao u vojsci, više vam ne trebaju milijuni GI-ova; potreban vam je mali broj specijalnih snaga. Tako da možda ni u medicini nećete trebati milijune liječnika opće prakse; trebat će vam samo neke elitne specijalne postrojbe koje istražuju najnovije tretmane za rak, a veliku većinu posla dijagnosticiranja ljudi i preporučivanja liječenja obavljaju neljudski liječnici, liječnici umjetne inteligencije.
Naravno da bi se mogla pojaviti nova radna mjesta. Ljudi kažu: “U redu, ne trebate vozače kamiona i ne trebate svog običnog obiteljskog liječnika, ali bit će mnogo novih poslova, recimo u softverskom inženjerstvu. Tko će programirati sve te nove AI programe? I tamo bit će mnogo poslova dizajniranja virtualnih svjetova i sličnih stvari.” Ovo je mogući scenarij.
Jedan problem s ovim scenarijem je da kako AI postaje sve bolji i bolji, nemamo nikakvog jamstva da će čak i softver za programiranje biti nešto što će ljudi raditi bolje od računala. Problem nije u otvaranju novih radnih mjesta 2050. godine; problem je imati nove poslove koje ljudi rade bolje. Samo otvaranje novih poslova koje bolje obavljaju računala neće pomoći u smislu tržišta rada.
Drugi je problem što će se ljudi morati iznova i iznova iznova izmišljati kako bi ostali relevantni, kako bi ostali na tržištu rada. Ovo možda neće biti lako. Zamislite nezaposlenog taksista ili nezaposlenog blagajnika iz Walmarta u dobi od 50 godina koji izgubi posao zbog novog stroja, nove umjetne inteligencije. U dobi od 50 godina biti će vrlo teško ponovno se izmisliti kao softverski inženjer.
Kad pogledate u prošlost, ljudi neprestano uspoređuju prijetnju automatizacije i gubitka radnih mjesta u 21. stoljeću s onim što se dogodilo u 20. stoljeću. U 20. stoljeću vidjeli ste automatizaciju u poljoprivredi, tako da je mnogo nezaposlenih poljoprivrednika prešlo raditi u industriju, a onda kada je automatizacija stigla do industrija, prešli su raditi kao blagajnici u Walmartu. Ali u tim slučajevima dogodilo se to da su ljudi izgubili poslove s niskim kvalifikacijama i prešli na druge poslove s niskim kvalifikacijama. Prelaskom iz poljoprivredne djelatnosti u rad u nekoj tvornici automobila u Detroitu prešli ste s jednog niskokvalificiranog posla na drugi niskokvalificirani posao. Kada ste izgubili posao u tvornici automobila u Detroitu i dobili novi posao kao blagajnik u Walmartu, ponovno ste se preselili s posla s niskim kvalifikacijama na posao s niskim kvalifikacijama.
Ali ako sljedeća faza znači da ću s 45 godina izgubiti posao kao blagajnica u Walmartu i sada postoji radno mjesto softverskog inženjera u Googleu koji dizajnira virtualne svjetove, to će biti puno teže od prelaska iz tvornice automobila u Walmart . Vrlo je vjerojatno da, čak i ako bude novih radnih mjesta, većina nezaposlenih masa neće moći napraviti tranziciju.
Veliko je pitanje i mladih ljudi. Nitko zapravo ne zna kakvo će tržište rada biti za 20 ili 30 godina. Doista je prvi put u povijesti da nitko nema pojma kakvi će poslovi i koje vještine trebati ljudima za 30 godina, što znači da nemamo pojma čemu učiti djecu u školi. Većina onoga što nauče bit će nevažno za zahtjeve tržišta rada i društva 2050. godine. Jednostavno ne znamo što da ih naučimo umjesto toga.
Najgori problem, naravno, nije u razvijenim zemljama nego u zemljama u razvoju. Ako razmišljate o zemlji kao što je, ne znam, Švedska— koja sada dobiva puno pozornosti u Sjedinjenim Državama —nisam toliko zabrinut za Šveđane. Čak i ako se milijuni radnih mjesta izgube u Švedskoj, mislim da će, zbog tradicije socijalne države i tako dalje, švedska vlada povećati poreze velikim tvrtkama, univerzalni temeljni dohodak ili nešto slično. Mislim da će Šveđani biti u redu.
Zaista je veliko pitanje što će biti s Nigerijcima, s Bangladešanima, s Brazilcima. Ako milijuni tekstilnih radnika u Bangladešu izgube posao zbog automatizacije, što će učiniti? Danas ne učimo djecu u Bangladešu da budu softverski inženjeri. Što će raditi za 20 ili 30 godina i mislite li stvarno da će američka vlada povećati poreze na Google i Amazon u Kaliforniji i iskoristiti to za isplatu osnovnog dohotka nezaposlenim Bangladešanima? Ako vjerujete u to, isto tako možete vjerovati da će Djed Mraz i Uskršnji zec doći i pobrinuti se za Bangladešane. Mislim da to nije realno rješenje. Nitko ne zna koje je rješenje.
Dakle, možda ćemo se u 21. stoljeću suočiti s potpuno novom vrstom nejednakosti koju nikada prije nismo vidjeli u ljudskoj povijesti — s jedne strane, pojavom nove unaprijeđene elite nadljudi poboljšane bioinženjeringom i sučeljima mozak-računalo i stvarima poput to, a s druge strane nova masivna beskorisna klasa, klasa koja nema nikakvu vojnu ili ekonomsku korisnost i, prema tome, nema ni političku moć.
Konačno, tu je i političko pitanje autoriteta. Ono što možemo vidjeti u 21. stoljeću, uz procese o kojima sam upravo raspravljao, temeljna je promjena autoriteta s ljudi na algoritme.
Bilo je nekoliko prethodnih promjena vlasti u povijesti. Prije nekoliko stotina godina, recimo u europskom srednjem vijeku, vlast je sišla s oblaka, od Boga. Željeli ste znati tko bi trebao vladati zemljom ili što učiniti, bilo u smislu nacionalne politike ili u smislu vašeg osobnog života, autoritet da odgovorite na ova pitanja došao je od Boga. Dakle, pitali ste Boga, a ako niste imali izravnu vezu s Bogom, čitali ste Bibliju ili ste pitali svećenika ili rabina koji su znali što Bog želi, i to je bio izvor autoriteta.
Zatim se u posljednja dva ili tri stoljeća pojavio novi svjetonazor, nova ideologija, nazvana “humanizam”, a humanizam je rekao: “Ne, izvor autoriteta nije iznad oblaka. Izvor autoriteta je u vama. Ljudski osjećaji i ljudski slobodni izbori, oni su krajnji izvor autoriteta. Želite znati tko bi trebao vladati zemljom, ne čitate Bibliju, ne pitate papu, ne pitate glavnog rabina; idete na svaku osobu, svako ljudsko biće, i pitajte: ‘Što osjećaš? Što misliš?’ I po tome znamo tko treba vladati državom”.
Slično je iu gospodarstvu, tko je najviši autoritet? U gospodarstvu to je kupac — “kupac je uvijek u pravu.” Želite li znati je li auto dobar ili nije, koga pitate? Pitate kupca. Ako se kupcima sviđa, ako ga kupci kupuju, to znači da je ovo dobar auto. U modernoj humanističkoj ekonomiji nema višeg autoriteta od kupca.
Ista je stvar u etici — što je dobro, a što loše? Dakle, u srednjem vijeku, to je ono što Bog kaže; to je ono što Biblija kaže. Na primjer, ako razmišljate o homoseksualnosti, zašto se ona smatrala strašnim grijehom? Jer je tako rekao Bog, jer je tako rekla Biblija, a to su bili najviši autoriteti na etičkom polju.
Zatim je došao humanizam, koji je rekao: “Ne, najviši autoritet su ljudski osjećaji, bilo da se zbog toga ljudi osjećaju dobro ili loše. Ako su dva muškarca zaljubljena i ne povrijeđuju nikoga drugoga, oboje se osjećaju jako dobro u svojoj vezi , što bi moglo biti loše u tome? Ne zanima nas što piše u Bibliji ili što kaže papa. Stalo nam je samo do ljudskih osjećaja.”
Dakle, ovo je bila etička revolucija humanizma, stavljajući ljudske osjećaje na vrh etičke piramide. To je također razlog zašto je glavna ambicija humanističkog obrazovanja bila vrlo različita od obrazovanja u srednjem vijeku. U srednjem vijeku glavni cilj obrazovanja bio je naučiti ljude što Bog želi, što kaže Biblija ili što su napisali veliki, mudri ljudi iz prošlosti.
Glavni cilj humanističkog obrazovanja je naučiti ljude da misle svojom glavom. Odete u humanističku obrazovnu ustanovu – bilo da je to vrtić ili sveučilište – i pitate učitelja, profesora: “Čemu pokušavate naučiti djecu, studente?” Profesor bi rekao: “Oh, pokušavam predavati povijest ili ekonomiju ili fiziku, ali prije svega pokušavam ih naučiti da misle svojom glavom.” Jer ovo je najviši autoritet: Što ti misliš? Što osjećaš? To je humanizam, velika revolucija autoriteta u zadnja dva ili tri stoljeća.
A sada smo na pragu nove revolucije. Autoritet se vraća na oblake, na Microsoft Cloud, na Google Cloud, na Amazon Cloud. Podaci i obrada podataka novi su izvor autoriteta. “Ne slušajte Bibliju i ne slušajte svoje osjećaje. Slušajte Amazon, slušajte Google; oni znaju kako se osjećate, poznaju vas bolje nego što poznajete sebe i mogu donositi bolje odluke u vaše ime nego možeš.”
Središnja ideja ovog novog pogleda na svijet—koji možete nazvati “dataizmom” jer ulaže autoritet u podatke—je da uz dovoljno podataka, posebno biometrijskih podataka o osobi, i uz dovoljno računalne snage, Google ili Facebook mogu stvoriti algoritam koji zna ti bolje nego što poznaješ sebe.
Kako to funkcionira u praksi? Navedimo primjer da ne ostane previše apstraktno. Recimo da želite kupiti knjigu—ja se bavim knjigom, pa mi je to vrlo blisko srcu—kako birate koje ćete knjige kupiti, koje knjige čitati? U srednjem vijeku odete svećeniku, odete rabinu i oni vam kažu: “Čitaj Bibliju. To je najbolja knjiga na svijetu. Svi odgovori su tu. Ne treba ti ništa drugo.”
A onda dolazi humanizam, koji kaže: “Da, Biblija, ima tu nekih lijepih poglavlja, ali ima mnogo drugih dobrih knjiga na svijetu. Ne dopustite da vam itko govori koje knjige da kupujete. Vi samo idite”—i “kupac je uvijek u pravu” i sve to—”u knjižaru, lutate između prolaza, uzmete ovu knjigu, uzmete onu knjigu, okrenete, pogledate unutra, imate neki instinkt da ‘Ah, ovo je zanimljiva knjiga, uzmi je i pročitaj.” Slijedite vlastiti instinkt i osjećaje.
Sada odete na internet u virtualnu knjižaru Amazon i čim unesete algoritam iskoči: “Ah, poznajem te. Pratim te i pratim milijune ljudi poput tebe, i na temelju svega što znam o tvojim prethodnim sviđanja i nesviđanja, preporučujem vam da pročitate ovu knjigu. Bit će vam vrlo zanimljiva.” Ali ovo je zapravo samo prvi dječji korak.
Sljedeći korak, ako ovdje ima ljudi koji čitaju knjige na Kindleu, onda vjerojatno znate – trebali biste znati – da dok čitate knjigu, knjiga čita vas. Prvi put u povijesti knjige čitaju ljude, a ne obrnuto. Dok čitate knjigu na Kindleu, Kindle vas prati, a Kindle—što znači Amazon—zna koje stranice čitate sporo, koje stranice čitate brzo i na kojoj ste stranici prestali čitati knjigu. I na temelju toga Amazon ima prilično dobru ideju o tome što vam se sviđa ili ne sviđa. Ali još uvijek je vrlo primitivan.
Sljedeća faza, koja je danas tehnički izvediva, je povezivanje Kindlea sa softverom za prepoznavanje lica, koji već postoji, i tada Kindle zna kada se smijete, kada plačete, kada vam je dosadno, a kada ste ljuti.
Posljednji korak, koji će vjerojatno biti moguć za pet do deset godina, jest povezivanje Kindlea s biometrijskim senzorima na ili unutar vašeg tijela koji neprestano prate vaš krvni tlak, broj otkucaja srca, razinu šećera i aktivnost vašeg mozga. A onda Kindle — što znači Amazon — zna točan emocionalni učinak svake rečenice koju pročitate u knjizi; pročitate rečenicu, što se dogodilo s vašim krvnim tlakom.
Ovo je informacija koju bi Amazon mogao imati. Dok završite knjigu – recimo da ste pročitali Tolstojev Rat i mir – zaboravili ste većinu toga. Ali Amazon nikada ništa neće zaboraviti. Dok završite War and Peace Amazon točno zna tko ste, koji je vaš tip osobnosti i kako pritisnuti vaše emocionalne tipke.
A na temelju takvih informacija ne samo da vam može preporučiti knjige; može činiti daleko spektakularnije i zastrašujuće stvari, poput preporučiti vam što studirati, s kim izlaziti ili za koga glasati na izborima.
Kako bi autoritet prešao s vas na Amazonov algoritam, Amazonov algoritam neće morati biti savršen. Samo će morati biti bolji od prosječnog čovjeka, što i nije tako teško jer ljudi čine strašne pogreške u najvažnijim odlukama u svom životu. Doneseš odluku što ćeš studirati, za koga ćeš se udati ili što već, i nakon 10 godina, “O ne, ovo je bila tako glupa odluka.” Stoga će Amazon jednostavno morati biti bolji od toga kako bi mu ljudi sve više vjerovali i kako bi se autoritet prebacio s ljudskih osjećaja i izbora na ove vanjske algoritme koji ne samo da razumiju kako se osjećamo, nego čak razumiju i zašto se osjećamo način na koji se osjećamo.
Možete vidjeti svuda oko sebe kako se ovaj proces počinje događati. Na primjer, želite ići odavde do željezničke stanice, sve se više ljudi oslanja na Google Maps da im kaže kamo ići. Zašto? Zbog empirijskog iskustva. Probali su. Dođete do raskrižja i vaš instinkt govori “skrenite desno”, ali Google Maps kaže: “Ne, ne, ne, skrenite lijevo. Desno je prometna gužva.” Slijediš svoje instinkte i zaglaviš u prometnoj gužvi. Pratite Google Maps i stižete na vrijeme. Tako naučite “Bolje slušajte Google, a ne moj instinkt.” Do sada ima mnogo ljudi koji nemaju pojma gdje se nalaze ako se nešto dogodi njihovom pametnom telefonu i kako ikamo stići jer više ne slijede svoje instinkte;
Još jedan posljednji komentar prije nego što otvorimo riječ za nekoliko pitanja. Vrlo je važno naglasiti da u svemu tome ništa nije determinističko. Ono što sam iznio u ovom govoru nisu prognoze. Nitko zapravo ne zna kakva će biti budućnost. To je više mogućnosti koje trebamo uzeti u obzir, a još uvijek možemo nešto učiniti u vezi s tim mogućnostima.
Tehnologija nikada nije deterministička; daje nam mogućnosti. Ako se ponovno osvrnete na 20. stoljeće, tehnologije 20. stoljeća – vlakovi, električna energija, radio, televizija i sve to – mogle su se koristiti za stvaranje komunističke diktature, fašističkog režima ili liberalne demokracije. Vlakovi vam nisu rekli što da radite s njima; struja nije došla s političkim priručnikom što s njom učiniti.
Ovdje imate vrlo poznatu sliku snimljenu noću iz svemira istočne Azije. Ono što vidite u donjem desnom kutu je Južna Koreja; ono što vidite u gornjem lijevom kutu je Kina; a u sredini, nije more, to je Sjeverna Koreja. Ova crna rupa ovdje je Sjeverna Koreja. Sada zašto je Sjeverna Koreja mračna dok je Južna Koreja tako puna svjetla? Ne zato što se Sjevernokorejci prije nisu susreli s strujom – čuli su za nju; imaju neku korist od toga—ali su s strujom odlučili raditi sasvim drugačije stvari od onih koje su s njom odlučili raditi Južnokorejanci. Dakle, isti ljudi, ista geografija, ista klima, ista povijest, ista tehnologija, ali različiti izbori dovode do tako velike razlike da je zapravo možete vidjeti iz svemira.
A tako će biti i s 21. stoljećem. Bioinženjering i umjetna inteligencija definitivno će promijeniti naš svijet, ali još uvijek imamo neke mogućnosti. A ako vam se ne sviđaju neke od budućih mogućnosti koje sam naveo u ovom govoru, još uvijek možete učiniti nešto u vezi s tim.
Hvala vam.
PITANJE: Bill Raiford.
Cambridge Analytica , tvrtka iz Teksasa, već je bila uključena u vještine koje ste opisali. Kako je objavljeno , prošlog ljeta ih je angažirao Jared Kushner , koji je iskoristio te vještine, a navodi se da su one dale kritičnu razliku na izborima 2016. godine . Je li vam poznata ta priča?
YUVAL NOAH HARARI: Čuo sam to, da.
PITALAC [Bill Raiford]: Vjerujete li da je to vjerodostojno?
YUVAL NOAH HARARI: Da, definitivno postoje političke implikacije za sve to.
Da dam još jedan hipotetski primjer—naglašavam da je ovo hipotetski; nije teorija zavjere; to je samo hipoteza—u principu, recimo na sljedećim izborima, Facebook bi mogao odlučiti izbore da želi. Upravo sam došao prošli tjedan s Facebooka. Oni kažu da im to nije u interesu i da to ne rade, ali – opet naglašavam – da su htjeli, mogli su.
Kao što svi znaju, da biste odlučili na izborima u Sjedinjenim Državama, u osnovi vam je potrebno malo podataka. Potrebni su vam podaci da biste znali koja se stanja mijenjaju; morate znati u swinging državama tko su swing glasači; i na kraju, morate znati što bih trebao reći kako bih skrenuo swing glasače u svom smjeru. Dakle, da biste odlučili o izborima u SAD-u, trebate znati tko su 100 000 ljudi u Pennsylvaniji koji se još uvijek nisu odlučili i što trebam reći svakome od njih — možda različite stvari — kako bih ih pokolebao u svom smjer.
Tko ima te podatke? Facebook. Facebook zna—barem u slučaju ljudi koji imaju Facebook račune, a to je vrlo velik udio stanovništva. Facebook ima upravo te podatke.
Kako raspolaže podacima, vjerojatno najvrjednijim podacima na svijetu? Zato što smo mu ga dali besplatno u zamjenu za smiješne videozapise mačaka. Facebooku smo dali najvažniju informaciju na svijetu, što možda i nije nužno tako loše. Ovisi o tome što rade s podacima.
To je pomalo kao što oni kažu – nisam provjerio činjenice; ovo može biti mit, ali predstavlja neke stvarne povijesne događaje – da je cijeli otok Manhattan prodalo lokalno indijansko pleme europskim trgovcima za nekoliko komada tekstila i šarenih perli. Opet se događa. Prodajemo najvrjedniju stvar na svijetu—podatke—nekolicini trgovaca u zamjenu za smiješne videozapise mačaka.
PITANJE: Moje ime je Larry Bridwell i predajem međunarodno poslovanje na Sveučilištu Pace.
Pročitao sam vašu knjigu Sapiens prije mjesec dana, a zatim sam prije nekoliko tjedana pročitao knjigu o Izraelu, mojoj obećanoj zemlji: trijumf i tragedija Izraela . [ Napomena urednika: Za više informacija o ovoj knjizi, pogledajte govor autora Arija Shavita na Carnegie Council 2013 . ]
YUVAL NOAH HARARI: To je jako dobra knjiga.
PITALAC [Larry Bridwell]: Stalno sam razmišljao, što profesor Harari misli o vrsti sumorne prognoze koju autor ima o budućnosti Izraela sa svim povijesnim silama koje su suočene s Izraelom? Pa bi me zanimala tvoja procjena njegove prognoze.
YUVAL NOAH HARARI: Rekao bih da cijeli Bliski istok trenutno spiralno pada, a Izrael je – sviđalo se to njemu ili ne – dio Bliskog istoka i dio je ovog spiralnog pada. Vidite mnoge od istih fenomena koji se događaju u susjednim zemljama plemenskog, vjerskog ekstremizma i tako dalje koji se također događaju u Izraelu.
Ne znam kakva bi mogla biti budućnost. Moje vještine prognostičara više su u području dugoročnih trendova. Na neki je način smiješno, ali lakše je predviđati stvarno velike stvari nego manje stvari. Mogu predvidjeti, mislim s velikom sigurnošću, da će umjetna inteligencija promijeniti tržište rada na fundamentalan način u 21. stoljeću. Ovo je predviđanje iza kojeg sam spreman stajati. Ali kakvi će biti politički događaji na Bliskom istoku u sljedećih 10 godina, nitko nema pojma.
Rekao bih samo jednu stvar o Bliskom istoku općenito, a također io Izraelu, da je cijela regija u opasnosti da opet propusti vlak. U 19. stoljeću industrijsku revoluciju predvodilo je nekoliko zemalja poput Britanije, Njemačke i kasnije Sjedinjenih Država. A Bliski istok i mnogi drugi dijelovi svijeta propustili su vlak, zbog čega su bili ugnjetavani, okupirani i iskorištavani više od sto godina.
Plaču zbog toga i plaču zbog toga, a sada to opet rade. Vlak se opet sprema napustiti stanicu. Ovaj put nisu u pitanju parni strojevi i struja. Ovaj put to su genetika, umjetna inteligencija i strojno učenje. Ne vidite Siriju, Irak, Libiju ili Egipat da uđu u ovaj vlak. Ako propuste ovaj vlak, vjerojatno će patiti još više nego kad su propustili industrijsku revoluciju 19. stoljeća.
PITANJE: Bok. Ja sam Mahdi. Radim u IT-u (informatička tehnologija). Ja sam menadžer.
Profesore Harari, spomenuli ste u svom izlaganju da vani nemamo budućnost. Spomenuli ste da bismo se možda trebali fokusirati interno. Sljedeći korak bit će proizvodi poput psiholoških proizvoda. Mislite li da će to dovesti do psiholoških poslova koji će u budućnosti rasti?
YUVAL NOAH HARARI: Opet će biti novih poslova. Ključno je pitanje hoće li ih ljudi moći učiniti bolje od računala. Čak i kada su u pitanju stvari poput emocija i emocionalne inteligencije, umjetna inteligencija nas sustiže. Na primjer, ako želim dijagnosticirati vašu emocionalnu situaciju, uglavnom se oslanjam na vanjske signale koje mi šaljete. Prije svega se oslanjam na vokalne i vizualne znakove. Slušam što govoriš – ne samo sadržaj, nego još više ton tvog glasa. Gledam tvoj izraz lica i govor tijela te na temelju toga procjenjujem kakvo je tvoje trenutno emocionalno raspoloženje i kakva si osobnost.
To je u osnovi prepoznavanje obrazaca. Prepoznajete obrazac ljutite osobe ili sretne osobe, a računala postaju vrlo dobra u prepoznavanju tih obrazaca glasa i izraza lica. Ali potencijalno mogu učiniti nešto što nijedno ljudsko biće nije u stanju učiniti, a to je prepoznati obrasce i unutar tijela.
Ne mogu vidjeti što se događa u tvom mozgu ili koliki ti je krvni tlak u ovom trenutku. Možda ako pocrveniš, ah, u redu, pa znam nešto o tvom krvnom tlaku. Ali ovo je vrlo grubo.
Koristeći biometrijski senzor, umjetna inteligencija može točno znati što se događa s vašim krvnim tlakom i koji su dijelovi vašeg mozga trenutno aktivni. Na temelju toga, umjetna inteligencija može puno bolje procijeniti vaše emocionalno stanje, ne samo od prosječnog čovjeka, već puno bolje od prosječnog psihologa ili terapeuta.
Bit će novih poslova na emocionalnom tržištu, ali možda će i ti poslovi pripasti strojevima, a ne ljudima.
PITANJE: Moje ime je George Below. Ja sam poduzetnik i već dosta dugo razmišljam o istim temama. Pa hvala ti na ovome.
Mene brine to—iskoristimo stranu vojne povijesti. Vojske moraju zauzeti zemlju kako bi na kraju ostale i pokorile narode koji su ispod njih. To još uvijek zahtijeva stražare i sve ostale dužnosti na nižim razinama za svu visoku tehnologiju koju netko može postići kako bi imao kontrolu, kada ona ne ostaje pod kontrolom.
Pitanje je dakle: idemo li samo prema pretjerano velikom zatvorenom skupu zajednica umjesto da imamo nacije, umjesto da imamo bilo što što nam daje osjećaj odgovornosti za one koji nisu dovoljno sretni da imaju novac i veze i možda imati obrazovanje — ili barem uvid — vidjeti svijet u širem smislu kako ste ga opisali? Hoće li to automatski morati dovesti do represije?
Ti kažeš “ne”. Ali gledam ovo i kažem sebi, “Ako ćeš držati podalje anarhiju ili elemente tradicionalizma, religije, plemenstva i svega ovoga, kako bi ono što opisuješ bilo u svijetu koji se dogodi, mora postojati sila koja će se nositi s onima koji protiv toga reagiraju.” I pitam se kako se može odgovoriti na takvo pitanje.
YUVAL NOAH HARARI: Prije svega, ovo ovisi o političkim i etičkim izborima koje donosimo. Ne moramo završiti sa svijetom kasta u kojem viša klasa živi unutar strogo čuvanih zatvorenih zajednica, a vi potlačite mase i stvari. To je samo mogućnost.
Loša vijest je da bi moglo postati lakše nego ikad držati nemirne mase na mjestu nekom vrstom algoritamske okupacije ili AI okupacije. Za to vam ne treba puno ljudi.
Ako ga želite vidjeti na djelu, samo trebate otići u Izrael, koji je sada vodeći u svijetu u algoritamskoj okupaciji. Mislim da je prije godinu dana zapovjednik središnjeg zapovjedništva Izraela rekao — i ja sam Izraelac — ” Mi smo svjetski prvaci u okupaciji .”
Nije baš poznata činjenica, ali je vrlo zanimljivo da se izraelska okupacija sve više pretvara u algoritamsku okupaciju. Temelji se na potpunom nadzoru, a temelji se na sve sofisticiranijim algoritmima koji prate uglavnom sve. Dronovi sve snimaju. Ako podignem slušalicu u Ramallahu i nazovem Hebron, netko će se javiti na taj poziv i analizirati ga – ne čovjek – tražeći obrasce, uzorke, uzorke.
Svaki dan izlazim iz kuće i odlazim u maslinik zalijevati ga, dan za danom. Onda jednog dana učinim nešto drugačije. [Proizvodi zvuk] Oko na nebu se otvara. Nešto je prekršilo obrazac. Nešto se ovdje događa. I sve se to radi algoritamski.
Jako je teško odoljeti okupaciji ako se ne možete organizirati. A za organiziranje morate komunicirati, a sva komunikacija je pod nadzorom. To je jako teško organizirati.
Nije slučajno da je posljednji val nemira nazvan – kako to prevesti na engleski – “intifada pojedinca”, ili tako nešto, jer ništa se nije moglo organizirati u većoj grupi od pojedinca. Tako da je jedini otpor bio takav da se netko ujutro probudi, “dosta mi je toga”, uzme škare i krene ubosti vojnika. Jer ako se pokušaš organizirati, [zvuči] oni odmah znaju. S ovim vam ne treba toliko vojnika.
PITALAC [George Below]: Ali još uvijek ste potlačeni.
YUVAL NOAH HARARI: Definitivno. Rekao sam da je loša vijest da sa svim ovim novim alatima možete okupirati i tlačiti mnogo lakše i jeftinije nego ikad prije.
Ako razmislite o onome o čemu sam ranije govorio, samo razmislite o implikacijama za Sjevernu Koreju, kao da svi moraju nositi biometrijsku narukvicu na ruci. Uđete u sobu, vidite sliku Kim Il-sunga , a biometrijski senzor prati što se događa s vašim krvnim tlakom. Ako postoji naznaka ljutnje [pljesne rukama], to je vaš kraj.
PITANJE: Bok. Ja sam Edward Kabak. Ja sam interni savjetnik za Udrugu nacionalnih oglašivača, pjesnik i javni intelektualac, možda.
Počevši od komentara Elona Muska prije nekoliko dana o tome da su ljudi kućne mačke za umjetnu inteligenciju osim ako se ne promijene, ide dalje od toga, pitanje je: Tko kontrolira algoritam? Mislim na knjige poput knjige Olofa Johannessona The Tale of the Big Computer , gdje su računala prije 30-40 godina pokrenula čovječanstvo, i knjige poput Grega Egana Permutation City , gdje ljudi vječno žive u softveru. Tko će završiti s kontrolom algoritama? Hoće li računala na kraju pisati algoritme, a ljudi ih samo izvršavati i ne kontrolirati ih nužno u stvarno dugoročnom pogledu?
YUVAL NOAH HARARI: Kratkoročno je vrlo vjerojatno da će ljudi zadržati kontrolu, ali dugoročno algoritmi bi mogli postati toliko sofisticirani da ih ljudi jednostavno ne bi mogli razumjeti, a autoritet će se stvarno prebaciti, ne s mase na mala ljudska elita, ali čak i od elite do algoritama.
Cjelokupna ideja stvari kao što su DeepMind i strojno učenje i neuronske mreže, koje su sada kao najpopularnije poštapalice u svijetu softvera, jest da se algoritmi mogu razvijati neovisno, mogu učiti iz vlastitog iskustva i mogu naučiti, na primjer, prepoznati obrasce koji ljudskim bićima nemaju apsolutno nikakvog smisla.
Na neki način to se počinje događati iu stvarnom životu. Podnesete zahtjev banci za kredit ili hipoteku. U Sjedinjenim Državama velika je vjerojatnost da vaša prijava ne ide čovjeku; ide na algoritam. Algoritam analizira sve podatke koje ima o vama i kaže “da” ili “ne”.
Recimo da je algoritam rekao: “Ne, nemoj mu dati kredit”, a vi odete u banku i pitate: “Zašto ste mi odbili kredit?” A banka kaže: “Ne znamo. Algoritam je rekao ‘ne’. I ne razumijemo zašto je algoritam rekao ‘ne’ jer algoritam prepoznaje obrasce—recimo: Tko su ljudi koji kasne s plaćanjem svojih kredita?—koje ljudi ne mogu prepoznati. To je cijeli razlog zašto koristimo algoritam, a ne ljudi, jer oni mogu činiti stvari koje mi ne možemo. Ali to također znači da jednostavno ne razumijemo zašto vam algoritam nije dao zajam, ali iz našeg iskustva algoritam je obično u pravu. Stoga jednostavno vjerujemo algoritam ne znajući zašto je odlučio kako je odlučio.”
PITALAC [Edward Kabak]: Nešto kao demokratsko pravilo – manjina se zapravo zajebe. To je na primitivnoj osnovi. Ali na dugoročnoj osnovi nitko to neće razumjeti osim samih algoritama, a to je najstrašnija točka; vama stvarno upravlja stroj u smislu vlade.
PITANJE: Hvala vam puno. Moje ime je Hardeep Puri. Ja sam diplomat, a sada pisac. Fascinirala me vaša prezentacija i veselim se čitanju vaše knjige.
Ima nešto što me brine, a to je da je na kraju dana ono što kažete o tome kako će tehnologija odrediti naše postojanje apsolutno točno. Ali gledam kratkoročno i srednjoročno. Imate 1,3 milijarde ljudi u Kini, 1,2 milijarde ljudi u Indiji, dvije zemlje koje su mi poznate. Tamo se također odvija veliki tehnološki razvoj. Morate se nositi s problemima ekstremnog razvojnog siromaštva.
Ovo gledište u vašoj knjizi i ono što kažete je da letite na 30 000 stopa i gledate dolje, i gledate te vrlo uspješne tehnološki vođene grupe tamo dolje na razini zemlje koje rade te stvari. Ali interakcija između te tehnologije i ljudi i njihovih života proizvest će nemir.
YUVAL NOAH HARARI: Da.
PITALAC [Hardeep Puri]: Kad je čovjek koji je proslavio Švedsku govorio o reviziji zahtjeva za vizu H-1B , rekao je: “Podići ćemo naknade sa 65.000 dolara na 130.000 dolara”—ja sam netko tko je zastupao Indija ovdje—ja sam bila jedna osoba koja zapravo nije bila zabrinuta. Rekao sam, “Ako to učini, odmah će pogađati konkurentnost američke industrije.”
Tehnologija se – za razliku od robe koja prelazi granice i koja se oporezuje na granicama – može proizvesti. Ako podignete 100.000 ljudi iz Silicijske doline i stavite ih pored Lac Lémana u Ženevi, oni bi mogli napraviti istu stvar od tamo.
Dakle, mislim da izbori – i stvarno sam impresioniran kada kažete da je to na kraju pitanje izbora – nisu samo politički. Izbori će biti ekonomski; izbori će biti etički; izbori će biti hoće li demokracije na kraju završiti—riječ koju ste upotrijebili—u “u nepovoljnom položaju” manjine, itd. To će stvoriti nemir.
YUVAL NOAH HARARI: Da.
PITALAC [Hardeep Puri]: Mislim da u nekoj fazi moramo početi sagledavati što su te kratkoročne i srednjoročne stvari. Govorili ste o reinvenciji. Fascinantan. Mi se ponovno izmišljamo, ali ne znamo nužno kamo idemo, a to ponovno izmišljanje moglo bi biti tako skupo za naše temelje postojanja.
YUVAL NOAH HARARI: Potpuno se slažem. Moramo razmišljati – ne u nekoj fazi, već danas – o implikacijama. Dao sam primjer bangladeških tekstilnih radnika. Imamo nacionalističku politiku, ali ekonomija je globalna, kao što kažete, i oni za život ovise o izvozu tekstila u Europu ili Sjedinjene Države. Ako imate novi val izuma i automatizacije i možete proizvoditi ovaj tekstil jeftinije u Sjedinjenim Državama s 3-D printerima, robotima ili bilo čim, onda to znači da ljudi u Bangladešu gube sredstva za život. Što će učiniti?
Moramo razmišljati o tome danas, a ne za 20 godina, jer ako je odgovor, “Oh, svi će otići i postati softverski inženjeri,” ne učimo djecu u Bangladešu da budu softverski inženjeri. Kako onda mogu biti softverski inženjeri za 20 ili 30 godina?
Nemam rješenje. Ali mislim da da, sada moramo razmišljati o tim stvarima, a posebno o društvenim i političkim implikacijama, a ne o tehničkim pitanjima. Većina ljudi koji vode ovu revoluciju su inženjeri, tehničari i znanstvenici koji se specijaliziraju za stvari kao što su informatika ili biologija, ali nemaju pozadinu, a ponekad ni interes za stvari kao što su sociologija, antropologija i filozofija.
Problem je u tome što ljudi u političkom sustavu, kao i ljudi u humanističkim znanostima i na sveučilištima, često nemaju razumijevanja, a ponekad ni interesa za ono što se događa na odjelu informatike. To je izuzetno opasno.
Pratio sam predizbornu kampanju u Sjedinjenim Državama 2016. i vidio sam Donalda Trumpa kako plaši ljude da će “Meksikanci uzeti vaša radna mjesta, Kinezi će vam uzeti radna mjesta.” I nikada nije rekao: “Roboti će uzeti vaše poslove”, što je potencijalno jednako zastrašujuće. Zašto to nije rekao? To je dio rasprave u Silicijskoj dolini, to je dio rasprave na sveučilištu, ali još uvijek nije dio javne rasprave.
Čak i ako nije istina da će vam roboti zauzeti posao, to je još uvijek vrlo zastrašujuće reći. Pa zašto to ne reći? Možda zato što onda treba graditi zid na granici s Kalifornijom, a ne na granici s Meksikom. Ali uplašilo me da ovo još nije dio glavne političke rasprave jer nemamo puno vremena.
M. BUŠIĆ
HOP
HOP na Telegramu