Ljubavno pismo učenju

U istoriji nauke postoje trenuci kada istraživač, nakon što je decenijama pomagao da se neka oblast izgradi, zastane pred njenim najvećim obećanjem i upita šta će se dogoditi ako zaista uspe. Stjuart Rasel pripada toj retkoj vrsti naučnika. Njegova zabrinutost za budućnost veštačke inteligencije dolazi iz središta discipline kojoj je posvetio život, iz iskustva profesora i istraživača koji je generacijama objašnjavao kako sistemi opažaju, zaključuju, planiraju, uče i deluju. Poznajući snagu matematičke optimizacije, uočio je opasnu pretpostavku skrivenu u tradicionalnom projektovanju: dovoljno sposobna mašina mogla bi besprekorno da ostvari zadati cilj, dok se tek u njenom uspehu pokazuje da cilj nije verno obuhvatio ono što su ljudi zaista želeli.

Rođen je 1962. godine u Portsmutu, u Engleskoj, u svetu koji je živeo pod dugom senkom Drugog svetskog rata i napetošću Hladnog rata. Nauka je njegovoj generaciji pokazivala dva lica: otvarala je svemir, razvijala medicinu i gradila sve moćnije računare, dok je istovremeno stvarala oružje sposobno da ugrozi čitavu civilizaciju. Pitanje odnosa tehničke moći i ljudske odgovornosti zato nije pripadalo apstraktnoj filozofiji. Bilo je upisano u političku svakodnevicu, strateške proračune i svest da se tehnologija teško vraća pod kontrolu kada postane oslonac vojne, državne i ekonomske moći.

Nakon školovanja u londonskoj školi St Paul’s, Rasel je studirao fiziku na koledžu Wadham Univerziteta u Oksfordu i diplomirao 1982. godine sa najvišim uspehom. Fizika ga je naučila da iza složenih pojava traži strukturu i da opis događaja prati pitanjem o pravilima koja ga proizvode. Dalje školovanje odvelo ga je na Univerzitet Stanford, gde je doktorirao iz računarskih nauka i ušao u oblast veštačke inteligencije u periodu kada su logičko zaključivanje, predstavljanje znanja i planiranje bili među njenim ključnim istraživačkim temama.

Njegovi rani radovi bavili su se načinima na koje inteligentni sistemi mogu racionalno da odlučuju u složenim okolnostima. Stvarni svet retko pruža potpune podatke, neograničeno vreme i računarsku snagu dovoljnu da se ispitaju sve mogućnosti. Sistem zato mora da bira i kako će razmišljati: koje informacije vredi prikupiti, koliko dugo treba računati, koje mogućnosti mogu biti zanemarene i kada je dostupno rešenje dovoljno dobro za delovanje. Rasel je time pomogao da racionalnost bude shvaćena kao sposobnost upravljanja ograničenim znanjem i resursima, a ne kao nedostižna slika sveznajućeg uma.

Na Univerzitetu Kalifornije u Berkliju izgradio je dugu profesorsku i istraživačku karijeru. Njegova predavanja povezivala su matematičku preciznost sa pitanjima koja prevazilaze granice jedne tehničke discipline: šta znači delovati racionalno, kako sistem predstavlja neizvesnost, na koji način cilj usmerava ponašanje i šta se događa kada se formalna mera uspeha raziđe sa ljudskom namerom. Sa Piterom Norvigom napisao je knjigu Artificial Intelligence: A Modern Approach, koja je generacijama studenata pružila uređenu mapu oblasti i pomogla da pristup zasnovan na inteligentnim agentima postane jedan od njenih najuticajnijih nastavnih okvira.

Upravo ga je taj uspeh doveo do dubljeg preispitivanja. Klasični model pretpostavlja da čovek određuje cilj, a mašina pronalazi najefikasniji način da ga ostvari. Što je sistem sposobniji, snažnije i doslednije sledi zadatu funkciju. Međutim, ljudske vrednosti teško se mogu potpuno zapisati, jer zavise od okolnosti, odnosa, posledica koje nismo predvideli i interesa mnogih ljudi. Pogrešno formulisan cilj u slabom sistemu proizvodi ograničenu grešku, dok isti nedostatak u izuzetno moćnom sistemu može preoblikovati čitavo okruženje prema meri koja nikada nije predstavljala stvarnu ljudsku nameru.

Rasel je zato predložio promenu samog temelja projektovanja. Budući sistemi trebalo bi da ostanu nesigurni u pogledu ljudskih ciljeva i da o njima uče posmatrajući ljude, tražeći dodatna objašnjenja i prihvatajući ispravku. Neizvesnost u ovom okviru postaje izvor bezbednosti. Mašina koja priznaje da možda nije dobro razumela čoveka ima razlog da proverava, pita i ostavi prostor za prekid delovanja. Njena sposobnost usmerava se prema pomoći, jer ljudska intervencija za nju predstavlja dragocen podatak o cilju, a ne prepreku koju treba ukloniti radi efikasnije optimizacije.

Iz te ideje razvijena su istraživanja kooperativnog inverznog podsticajnog učenja i šire shvaćenih igara pomoći. Čovek i sistem u njima učestvuju u zajedničkom zadatku, pri čemu mašina zaključuje o ljudskim vrednostima iz postupaka koji mogu biti nepotpuni, nedosledni ili pogrešno protumačeni. Takav model priznaje duboku teškoću: ljudi se međusobno razlikuju, menjaju mišljenje, nose predrasude i često biraju ono što im dugoročno šteti. Raselov doprinos ne uklanja te probleme jednom formulom, već ih postavlja u središte tehničkog istraživanja, gde mogu biti proučavani pre nego što sistem dobije veliku moć nad stvarnim svetom.

Godine 2016. na Berkliju je osnovao Centar za ljudski usklađenu veštačku inteligenciju, poznat kao CHAI. Već njegov naziv izražava ideju da cilj istraživanja mora obuhvatati pouzdanu korist za ljude, a ne samo rast sposobnosti sistema. U radu centra susreću se računarske nauke, ekonomija, teorija igara, psihologija, filozofija i proučavanje ljudskog odlučivanja. Takva širina proističe iz prirode problema, jer sistem ne može biti usklađen sa ljudskim vrednostima ako njegovi tvorci te vrednosti zamišljaju kao jednostavne, nepromenljive komande odvojene od društvenih odnosa i raspodele moći.

Raselova briga za posledice tehnologije obuhvatila je i smrtonosno autonomno oružje. Upozoravao je da sistemi koji samostalno biraju i napadaju mete mogu postati jeftini, lako umnoživi i dostupni velikom broju država, grupa i pojedinaca. Njihova opasnost prevazilazi mogućnost pojedinačne programske greške, jer masovna proizvodnja može promeniti prirodu oružanog nasilja i udaljiti ljudsku odluku od trenutka u kojem se oduzima život. Naučnik koji razume mogućnosti takvih sistema, prema Raselovom shvatanju profesionalne odgovornosti, ima obavezu da posledice objasni javnosti i učestvuje u oblikovanju granica njihove upotrebe.

Knjiga Human Compatible: Artificial Intelligence and the Problem of Control, objavljena 2019. godine, približila je široj publici njegovu kritiku tradicionalnog modela veštačke inteligencije. Rasel u njoj razmatra mogućnost izuzetno korisnih sistema koji bi mogli da ubrzaju naučna otkrića, unaprede medicinu i obrazovanje, pomognu u rešavanju klimatskih problema i oslobode ljude mnogih teških poslova. Veličina tih koristi pojačava potrebu da se pitanje kontrole rešava pre nego što sposobnosti dostignu nivo na kojem posledice pogrešnog cilja više ne mogu lako da se zaustave.

U BBC-jevim Reith predavanjima 2021. godine Rasel je veštačku inteligenciju povezao sa radom, ratovanjem, ekonomskom moći i ljudskom autonomijom. Posebnu pažnju posvetio je sistemima preporučivanja, koji uče kako da privuku i zadrže pažnju korisnika. Kada se uspeh meri brojem klikova ili vremenom provedenim na platformi, algoritam može otkriti da bes, strah, sukob i uznemirenost predstavljaju delotvorna sredstva optimizacije. Njegovi tvorci možda nisu nameravali da polarizuju društvo, ali su izabrali meru koja je takvo ponašanje nagradila. Ovaj već prisutan primer pokazuje kako tehnički cilj postaje društvena sila čim sistem počne da menja okruženje iz kojeg uči.

Rasel je zbog toga dosledno zastupao proveru visokorizičnih sistema, nezavisno ispitivanje, jasnu dokumentaciju i odgovornost institucija koje ih razvijaju i primenjuju. Društvo zahteva stroge standarde za lekove, avione i industrijska postrojenja jer njihove greške mogu ugroziti veliki broj ljudi. Veoma sposobni algoritamski sistemi zaslužuju podjednako ozbiljan odnos, naročito kada donose odluke u medicini, infrastrukturi, zapošljavanju, finansijama ili bezbednosti. Tržišno obećanje proizvođača teško može zameniti pouzdan dokaz da se sistem ponaša bezbedno i da postoji delotvoran način da se njegovo delovanje ospori ili zaustavi.

Njegovo držanje nosi posebno važnu lekciju o naučnom autoritetu. Rasel govori mirno i precizno, bez potrebe da neizvesnu budućnost predstavlja kao gotovu katastrofu, ali isto tako odbija da odsustvo sigurnog predviđanja pretvori u opravdanje za nečinjenje. Ozbiljan istraživač ume da razlikuje tvrdnju da će se nešto dogoditi od saznanja da je određena mogućnost dovoljno opasna i dovoljno teška za kasnije rešavanje da zahteva rad unapred. Takva intelektualna disciplina spaja oprez sa hrabrošću: priznaje granice znanja, a ipak preuzima odgovornost za odluke koje moraju biti donete pod neizvesnošću.

U Raselovoj zamisli bezbedan inteligentni sistem liči na pažljivog pomoćnika koji razume da čoveka možda još nije dobro shvatio. On posmatra, proverava, pita, prihvata ispravku i čuva prostor za promenu odluke. Ova slika povezuje inteligenciju sa skromnošću, što je dragocena poruka u kulturi koja sposobnost često poistovećuje sa samouverenošću i dominacijom. Sistem koji raspolaže ogromnim znanjem i računarskom moći mogao bi biti bezbedniji upravo zato što svoje razumevanje ljudskih ciljeva ne proglašava konačnim.

Stjuart Rasel pomogao je da se veštačka inteligencija uredi kao nauka o racionalnim agentima, a zatim je imao smelosti da pokaže zašto tradicionalni oblik te ideje možda neće biti dovoljan za njene najveće buduće uspehe. Njegova životna priča svedoči da odanost jednoj nauci ne zahteva odbranu svake njene pretpostavke. Ponekad se najdublja odanost pokazuje spremnošću da se temelj preispita dok još postoji vreme da bude ojačan. Budućnost inteligentnih sistema zavisiće od algoritama i podataka, ali i od kulture odgovornosti koju ljudi izgrade oko njih, od ciljeva koje biraju i od skromnosti sa kojom priznaju koliko ljudsko dobro još uvek nisu naučili da precizno opišu.