Ljubavno pismo učenju

Dva osumnjičena nalaze se u odvojenim prostorijama. Ne mogu da razgovaraju i ne znaju šta će onaj drugi učiniti. Svakom je ponuđen isti izbor: da ćuti i tako ostane odan drugom ili da ga optuži i pokuša da sebi obezbedi povoljniji položaj. Ako obojica ćute, prolaze relativno blago. Ako jedan optuži drugog dok ovaj ćuti, prvi dobija najbolji ishod, a drugi najtežu kaznu. Ako se obojica međusobno optuže, obojica prolaze lošije nego da su sarađivali.

Svaki zatvorenik razmišlja zasebno. Ako drugi ćuti, isplativije je izdati ga. Ako drugi izda, ponovo je bolje uzvratiti izdajom nego ćutati i podneti najtežu kaznu. Bez obzira na tuđi izbor, izdaja deluje sigurnije. Obojica zato mogu postupiti racionalno iz sopstvenog ugla i završiti sa ishodom koji je nepovoljniji za obojicu.

Snaga zatvorenikove dileme ne nalazi se u priči o policiji i kriminalcima. Ona otkriva strukturu koja se ponavlja u ekonomiji, politici, međunarodnim odnosima, zaštiti životne sredine i svakodnevnom životu. Učesnici imaju zajednički interes da sarađuju, ali je svaki pojedinačno izložen iskušenju da zaštiti sebe, iskoristi tuđu saradnju ili predupredi moguću izdaju. Kada svi slede tu logiku, zajednička mogućnost nestaje.

Problem nisu nužno pokvareni ljudi. U istoj zamci mogu se naći razumni, oprezni i dobronamerni učesnici. Njihove odluke oblikuje nedostatak poverenja. Svako bi pristao na saradnju kada bi pouzdano znao da će sarađivati i druga strana. Pošto takvu sigurnost nema, pokušava da se zaštiti od najgoreg ishoda. Oprez jednog postaje razlog za oprez drugog, a uzajamna predostrožnost proizvodi rezultat koji niko nije želeo.

U tome se zatvorenikova dilema dodiruje sa Nešovom ravnotežom, ali ova dva pojma nemaju isto značenje. Nešova ravnoteža je opšti koncept koji se može primeniti na mnoge različite igre. Zatvorenikova dilema je jedna određena vrsta igre, konstruisana tako da pokaže sukob između pojedinačne racionalnosti i zajedničke koristi. Njeno uzajamno optuživanje predstavlja Nešovu ravnotežu: kada jedan zatvorenik optužuje, drugi ne može poboljšati sopstveni položaj jednostranim prelaskom na ćutanje. Ravnoteža je stabilna, ali je za obojicu lošija od uzajamne saradnje.

Ta razlika čuva priču od čestog nesporazuma. Zatvorenikova dilema ne dokazuje da je sebičnost uvek razumna niti da saradnja mora propasti. Ona pokazuje šta se može dogoditi kada su podsticaji tako uređeni da pojedinac snosi rizik saradnje, dok korist od zajedničkog dogovora zavisi od tuđeg ponašanja. Promenom informacija, pravila, trajanja odnosa ili mogućnosti kažnjavanja menja se i sama logika izbora.

Zamislimo dve kompanije koje bi obe profitirale kada bi ograničile zagađenje. Ugradnja čistije tehnologije zahteva ulaganje, dok koristi od čistijeg vazduha pripadaju čitavoj zajednici. Svaka kompanija može poželeti da druga podnese trošak, a da ona nastavi jeftiniju proizvodnju. Ako obe tako razmišljaju, ulaganje izostaje. Pojedinačna želja da se izbegne trošak proizvodi zajednički skuplji svet.

Slična struktura postoji u trci u naoružanju. Dve države mogle bi biti bezbednije kada bi obe ograničile oružje. Nijedna, međutim, ne želi da se razoruža dok druga zadržava prednost. Svaka gomila oružje da ne bi postala ranjiva. Rezultat je svet u kojem obe troše više, obe žive pod većom opasnošću i nijedna se ne oseća dovoljno sigurnom da prva promeni ponašanje.

Klimatske promene stvaraju zatvorenikovu dilemu planetarnih razmera. Sve države imaju korist od stabilnije klime, ali svaka može pokušati da troškove smanjenja emisija prepusti drugima. Kratkoročna dobit od odlaganja promena pripada pojedinačnoj zemlji ili industriji, dok se šteta raspoređuje na čitavu planetu i buduće generacije. Kada veliki broj učesnika čeka da neko drugi napravi prvi korak, zbir njihovih odlaganja postaje zajednička katastrofa.

Dilema se prepoznaje i u mnogo manjim odnosima. Dvoje kolega mogu skrivati znanje jer se svako plaši da će drugi iskoristiti njegovu otvorenost. Partneri posle svađe mogu čekati da druga strana prva pokaže ranjivost. Stanari mogu izbegavati brigu o zajedničkom prostoru očekujući da će posao obaviti neko drugi. Roditelji, nastavnici i učenici mogu pooštravati kontrolu, otpor i nepoverenje sve dok odnos koji je trebalo da počiva na saradnji ne postane iscrpljujuće nadmetanje.

Zatvorenikova dilema postaje još zanimljivija kada se ista igra ponavlja. U jednokratnom susretu učesnik može izdati drugog i otići sa neposrednom koristi. U ponovljenom odnosu današnji potez menja sutrašnje ponašanje partnera. Pojavljuju se sećanje, reputacija, zahvalnost, oproštaj i mogućnost uzvraćanja. Saradnja tada može postati razumna strategija, jer kratkoročna dobit od izdaje može biti manja od dugoročnog gubitka poverenja.

Robert Akselrod je krajem sedamdesetih i početkom osamdesetih godina organizovao računarske turnire na kojima su se različite strategije nadmetale u ponovljenoj zatvorenikovoj dilemi. Među njima je naročito uspešna bila jednostavna strategija „milo za drago”: započni saradnjom, a zatim ponovi prethodni potez druge strane. Ona je bila otvorena jer prva nije napadala, odlučna jer je odgovarala na izdaju, spremna na oproštaj jer se vraćala saradnji čim se vratio i partner, i dovoljno jednostavna da drugi mogu razumeti njeno ponašanje.

Rezultati tih turnira nisu uspostavili jednu večnu formulu uspeha. Ishod zavisi od okruženja, sastava populacije, mogućnosti greške i dužine odnosa. Strogo uzvraćanje može izazvati beskrajan niz osveta ako jedan pogrešan potez bude protumačen kao namerna izdaja. Zato su se kao važne osobine pokazale i velikodušnost, tolerisanje povremenih grešaka i sposobnost ponovnog uspostavljanja saradnje.

Poverenje u ovom okviru nije naivno uverenje da će svi postupiti dobro. Ono nastaje kada ljudi imaju dovoljno razloga da očekuju saradnju i dovoljno mogućnosti da prepoznaju i ograniče zloupotrebu. Pouzdani dogovori, javna pravila, proverljive obaveze, reputacija i ponovljeni susreti smanjuju opasnost da otvorenost jedne strane postane laka meta za drugu.

Institucije zato imaju presudnu ulogu. Ugovor omogućava ljudima da sarađuju i kada se lično ne poznaju. Nezavisan sud smanjuje rizik da će jedna strana nekažnjeno prekršiti dogovor. Zajednički standardi omogućavaju različitim kompanijama da stvaraju proizvode koji međusobno funkcionišu. Međunarodne inspekcije mogu učiniti sporazume o naoružanju proverljivim. Prava institucija menja isplate u igri: saradnja postaje sigurnija, a izdaja skuplja ili lakše uočljiva.

Ista logika oblikovala je digitalni svet. Internet postoji zahvaljujući velikom broju učesnika koji prihvataju zajedničke protokole, prosleđuju podatke i održavaju infrastrukturu od koje svi imaju korist. Međutim, svaki deo mreže može pokušati da trošak prebaci drugima, zadrži podatke za sebe, zloupotrebi zajedničke resurse ili stekne prednost zatvaranjem sistema. Otvoreni standardi, pravila interoperabilnosti i mehanizmi bezbednosti predstavljaju pokušaje da se saradnja zaštiti u okruženju u kojem ne možemo pretpostaviti savršeno poverenje.

Platforme i društvene mreže takođe stvaraju sopstvene dileme. Korisnici žele pouzdane informacije, ali senzacionalan sadržaj često donosi više pažnje. Pojedinac može dobiti kratkoročnu korist širenjem neproverene tvrdnje, dok se trošak pada poverenja raspoređuje na celu zajednicu. Ako svi slede podsticaj koji nagrađuje brzinu i uzbuđenje, nastaje informaciono okruženje koje gotovo niko pojedinačno ne bi izabrao.

U sistemima veštačke inteligencije saradnja među agentima ne može se svesti na naredbu da budu „dobri”. Svaki agent ima cilj, informacije i mogućnost da utiče na druge. Ako su ciljevi loše postavljeni, više pojedinačno uspešnih algoritama može proizvesti zajednički štetan rezultat. Algoritmi mogu prekomerno koristiti zajedničke resurse, manipulisati signalima ili učiti ponašanja koja donose lokalnu prednost na račun stabilnosti čitavog sistema.

Zato je važno razlikovati poverenje od odsustva zaštite. Razumna saradnja uključuje jasna pravila, mogućnost provere i postupak za slučaj kršenja dogovora. Slepo poverenje omogućava iskorišćavanje; potpuno nepoverenje uništava korist koju ljudi mogu stvoriti zajedno. Između ta dva ekstrema nalazi se prostor u kojem se poverenje gradi iskustvom i podržava institucijama.

Dilema otvara i moralno pitanje koje matematika sama ne može rešiti. Čovek može vrednovati odanost, pravičnost ili dobro zajednice čak i kada mu neposredna materijalna računica savetuje drugačiji potez. Ako su takve vrednosti stvarni deo njegovih ciljeva, one pripadaju i opisu igre. Model postaje pogrešan kada istraživač unapred proglasi novac, moć ili izbegavanje kazne jedinim mogućim ljudskim interesima.

Zatvorenikova dilema nas uči da uzrok lošeg zajedničkog ishoda ne treba uvek tražiti u lošem karakteru pojedinaca. Ponekad su ljudi uhvaćeni u odnos u kojem nijedan ne može bezbedno da učini ono što bi svima koristilo. Moralni poziv na saradnju tada nije dovoljan. Potrebno je promeniti informacije, podsticaje, pravila ili mogućnost uzajamnog obavezivanja.

Njena najvažnija poruka tiče se uslova pod kojima poverenje može opstati. Ljudi lakše sarađuju kada očekuju da će se ponovo sresti, kada mogu prepoznati postupke drugih, kada izdaja ima posledice i kada postoji put povratka posle greške. Trajna saradnja zahteva pamćenje, ali zahteva i oproštaj. Zajednica koja ništa ne pamti podstiče zloupotrebu; zajednica koja ništa ne oprašta ostaje zarobljena u beskrajnom uzvraćanju.

Učenje da sarađujemo zato nije poziv da zanemarimo sopstveni interes. Ono je sposobnost da razumemo koliko je taj interes povezan sa ponašanjem drugih i sa pravilima zajednice kojoj pripadamo. Najrazumniji potez ponekad postaje moguć tek kada zajedno izgradimo svet u kojem čovek ne mora da bira između sopstvene sigurnosti i poverenja u drugoga.