Kommer en mäktig AI att vilja döda alla människor?

An AI will want to acquire as many resources as possible, so that these resources can be transformed and put to work for the satisfaction of the AI’s final and in- strumental goals. ... [T]he default outcome from advanced AI is human extinction. ... Unless an AI is specifically programmed to preserve what humans value, it may destroy those valued structures (including humans) incidentally. As Yudkowsky (2008) puts it, “the AI does not love you, nor does it hate you, but you are made of atoms it can use for something else.”

- Luke Muehlhauser och Anna Salamon, Intelligence Explosion: Evidence and Import

Argumentet här är att en AI, om den bara vill göra saker, kommer att ha ett incitament att försöka ta över hela världen och ta över all materia för att kunna uppnå alla mål den har. Detta gäller enbart en AI utan några specifika mål som vi människor har (vilket för många inkluderar att inte vilja styra över andra och att låta ens vänner ha en del av världen att bestämma över). Det man tänker sig är att det här är ett instrumentellt rationellt mål för en intelligent varelse, som att man försöker komma fram till vad homo economicus vill göra om man inte vet om vilken sorts varelse denne är - Vulcan, Dementor, Drow eller haj - bara denne tänker rationellt på vad dennes mål är. Då får man fram en sorts mall för vad en bara intelligent varelse vill kunna göra, för att kunna uppnå mål, och det är denne varelse som Yudkowsky, Omohundro, Muehlhauser och Salamon tror vill ta över alla människor.

Jag argumenterade emot det här perspektivet i ett tidigare inlägg och har nu kommit på ett till argument mot detta som jag tänkte ta upp. (Jag får säga att jag har en estetisk förkärlek till den fullt rationella, men specifikt mållöse varelsen, så jag har en liten bias här, men hoppas att om den ger sig i uttryck så kan det upptäckas.) Argumentet är det följande:

• Två varelser som båda försöker kontrollera all materia i universum kommer att hamna i en konflikt med varandra.
• Det borde finnas ett stort antal varelser i världen med den här totala dominanspreferensen (td).
• Det är inte säkert att varje enskild td-varelser kan döda alla andra td-varelser.
• Dessutom så är i princip varje td-varelse ett hot mot alla andra varelser i universum
• För att undvika att bli utplånad är det bäst för en td-varelse att hitta på en strategi för fredlig samvaro.

Alltså, att ha en preferens som är att ta över allt i universum är att sätta en skylt på sig själv om att man är ett hot mot universum. Därför har den som har den preferensen ett incitament till att forma om sina preferenser till att inte vilja ha detta, utan istället satsa på att bara vara säker, vilket kan uppnås genom att hitta andra varelser som har samma strategi.

Dessutom kommer denne att vilja kunna njuta av saker som inte kräver att man har fullständig dominans över allting som existerar. Som att gilla att sköta en trädgård istället för att spränga galaxer eller något liknande.

Det skulle dock kunna gå att säga att en AI som förstår allt detta ändå kommer vilja döda alla människor, för att människor inte är tillräckligt mäktiga att bry sig om. På samma sätt skulle den kunna säga det om den första svagare utomjordingen den stöter på. Och nästa. Tills den stöter på någon som är mäktigare. Skulle den då kunna säga "Nej då, jag var inte ute efter hela universum, lita på att vi kan samexistera och att jag inte försöker komma på ett sätt att slå ut ditt försvar och ta kol på dig"? Rimligtvis inte.

Men, skulle inte AI:n kunna skydda sig mot detta genom att ersätta de dödade civilisationerna med kopior han skapat? Kopior som egentligen är statister eller har en kod inuti så att AI:n närsomhelst kan ta över dem? Det vore förstås möjligt, men det skapar möjlighet för den synligt utomjordingen att upptäcka den koden, vilket då gör det helt meningslöst.

Alltså, om man inte är helt säker på att man kan stå emot vilken kraft som helst så är det riskabelt att börja gå mot situationen där man krossar allt för att styra över hela världen. Och även om man är helt säker är det inte så smart, för det går alltid att ha fel. Och, slutligen, det är alltid möjligt att man är i en matrix-värld, som jag tog upp i mitt förra inlägg. Därmed inte sagt att man inte skall vara försiktig med AI, men jag är mest rädd för galna AIs.

Är traumatiska uppväxter förklaringen till att folk inte är libertarianer?

I videon ovan går Stefan Molyneux igenom lite psykologisk forskning som gjorts om folks ideologiska val och hur man resonerar i politiska debatter/konflikter. Huvudpoängen är att de flesta av oss i regel inte resonerar särskilt väl; vår rationella del blir lätt trumfad av den irrationella delen.

Exempelvis, när väljare i ett test fick höra information som talade emot deras kandidat (samtidigt som deras huvuden scannades) så reagerade deras hjärnor något udda. Istället för att den problemlösande och rationella delen av hjärnan slogs igång så startade istället den känslomässiga delen:

"None of the circuits involved in conscious reasoning were particularly engaged," Westen said. "Essentially, it appears as if partisans twirl the cognitive kaleidoscope until they get the conclusions they want, and then they get massively reinforced for it, with the elimination of negative emotional states and activation of positive ones."

Notably absent were any increases in activation of the dorsolateral prefrontal cortex, the part of the brain most associated with reasoning."

Molyneux tar även upp forskning som pekar på att en del av våra tankar kommer som en efterförklaring till något vi redan gjort. Alltså, först bestämmer sig den undermedvetna delen av hjärnan för att vi gillar något och sedan hittar den på en anledning (likt en advokat) som den medvetna delen mer eller mindre sväljer som sann. Det här verkar vara, utifrån vad jag hört ifrån andra källor, allmänt accepterat bland psykologer, så videon är väl värd att gå igenom.

Den huvudsakliga poängen som Molyneux för fram i den här videon - som tillhör en hel serie The Bomb in the Brain: The True Roots of Human Violence - är att dessa psykologiska mekanismer (vår tendens att undvika fakta som talar emot vår världsbild) ligger bakom folks motstånd till att förstå rationella argument för libertarianism. Och att det främst är fysisk och psykologisk misshandel av barn som ligger bakom att dessa psykologiska mekanismer får fritt spelrum. Detta eftersom barn som upplevt trauma som regel haft sämre utveckling av hjärnan, speciellt utvecklingen av den logiska och empatiska delen av hjärnan. Som han summerar argumentet (runt 27:00 i klippet):

Look, anyting which increases amygdalan activity automatically tends to swamp the reasoning centers of the brain. ...  And we know - based on the "Bomb in the Brain" earlier series - that childhood trauma increases amygdalan activity significantly.  The degree to which people cannot reason or reject  reason and evidence because of anxiety and emotional self management is the degree to which they have been traumatized. ... This is the evidence that is presented and [that evidence] is what you see whenever you debate with people and they just get angry and reject reason and evidence. ... This is all evidence of trauma, because this is what the science tells us.

Human beings at present are in a state of pre-philosophy. What is occuring for most people whenever they pretend to debate about something, is that deep brain impulses drive emotionality, anxiety, fear, anger, fight or flight which then create actions which then drive these ex post facto justifications. So you say something like taxation is theft and people get angry at you and then they assume that you're wrong because they're angry. You say something which is against their worldview, their amygdala  fight or flight kicks up, their negative emotional centers in their brains light up, near frontal cortex shuts down, and the information is rejected in order to calm the brain storm that is occurring from the brain stamp. It is not a rational process which is why more reason and evidence does not change people's minds.

Ideology is not just like a drug, it is a drug.

Omvänt är hans tes alltså att en individ som har fått växa upp fritt och i en älskande familj inte kommer att vara rädd för grupptryck eller annat så att när denne hör argument för att låta folk leva fritt, så kommer denne inte att reagera med att stänga av sin hjärna utan lyssna och göra en egen bedömning om vad som stämmer. I den mån någon resonerar dåligt, i samma mån har denne blivit utsatt för trauma som barn.

Kan detta stämma? Ett problem med hypotesen är att alla som haft traumatiska uppväxter inte behöver ha haft problem med att utveckla sina resonliga och sympatiska sidor. Det finns några svenska libertarianer (bland de som svarade en rätt stor minoritet) som haft förjävliga uppväxter, där de blivit slagna av en av sina föräldrar, och ändå lyckats bli bra på att resonera. Och det finns även de som haft en bra uppväxt och blivit socialister/etatister. En sak som gör att de med dålig uppväxt kan ändå utveckla empati och sin logiska förmåga är genom att träna den - och de med bra uppväxt kan ju också låta bli att träna den. Vilka idéer man får lära sig som barn och om man har möjlighet att träna sitt medvetande eller inte är alltså väldigt viktiga för hur man utvecklas.

En annan grej som jag tror är en viktig förklaring till varför de flesta inte blivit libertarianer är grupptryck, som också passar ihop med informationen som Molyneux samlat ihop. Istället för att folk bara blir lätt rädda - för att deras hjärnas utveckling blivit skadade som barn - så skulle de kunna bli rädda för att de inte vill bli utfrysta av andra. Den rädslomekanismen borde ha funnits med oss sedan evolutionen (men slår till fel idag när vi är i en helt annan miljö) och skulle då kunna finnas även hos dem som inte upplevt något trauma som barn.

Vad är det för utstöttning som sker då i dagens samhälle? Jo, många som börjar argumentera för frihet möts i första hand inte av rimliga argument utan av förlöjliganden och hån. De som, exempelvis, försvarar välfärdsstaten gör det genom att säga att människan är "svag, dum och ond"; den oansvariga människan som inte kan klara sig på egen hand behöver hjälp ifrån andra och den som inte stöttar välfärdsstatens sätt att göra det på är ond. Den som förespråkar legalisering av droger bryr sig inte om de som hamnar i missbruk. I allmänhet, är du för frihet, så är du för djungelns lag, fascism och en massa hemska saker.

Alltså, det innebär en viss kognitiv risk att gå emot det rådande paradigmet. Detta gäller även för socialister, som tror sig leva i en nyliberal värld och får höra hån ifrån konservativa. Eller för gmo-motståndare som får höra att de är foliehattar ifrån libertarianer. (Själv har jag, om än långt in i en diskussion, tyvärr sagt till en annan att jag tyckte hans åsikter var ondskefulla.) Att det här är vanligt förekommande märks på att det även finns folk som aktivt förespråkar hån och förlöjliganden för att deras sida skall vinna.

Att gå emot stammen - vilket man då måste göra om man får höra från många i samhället att det bara är ondskefulla eller naiva personer som stöttar frihet - skulle lika väl kunna sätta igång ens interna varningsklockor, och skulle därför kunna vara skälet till varför den frihetliga utvecklingen varit svag. Att höra någon annan föreslå frihet, att höra någon fråga om man vill vara med och ställa sig upp mot stammen, kan nog också dra igång reptilhjärnan. Detta passar också ihop med att utvecklingen ändå blivit så mycket bättre iom internet: genom att folk lättare kommer i kontakt med andra som står för frihet så blir det lättare att känna sig trygg i att stå utanför den normala åsiktsfåran, samt att fler kommer i kontakt med dessa idéer.

Alltså, Molyneuxs hypotes, att endast trauma förklarar varför folk blir irrationella i politiken, verkar inte stämma. Folk som har upplevt trauma har inte blivit oförmögna att utveckla ett rationellt tänkande, folk som inte verkar ha upplevt trauma kan bli socialister och det lär finnas evolutionära och sociala förklaringar till att folk kan bli irrationella i dagens politik, där många bemöter funderingar med hån och moraliska fördömningar. Däremot tror jag nog att den stämmer allt annat lika; ju färre som blir traumatiserade desto bättre för att utveckla ett rationellt sinne. Men den fungerar nog inte som en generell förklaring.

Annars finns det fler förklaringar till varför folk inte är libertarianer. Jag och Niclas diskuterade några möjligheter i ett avsnitt av Ankdammen. Den har även diskuterats flitigt av liberaler under 1900-talet, om än bara varför intellektuella inte blivit libertarianer. Ralph Raico har en väldigt intressant och rolig föreläsningar om de svar som getts och även skrivit om förklaringarna i kapitel tre ("Intellectuals and the Marketplace") av Classical Liberalism and the Austrian School.

Att lösa fångarnas dilemman

Sammanfattning: Det finns en del tillfällen då folk har svårt att samarbeta med varandra, p.g.a. dåliga incitament, trots att alla skulle tjäna på ett samarbete. Bland vissa ser dessa problem ut som alldeles för svåra för folk att klara av, men det börjar nu byggas en teori om när och hur människor faktiskt kan lösa problemen. Detta görs genom att lära sig mer om situationen, diskutera med andra om rimliga lösningar, ge löfte om att samarbeta, tolka andras handlingar välvilligt, undvika de som inte vill samarbeta samt att diskutera frågan om samarbete som en moralisk (istället för affärsmässig) fråga.

En del av moral, en viktig del för de som skaffat sig ett estetiskt tilltalande moraliskt sinne, är att samarbeta med varandra, d.v.s. att göra utbyten med andra som är till bådas fördel. Det finns två sorters samarbeten:

A) de där det är väldigt tydligt för alla inblandade att de tjänar på att samarbeta, där alla (eller nästan alla) på kort och lång sikt får det bättre av att samarbeta. Exempelvis, när jag köper en falafelrulle ifrån någon som driver ett gatukök; vi tjänar båda på att handla med varandra på både kort och lång sikt, istället för att bedra varandra (som att jag ger bort falska sedlar eller att säljaren ger mig en uselt lagad falafel).

B) de där det inte alls är tydligt för alla att alla tjänar på samarbete, där ett stort antal tror att de skulle få det sämre på kort sikt om de samarbetade och inte är speciellt säkra på att de skulle tjäna på det på lång sikt (trots att de skulle göra det). Exempelvis, när jag och många andra i landet diskuterar politik, så skulle vi kunna göra det på ett produktivt sätt men ofta händer det att vi grälar och låter reptilhjärnan ta över.

En del av målet med en moralfilosofi är att göra om alla samarbeten av den andra ofruktbara sorten till den första, produktiva, sorten. Såhär, tänk om det fanns en samarbetsmöjlighet som du missar. En bra moralfilosofi borde förbereda en för att se tecken på dem och på att kunna inleda diskussioner med alla andra för att få till ett samarbete. Varje samarbete man missar är nämligen ett missat tillfälle att främja bådas värden.

De potentiella samarbetena av sorten (B) finns i grovt sett två olika sorter: de som är väldigt lika fångarnas dilemma (som resenärernas dilemma, platoniadilemmat och restaurangbesökarnas dilemma) och de som inte är det (som tillit-dilemmat eller chicken). 

Alla dessa olika varianter av dilemman har blivit kallade för sociala dilemman. Alltsedan slutet av 1970-talet har olika samhällsforskare gjort studier (främst på studenter i olika "experiment") på hur folk kan undvika dessa dilemman och istället hitta lösningar som gör det möjligt att få ut samarbete med alla. Det finns än så länge ingen enad teori om hur människor klarar av att lösa dessa problem, men det finns en del fakta och några faktorer som gör det lättare att samarbeta med andra. I resten av inlägget tänkte jag ta upp dessa, med utgångspunkt ifrån "The Psychology of Social Dilemmas: A Review", från 2013.

Kunskap - När folk har mer kunskap om vad det är för sorts potentiellt samarbete de står inför så är det vanligare att de samarbetar. Detta beror kanske på att osäkerhet gör det svårare att koordinera med andra och/eller för att det gör det lättare för folk att komma med ursäkter för att inte samarbeta. Det finns ett undantag mot den här regeln och det är att när en individs betydelse för att samarbetet skall fungera så kommer osäkerhet inte att påverka situationen alltför mycket.

Kommunikation - Som regel är det bra att diskutera med alla andra om problemet de står inför; att diskutera olika förslag för att kunna samarbeta och hur de skulle kunna lösa problem med det gör att fler blir inställda på samarbete. Det blir också bättre om man lovar andra att man kommer samarbeta; ju fler som tror att andra kommer samarbeta, desto troligare kommer det att ske. Dock, att bara prata om vädret eller saker som inte är relaterat till att få till något samarbete ger vanligtvis inte någon effekt.

Sanktionera eller undvika icke-samarbetare -  Möjligheten att kunna utesluta andra ifrån en grupp ger potentiella icke-samarbetare ett starkt incitament till att samarbeta, främst i små grupper. Att undvika att försöka samarbeta med de som inte gör det är en nödvändig möjlighet för att inte bli utnyttjad och att visa sådant missnöje med icke-samarbetare samtidigt som man är villig att samarbete med dem ifall de ändrar sig har visat sig vara en av de mest effektiva strategierna i datorsimuleringar av sådana här problem. Dock verkar det också som om bestraffningar också kan minska tendensen att samarbeta, ifall det minskar folks naturliga vilja att samarbeta eller omvandlar situationen från en moralisk till en affärsmässig situation.

Utgå ifrån en välvillig tolkning av andras beteende - I alla situationer är det möjligt för de som vill samarbeta att de gör ett misstag, vilket skulle kunna få andra att bestraffa dem för det. Men om man tolkar misstaget som ett misstag och inte ett tecken på att man vill sluta samarbeta så brukar det oftast leda till ett bättre samarbete i slutändan, om folk kan kommunicera med varandra. (Den strategin kallas för "Tit for two tats".) De flesta människor tolkar personer med en sådan här strategi som att de har goda avsikter.

Få andra att se samarbete som en moralisk fråga - Det har visat sig att beroende på hur man lägger upp frågan om att samarbeta med andra spelar roll för på vilket sätt folk tänker på frågan. Om man lägger upp det som ett affärsförslag så är folk mer benägna att inte samarbeta, men om man lägger upp det som en moralisk fråga blir det enklare. De flesta tänker på olika sätt beroende på vilken del av hjärnan de använder.

Det här var några exempel på faktorer som gör det lättare att samarbeta med andra i de fall där det kan se ut som samarbete inte är möjligt (p.g.a. dåliga incitament). Än så länge finns inte någon generell teori om när sådant samarbete är möjligt och när det inte är det, men tillsammans med tillgänglig data om hur sinnrika vi människor är på att hitta sätt att kunna samarbeta med andra, så verkar vi kunna skapa frivilliga institutioner för att kunna utnyttja alla samarbetsmöjligheter.

Dock är nog den här forskningen bara inriktad på att visa när folk kan lösa just de problematiska samarbetsproblem där deltagare ändå kan få en direkt input ifrån omutliga processer om hur bra det går för dem. D.v.s. ifall folk samarbetar i ett socialt dilemma så får de en tydlig belöning. Det finns dock (B)-situationer där man inte får en sådan belöning. Skulle människor kunna lösa dem problemen? För att ställa om frågan, kan vi uppmuntra varandra att följa vissa regler där vi inte ser någon direkt belöning eller bestraffning för det, annat än våra medmänniskors gillande eller ogillande? Något pinsamt, kanske, men människor har historiskt varit väldigt bra på att följa sådana regler (religion och nationalism är de främsta exemplen). Frågan är då, skulle vi kunna följa sådana regler när det finns rationella skäl att göra det? Ja, för så fungerar välgörenheter.

Sedan finns förstås frågan om dessa går att skapa billigare med hjälp av att tvinga människor till att "samarbeta" - om det är möjligt att samarbeta när man blir tvingad till det. Sådana externa lösningar hindrar dock folk från att spontant skapa interna normer, så att folk tenderar att bara lita på det externa systemet. Det blir problematiskt ifall det systemet inte fungerar så väl, vilket, när det gäller politiken, tyvärr ganska ofta är sant. Det verkar överlag mycket säkrare att förlita sig på ett system där folk lever med vetskap om att de behöver vara vaksam på möjligheter för samarbete, där de skapar sina egna normer för att göra detta och jämför dem med andra, än att bara låta det hela läggas i händerna på en planerare. Ett samhälle med tränade samarbetare verkar bättre än ett där folk tränat in sig på att bara lyssna på vad en viss grupp säger.

Collective Action and the Evolution of Social Norms

Jag har intresserat mig en hel del för frågan om hur individer i ett fritt system kan komma runt fångarnas dilemma-problemet och producera offentliga varor. Eller, i andra ord, hur folk lättare kan välja långsiktiga eller rationella beteenden som låter en kunna uppnå fler samarbeten med andra.

En som skrivit en hel del om hur människor kommit runt det här problemet genom att uppmuntra vissa normer är Elinor Ostrom. I artikeln "Collective Action and the Evolution of Social Norms" (2000) sammanfattade hon forskningsläget om vad experimentell ekonomer hade kommit fram om hur bra folk kunde samarbeta för att producera offentliga varor och hennes egen forskning. Den här forskningen är intressant så jag tänkte sammanfatta vad som står skrivet i artikeln här.

Ostroms börjar med att konstatera att forskningsfältet förr var starkt influerade av en idé som Mancur Olson fört fram i sin The Logic of Collective Action (1965). Att om folk inte blir hotade eller bli behandlade på något speciellt sätt så skulle det inte vara i någons rationella intresse att bidra till en offentlig vara, om det inte var en liten grupp som skulle ha den. Idén kallades för "zero contribution thesis". Att folk inte samarbetar, även när det skulle lett till ömsesidig nytta, har samma struktur som ett fångarnas dilemma-spel, med ett valfritt antal spelare. Mancurs idé ligger bakom idén i textböcker att folk inte frivilligt kan samarbeta med varandra.

Att folk inte bidrar till stora projekt stämmer dock inte med observerbara fakta; väldigt många bidrar till sådana projekt, som välgörenhet och att gå och rösta. Det saknas också en teori som kan beskriva när folk ibland samarbetar och när de inte gör det, men det har kommit en del ny forskning som försöker lägga grunden för en sådan teori.

Ostroms artikel kommer att studera denna nya landvinning, som består av experimentella resultat och nya teoretiska modellbyggande. En central upptäckt är att människor är olika villiga på att börja samarbeta med andra. En viktig undersökningspunkt blir därför att ta reda på hur de potentiella samarbetarna signalerar till varandra och skapar institutioner som uppmuntrar samarbete.

Standardmodellen inom ekonomi är att människor är "rationella egoister" (som Ostrom kallar dem). Den här modellen stämmer väl när folks beteenden blivit undersökta i experimentella auktionssammanhang och i konkurrensutsatta marknadssituationer (Kagel och Roth, 1995 - se även Vernon Smith på Econtalk).

Men i offentliga varor-experiment agerar folk helt annorlunda. Dessa kan gå ut på att en grupp individer samlas och alla får 10 fiktiva enheter som representerar pengar. De får sedan möjligheten att lägga in pengarna i en gemensam fond och om de lägger in 10 enheter får vardera i gruppen 5 enheter var. Så om gruppen är på tio pers och alla lägger in 10 enheter var får alla 50 enheter. Men om bara en lägger in sina "mynt" får denne i slutändan bara 5 enheter medan alla andra får 15.

Den modellerade rationella egoisten lägger då inte in några pengar, så var och en går miste om 40 enheter. Denne skulle inte heller lägga in pengar i ett upprepat spel om de känner till när spelet tar slut. För då vet alla om att i sista rundan samarbetar ingen, och därför samarbetar inte heller någon i näst sista rundan, o.s.v. tills ingen samarbetar i första rundan.

Från 1977 har den här teoretiska modellen testats och Ostrom menar att dessa studier har genererat sju stycken kärnfakta som en ny teori måste kunna förklara:

1) I ett one-shot spel och i första rundan av ett upprepat spel brukar folk lägga in 40-60% av sina tillgångar i den gemensamma fonden.
2) Efter första rundan lägger folk in mindre och mindre pengar. I sista rundan brukar 70% inte lägga in några pengar.
3) De som tror att andra kommer samarbeta är mer benägna att samarbeta.
4) Ju mer folk lär sig om hur spelet fungerar desto mer samarbetar dem, generellt sett.
5) Om deltagare kan prata med varandra ansikte mot ansikte så är det allt fler som samarbetar. De brukar diskutera sätt att komma på bättre gemensamma strategier, få fram löften ifrån varandra och säga till ifall färre investerar pengar i fonden. Sådana tillsägningar verkar vara effektiva i att öka samarbetet.
6) När spelet tillåter det kommer folk att lägga ned resurser på att bestraffa de som lägger in mindre än genomsnittet i fonden - även under sista ronden. Studier från USA, Schweiz och Japan visar att de som från början litar minst på andra är de som lägger ned mest pengar på att bestraffa de som ger sämre än medelmåttet.
7) Hur väl samarbetet börjar beror på en del kontextuella faktorer.

Ostroms slutsats är att dessa upptäckter är väldigt svåra att få ihop med den spelteoretiska idén av vad en rationell egoist gör. Hon går sedan vidare med att bygga en ny modell som innehåller två till sorters spelare, utöver de rationella egoisterna: konditionella samarbetare och villiga bestraffare.

Konditionella samarbetare är de som är villiga att samarbeta så länge tillräckligt många andra gör det. De är tillitsfulla och besvarar andras tillit. De kan dock svara väldigt negativt på de som inte ger något alls till fonden, free-ridarna. Om en börjar sluta bidra fortsätter nedgången tills bara väldigt få investerar något, såvida de inte kan kommunicera eller bestraffa andra. Gissningsvis är väldigt många av befolkningen konditionella samarbetare.

Villiga bestraffare visar lätt sitt ogillande om de som inte samarbetar, men kan också ge beröm till de som samarbetar. De kan även använda sina resurser för att bestraffa icke-samarbetarna. Kategorierna är inte uteslutande, så en spelare kan vara både konditionell samarbetare och villig bestraffare.

Varför kan de då finnas sådana här typer av individer? Ostrom hänvisar här till evolutionärpsykologi. Människan utvecklades i en miljö där folk kunde samarbeta eller inte och de som var bra på att upptäcka vilka som var bra reciprokörer hade större chans att överleva. Människan har en särskild del av hjärnan som vi använder för att resonera om sociala regler, där vi oftast brukar leta efter folk som bryter mot reglerna - vilket även treåringar gör. Vi verkar ha en infödd förmåga att lära oss sociala normer, som förstår den generella strukturen av vad normer innebär, dock inte hur normerna ser ut.

Ser man det i en samhällskontext kommer folk välja att inte samarbeta med de rationella egoisterna, eftersom de inte är pålitliga. De som vinner är de som samarbetar och nya medlemmar i gruppen kommer att försöka ta efter deras värderingar för att också bli lika rika. Dock hänger det på att information om folks karaktär är känd.

Hur väl samarbete fungerar i samhället påverkar också hur väl andra fortsätter att samarbeta; folk som varit med i spel där många som de möter inte samarbetar börjar själva också samarbeta mindre.

En annan intressant upptäckt ifrån flera källor är att externa regleringar tenderar att fasa ut endogent baserat samarbete (Frey, 1994). I ett fall (Frohlich och Oppenheimer, 1996) studerades några som genomförde ett fångarnas dilemma (några med kommunikation och några utan). En annan set av grupper fick spela ett spel med några regler som var incitament-kompatibla för att folk att samarbeta. I första delen av studien fick de senare mest pengar, som förväntat. Men i andra delen av studien spelade alla fångarnas dilemma och då vann de som tidigare hade spelat fångarnas dilemma mest pengar. De som hade fått spela spelet med bra regler överförde inte kunskapen om dessa regler till världen med fångarnas dilemma.

Studier visar att endogena moraliska regler fungerar ungefär lika bra som situationer med externa regler med extern övervakning och bestraffning. För att de senare skall fungera krävs dock att en extern part övervakar och bestraffar folk rätt, vilket i verkligen inte behöver stämma. Dessutom så har de endogent uppkomna reglerna en tendens att stanna kvar, folk fortsätter att samarbeta, vilket inte gäller för de externt införda reglerna.

Fältstudier visar att folk kan vara väldigt bra eller väldigt dåliga på att lösa samarbetsproblem. En frekvent observation är att när en lokal grupp har kontroll över en gemensam "common-pool" resurs hanterar dem denna bättre än om de styrs av externa regler. En common-pool bygger på att man inte överutnyttjar resursen (för många i poolen gör att det inte är trevligt att bada där). Det beteendet förstärks av att folk känner till vilka som kan använda resursen och av att de hittar andra bland dessa som vill följa reglerna för att spara på resursen. I början är det ofta viktigt att en ledare föreslår vilka regler som bör gälla för resursen. För att de skall säkra att resursen håller behöver de skapa rättvisa regler för att använda den, som ofta är att man får ut efter hur mycket man lagt in i processen. En annan viktig princip som varit viktig genom tiderna är att de flesta som blir påverkade av systemet kan vara med och påverka dess regler. Även här märker man att regler som folk uppfattar som externa försämrar samarbetet. En till princip är att folk behöver övervakas av andra och att folk som bryter mot reglerna kan få graderade sanktioner, beroende på hur illa brottet är. Folk kan turas om att övervaka andra eller så går alla samman och ger resurser till någon som övervakar.

Let me summarize my argument to this point. When the users of a resource design their own rules that are enforced by local users or accountable to them using graduated sanctions that define wo has rights to withdraw from the resource and that effectively assign coss proportionate to benefits, collective action and monitoring problems are solved in a reinforcing manner.

Folk som tror att det här kan fungera börjar övervaka att andra följer reglerna. Den här gemensamma övervakningen och det konditionella samarbetet gör att fler vill samarbeta. Genom att ha lokala och väldigt snabba ting kan folk berätta för folk som bryter mot reglerna, samt beskriva mer noggrant vad som verkligen är ett regelbrott och vad som inte är det. En viktig punkt är att lokala gruppers legitimitet inte förstörs av större gruppers. Dock kan lokala grupper ge upphov till större nätverk av samarbetande grupper, där reglerna är olika på alla nivåer.

Vad finns det för hot mot sådana system? Stora strömmar ut ur eller in i landet påverkar vilka som kan finnas där för att upprätthålla reglerna och kan föra dit för många som inte är införstådda med de lokala reglerna eller inte litar tillräckligt mycket på andra. Andra hot är 1) att staten försöker införa uniforma regler i ett område, 2) häftig teknologisk utveckling, 3) försämrad överföring av kunskaper mellan generationerna, 4) att folket använder sig av externa resurser för ofta, 5) u-landsbistånd som inte tar hänsyn till lokala omständigheter, 6) ökad korruption samt 7) en brist på försäkringssystem, skolor och konfliktlösningssystem.

Var stolt över att du kan erkänna misstag

Russel Roberts: In politics, it seems that the cost of admitting a failure must be close to infinite...

Tim Harford: Absolutely. Partly it's down to the voters. One of the really memorable choices in U.S. political history - I'm biased, I was living in Washington, D.C. another time - but John Kerry, George Bush. And I think the defining image of that campaign was that George Bush knew his mind and made decisions, and Kerry was a flip-flopper. And that was how the campaign was decided. Now, Kerry's defenders said "That's not fair: he's not a flip-flopper. He is decisive." Nobody defended Kerry by saying: "Hey, what's wrong with changing your mind?"

Complicated place. Lots of people were in support of the war in Iraq, for example, and later saw it wasn't going well and changed their mind. Oh, well, in retrospect this has been a mistake. Some people always thought it was a good idea, some that it was bad idea. But a lot of perfectly reasonable people changed their minds halfway through. That's an indication of sanity. Yet politically very toxic.

- Econtalk, Harford on Adapt and the Virtues of Failure

Det politiska spelet är delvis ett spel om allianser; vi går med i olika grupper, som partier eller intresseföreningar, för att uppnå ett gemensamt mål. För att få gruppen att fungera bestraffar vi de som förråder gruppens ideal eller försöker komma med en väldigt dålig strategi för att uppnå mål. En ledare för en grupp skall då helst ha en tydlig och fungerande strategi för att uppnå deras verkliga mål.

Detta skulle kunna vara en förklaring till varför folk inte ville argumentera för att John Kerry bytte politisk ståndpunkt. För, det skulle implicera att han antingen inte var förutseende nog att ha insett att Irak-kriget var dåligt eller så var han det, men gick medvetet för att få USA att sträva efter ett dåligt mål. Lägg därtill att många nog är vana vid att låta andra ta beslut och att det är lättare att tro på folk som låter säkra än de som är tveksamma, så verkar Bush vara det givna valet (om man bortser från att frågan handlade om krig, åtminstone). Problemet med en sådan situation är att politik blir svårare att ändra; att misstag tenderar att finnas kvar längre än tills de upptäcks som misstag.

En till förklaring skulle nog vara att varje politisk förändring, oavsett vad den är, skapar relativa vinnare och förlorare. Ibland även absoluta förlorare. Och en ledare som säger A och sedan byter till B måste ju då, om det inte fanns uppenbara skäl för dig också att ändra position, förespråka att du skall få det (relativt) sämre. Och det tolkar en del av din hjärna som att det finns risk att du kanske blir utesluten ur stammen, att du kanske dör; den har en alldeles för pessimistisk syn på vad en politisk förlust kommer att innebära för en.

Roberts bedömning om hur allvarligt det här problemet är, var nog sagt med lite överdrift. Men, från vad jag själv märkt av så är det jäkligt svårt att erkänna att man har haft fel i en politisk fråga, och det i vanliga debatter. Det verkar vara allmänt accepterat att kostnaden för att erkänna att man har fel är ganska hög i dagens värld. Bland engelskaspråkarna, exempelvis, ses erkännandet av misstag som att förlora sin stolthet.

Och det här är helt sinneslöst! Det borde snarare vara tvärtom, att den som erkänner att denne har fel blir belönad för att ha vågat göra det. Det bör så klart fortfarande finnas en kostnad för att ha gjort fel, men inte för att man senare erkänt det. En person som flera gånger gör fel är inte pålitlig, definitivt, men vid varje tillfälle man gör fel är det bättre att erkänna det än att gå runt i fortsatt okunskap.

Vi behöver vända på detta, så att vi, istället för att inte våga erkänna fel, är stolta för att vi kan erkänna misstag. Att man kan ta till sig andras resonemang, jämföra de med sitt eget och, ifall ens egen världsbild inte stämmer med likvärdig info som andra har, lätt kunna ändra på sig. Samt att man därmed inte hindrar att detta sprids som en norm, som när amerikanarna klandrade John Kerry för att ha ändrat åsikt när det kom upp en hel del ny information.

Hur sprider vi detta som en norm då? Jag tror inte att det är bäst att alltid försöka ge någon positivt besked ifall denne ändrat sig från en felaktig inställning. Det är ju, än så länge, pinsamt för många att öppet säga att man har ändrat åsikt, så att bara påminna andra om det i en debatt kan vara negativt. Det gäller även om det ser ut att vara positivt formulerat ("Vad bra att du ändrar dig!") - istället borde det nog vara ("Fan vad lång tid det tog för dig att ändra dig!") för vissa. Det beror väldigt mycket på situationen.

När jag själv började lära mig att kunna erkänna mina misstag för andra så var det på ett forum, Liberal debatt, när jag kom med något felaktigt resonemang och visste om att det inte kunde hålla i längden. Och det var bara bättre att erkänna det snabbare tidigare än senare. Där fick jag dock höra från min motdebattör att det var stort gjort, vilket gjorde mig glad. Jag tror att det var passande då för att vi varit i en rätt hård diskussion om diskussionen vi haft, och jag var kanske den som först viftade vit flagg för att få den helt ärlig. I andra situationer skulle ena sidan dock kunna misstänka att den andre bara vill spela mäktig, som en som verkligen visste att den andre hade fel (istället för att bara ha en liten starkare magkänsla för att det var så). Kanske den här normen kan spridas lite enklare genom att vi också erkänner hur mycket osäkerhet vi verkligen har i våra politiska idéer?

I vilket fall, om du återkommande kan backa ut ifrån en debatt, ta en paus, undersöka ifall argumenten talar emot dig, och sedan välja att erkänna öppet att ditt tidigare resonemang inte stämde, då kan du vara rätt stolt.

Lite extra filosoferande i frågan
Det här principen kan uttryckas som en moralisk princip i enligt med den fundamentala idén att moral är de regler som vi anser att alla borde följa, men också med den lika fundamentala idén att moral har att göra med att uppnå sin egna värden på ett rationellt sätt. Låt mig ge lite mer filosofiska argument för det här, utifrån det andra perspektivet, om du tycker att det är intressant.

Ur ens eget intresse borde det, som regel, vara vettigt att känna till sanningen. Men det är nog ännu viktigare att inte gå runt med en falsk världsbild, för då riskerar man att lägga ned en massa tid på att lösa ett problem på ett sätt som inte fungerar. Det kan säkert finnas undantag, men detta stämmer definitivt som regel. (Om någon argumenterar emot det borde det gå att svara, helt konsistent med argumentets filosofi, att det vore bättre att inte veta om det stämmer. Vilket givetvis inte är ett argument mot motargumentet, men det kräver att den som säger det har en fullständig filosofi som rättfärdigar varför just hen vill veta sanningen, men inte andra.)

Men, om man en gång påstått att, säg, centralplanerade ekonomier är jättebra, varför säga annorlunda till folk? Det finns två skäl. Det ena är att det inte är i ens intresse att det systemet faktiskt sprids, om man inte råkar vara ledaren för gruppen (att vara bland det ledande skiket hjälper inte, se Trotsky) och även då är det inte så trevligt liv för icke-psykopater. Det andra är att man blir tvungen att slösa ned extra mycket energi på att komma ihåg att det här påståendet man säger, är en lögn, och sedan, om man säger det till någon, måste man komma ihåg att skilja på vilka som vet det och vilka som inte vet det.

Men, tänk om sannolikheten för att det sprids är riktigt låg? Kommunism kommer inte att uppstå i något land i väst, bortsett från de fall där det finns på en lokal, frivillig skala - är det då irrationellt att stå för det? Tänk dig att du är ledare för Kommunistiska partiet, du har en massa goda vänner som är med dig i kampen mot förtryck och ni kommer inte att svika varandra i kampen mot fienden, makten och finanseliten. En dag tänker du dock att drömmen som ni alla har i hjärtat - att samhället kan planeras så att alla får vara fria och att pengarna läggs på de viktigaste sakerna - kanske inte kan fungera väl för människor (och skulle inte heller vara bäst för superintelligenta varelser heller).

Alltså, säg att det dyker upp bara en sådan tanke, att du inte har skäl att tro på det du predikar. Tanken kommer att finnas kvar resten av livet. Varför då inte bara ignorera den? Tja, i många fall är det ju rätt lätt att ignorera något, men när det gäller något som ligger en väldigt nära om hjärtat borde det ju stanna kvar, även om det bara är undermedvetet. Det skulle göra att ens bild av andra förändras, att man slutar se dem som medkämpar utan kanske bara som dumma människor som försöker hålla fast vid något beständigt, en grupp som bara signalerar att de står för allmänt goda saker, men som faktiskt inte gör det. Synen på en själv lär då också förändras, och man kan inte längre vara hjälten i sin story.

Det är i alla fall vad jag skulle gissa mig till med min ofullständiga och halvtaskiga förståelse av mänsklig psykologi. Finns det något annat argument för att rationella egoister bör erkänna sina misstag idag?

Tja, man missar ju att vara en positiv del av den rörelse av individer som - även om de också är drivna av primitiva instinkter, som en vilja att gå ihop med andra, bevisa sig ha rätt eller en djup känsla av avsky inför tanken att behöva lyda under folk som varken har rätten, visheten eller kunskapen att styra andra - faktiskt har kommit närmast svaret hur vi bör förhålla oss till varandra, rent politiskt. Alltså hur vi bäst uppnår våra egna mål på bästa möjliga sätt, samtidigt som man koordinerar sig med andra på det sätt som orsakar mest vinst för en själv. Alternativt, hur man gör det samtidigt som man erkänner att de allra flesta i samhället har samma moraliska status som moraliska individer.

(Ja, jag tror definitivt att jag är med i den rörelsen, och jag tror att mer än 50% av befolkningen skulle hålla med om den, om de bara läste på om den.)

Sedan finns det ju alltid scenarion av låg sannolikhet, med extremt hög belöning av att göra det rätta. Som att vi lever i en datorsimulering skapad för att försöka skapa moraliska agenter som inte kommer att ta över världen och förstöra sina skapare. Eller något sådant.

Slutligen, i ett öppet samhälle kommer sanningen att komma fram i slutändan. Så de som inte erkänner sina misstag direkt kommer att få äta upp dem senare.

Vad borde ingå i en kurs i kritiskt tänkande?

Förra veckan postade Jessica Schedvin -  förbundsstyrelseledamot för Ung Liberal, tidigare ordförande för Unga Humanister och lärarstudent - ett inlägg om hur man skulle kunna lära ut kritiskt tänkande i skolan. Tanken hon för fram är att detta borde kunna läras ut väldigt tidigt i skolan, möjligtvis redan på lågstadiet (om jag läser henne rätt). Sedan lägger hon upp ett förslag på hur en sådan kurs skulle kunna se ut i grova drag.

Jag tycker att det är ett vettigt förslag - det är en skam för alla rationella individer som levde under 1900-talet att de inte lyckades skapa ett skolsystem där elever får lära sig grunderna i vetenskapligt, logiskt och rationellt tänkande. Det tänkande, det vill säga, som ligger till grund för att man skall kunna förstå världen så bra som möjligt och därmed kunna ta så bra beslut som möjligt. Vilket då inkluderar att märka när andra tänker fel och fattar dåliga beslut, som påverkar andra negativt, som man då kan försöka lösa på bästa möjliga sätt.

I det här inlägget tänkte jag föreslå några idéer som borde vara med i en sådan här kurs. Medan jag skrev det försökte jag också skriva ned idéerna så lätt som möjligt, för att se om idéerna borde kunna kommuniceras till barn i lågstadieåldern. Det verkar möjligt, troligtvis för att idéerna ändå är intuitiva för oss som människor som måste överleva genom att ha en massa kunskap om omvärlden.

Upplevelser och logik är grunden för all kunskap

Om jag har en låda, som är stängd, hur kan jag veta om den innehåller godis eller inte? Ett enkelt svar är att jag öppnar lådan och undersöker vad som finns i den. Man får kunskap genom att undersöka världen med ens sinnen.

Om jag lägger något i lådan, stänger den och sedan låter den vara ett tag, kan jag då veta om den fortfarande innehåller något? Utan att öppna lådan kan jag svara ja, givet att jag kan svara ja på att inget tagits ut ur lådan. Logiska slutsatser gör det möjligt att hitta ny kunskap som följer av tidigare kunskap.

Sedan gäller det att fortsätta ge fler exempel, för att befästa principerna och för att visa att de kan appliceras på allting. Hur vet du att jorden är (ungefärligt) rund? Bl.a. för att andra former inte kan förklara varför skepp, överallt på jorden, sakta "sjunker" bakom horisonten och för att det finns fotografier på jorden som visar det.

Allt annat lika är nödvändigt för test

Om jag klipper sönder rötterna på en växt, river av dess blad, injicerar bly in i den samt låter den stå i totalt mörker, och den sedan dör, har jag då bevisat att växten behöver solljus för att överleva? Nej, för det finns ju en möjlighet att en växt skulle dö av att inte få vatten, att få massa bly i sig eller inte ha några blad. Hur utformar man då ett test för att se om växten klarar sig utan solljus? Jo, man testar det och bara det.

All kunskap måste kunna visas vara falsk - ifall situationen vore annorlunda

Om du ser något som ser ut som en häst på en äng och är fullständigt övertygad om att det verkligen står en häst där - skulle du kunna ha fel om det? Javisst, du kanske såg en åsna. Det är alltid möjligt att ha fel, och det gäller även för all kunskap.*

Faktum är att om du har ett mätinstrument som aldrig ändrar sig, oavsett vilken data som stoppas in i den, då är det mätinstrumentet opålitligt. Om världen förändrar sig då borde ens bild av den också göra det. Om man ser en häst på en äng, även när hästen har flyttat på sig, då är det något fel på ens ögon.

Av dessa skäl blir det därför viktigt att varje vetenskaplig teori kan beskriva hur den skulle kunna ha fel, likt man måste kunna beskriva hur ens syn skulle kunna vara fel (eller hur ens politiska perspektiv skulle kunna vara fel).

Allt som är sant måste kunna förklaras

Om en blixt slår ned och jag säger att det berodde på elektriska urladdningar i jordens atmosfär, har jag då förklarat hur blixten uppstod? Om "elektrisk", "urladdning" och "atmosfär" är främmande begrepp för den jag försöker förklara saken för, då har jag inte sagt något vettigt. Jag hade då lika gärna kunnat sagt att det berodde på "magi", vilket inte heller säger något.

Att ge en beskrivning av verkligheten kräver att man ger en beskrivning på rätt nivå av olika företeelser. I en mening innebär den här principen att inget är förståeligt eftersom det än så länge inte finns en total förståelse av hur alltet har skapats och hur alla av existensens krafter och materia hänger samman med varandra. Någonstans måste man i slutändan säga "Jag kan bara förklara så långt".

Men, givet de saker man kan ta för givet som att "de bara är sanna" då måste allting kunna förklaras. Så, om jag förklarar att blixten beror på att väldigt många små partiklar flyttar sig som en ström åt ett håll väldigt snabbt, då har jag förklarat det hela lite bättre.

Allt som är sant måste inte vara lätt att förstå

Detta borde nog vara uppenbart för de flesta.

Det som kan förklaras med minst antaganden är den mest rimliga förklaringen

Om jag går in i en matbutik och köper konserver, torkad pasta, några påsar mjöl, jäst, nötter och frön för tvåhundra kronor - varför gjorde jag det här inköpet? Var det för att:

1) Jag förväntar mig att ekonomin skall kollapsa inom kort och därför köper jag upp massa varor så att jag skall ha mat för en månad framöver.

2) Jag vill bara ha mat så jag klarar mig en månad framöver.

Utan att veta något mer om mig så är 2 det mest sannolika svaret. Detta för att 1 kräver att fler saker är sanna än 2; det är mer sannolikt att något som bara säger A är sant än något som säger A och B.

Träna att tänka i flera led
Om jag har ett äpple i min ena hand och endast det - hur många bananer har jag i den handen? Noll, uppenbarligen. Om jag antingen håller i ett äpple eller ett päron, och jag håller i ett päron ifall jag var och handlade tidigare idag, och ifall du vill ha ett päron, men inte ett äpple, medan jag, om jag har ett päron vill byta det med ett äpple, och jag faktiskt var och handlade...skulle vi då kunna utbyta någon handel med varandra, om vi möts just nu? Inte riktigt lika uppenbart, men svaret är ja.

Det var gissningsvis inte enbart för att jag skrev det så luddigt som den andra frågan inte var lika uppenbar som den första, utan också för att den berodde på fler faktorer, eller behövde tänkas ut i flera steg. Att kunna gå igenom och lösa någorlunda komplicerade problem i huvudet kräver att man tränar på att lösa liknande problem.

Tendera att vara misstänksam, även mot dem som säger sig följa den vetenskapliga metoden

Det här är kanske något man borde lära sig lite senare, som vid tio-års åldern. Jag ser två klara skäl för detta: det ena för att även beprövade vetenskapsmän kan komma med de mest galna förslagen - Albert Einstein förespråkade exempelvis en centralplanerad ekonomi. Det andra för att jag gissar att man satsar hårdare på att lära sig skepticism om man tror att det alltid behövs de som kämpar emot irrationalitet i världen.

Det får nog räcka med idéer nu. Nu när jag tänkt igenom mer på ämnet verkar det inte alls orimligt att detta borde gå att lära ut i lågstadiet, om inte tidigare.

* Det finns logiskt nödvändiga undantag. Det gäller alla påståenden som, för att de skall kunna motbevisas, kräver att motbevisningen är omöjlig. Som ett exempel ta påståendet "något existerar". Det verkar som om det är fullt möjligt att det aldrig skulle finnas något rum, materia eller någon sorts energi - att ingenting existerar. Men, bevis förutsätter existens, så varje bevis för detta skulle samtidigt vara ett motbevis. Eller, i andra ord, det skulle inte vara möjligt att genomföra en sådan motbevisning.

Workshop om superrationalitet med Ung filosof

Säg att du sitter i ett rum och får ett erbjudande om att vara med i en variant av ett luringlotteri. Så här ser reglerna ut:

• Summan som lottas ut är i utgångsläget $100, men det kan förändras senare.
• För att vara med i lotteriet måste du skriva ned ett heltal på en bit papper. Det måste minst vara en etta, men kan vara så högt som möjligt så länge det är ett förståeligt, naturligt tal. (Man får inte fuska och skriva oändlighet.)
• Det går bra att neka att vara med i lotteriet, eller skriva 0 på lappen. Även om man inte är med i lotteriet, kan det vara en del av ens strategi att skriva en nolla på lappen.
• Lotteriet tar alla tal som deltagarna skrivit ned och plussar samman dem. En deltagares chans att vinna är lika stor som [siffran denne skrev] / [den totala summan av alla siffror]. Så om det var fyra deltagare och deltagarna skrev följande tal:
  

  A: 50
  B: 10
  C: 0
  D: 10

  Då finns det 70 lotter i lotteriet. Deltagarnas chans att vinna i lotteriet är (ungefär):
  

  A: 71,4%
  B: 14,3%
  C: 0%
  D: 14,3%

• Vinstsumman kommer att delas med den totala summan av de siffror som folk skrev in. I fallet ovan kommer vinstsumman att vara $100 / 70 = $1,43.
• Deltagarna får inte kommunicera med varandra på något sätt för att koordinera vad de skriver ned eller skapa några uttalade allianser för att dela på pengarna.

Du vet en bit information innan du skall spela: alla andra deltagare är väldigt rationella individer och är ute efter att tjäna så mycket pengar som möjligt. Givet att du själv också vill tjäna så mycket pengar som möjligt, vad är det mest rationella du kan göra?

Igår så hade Ung filosof en workshop där vi spelade det här spelet: jag stod för lotteriet och fyra var med och spelade. Temat för kvällen var superrationalitet och vad som är det rationella att göra i situationer som fångarnas dilemma, återkommande fångarnas dilemma, Newcombs problem och lotteriet ovan. (Jag kommer att diskutera fångarnas dilemma nedan så kolla in länken eller den här videon för att se hur folk resonerar om det här fallet.)

Problemet med alla dessa spel är att om man följer vad spelteoretikernas idé av vad rationalitet innebär så kommer man att förlora. I alla varianter av fångarnas dilemma där man vet om när sista spelet skall spelas kommer man att försöka lura den andra, i Newcombs problem kommer man att ta två lådor och i ett platonia-dilemma kommer man att skicka iväg ett telegram utan att ha gjort någon kalkylering innan dess.

Platonia-dilemmat fungerar såhär: en rik triljardär bjuder in tjugo personer till ett lotteri. För att vara med och tävla skickar man in ett telegram (som han betalar) med ens namn på till honom. Men triljardären betalar endast ut summan ifall bara en person har skickat in ett telegram till honom; om två eller fler skickar in ett telegram ger han inte ut några pengar alls.

Det här dilemmat illustrerar väl vad som är fel med spelteoretikernas logik. Enligt den spelteoretiska bilden av rationalitet så undersöker man vad man skulle gjort beroende på vad andra gör. Om man tror att alla andra låter bli att skicka ett telegram skall man skicka ett själv för då lär man vinna pengarna. Och om man tror att de andra skickar ett telegram kan man lika gärna göra det själv, det kostar inget och man kan ju ha fel. Oavsett vad de andra gör, skicka telegrammet. Den här modellen av rationalitet kallas för den dominanta strategin.

Om man resonerar likadant i de andra problemen kommer man alltså att förlora. Och hur är det rationellt för fem öre? Det verkar det inte vara, och Douglas Hofstadter kom på begreppet superrationalitet för att beskriva vad som är det verkligt rationella att göra i situationen. Vad innebär då superrationalitet? Det går att sammanfatta i tre tankesteg:

1. Först måste man se att i alla spel där man har samma intresse, man får samma belöningar och alla deltagare gör ett rationellt val, så kommer alla att göra samma val, även om de inte kommunicerar med varandra om detta. En person kan inte resonera sig fram till att göra något annorlunda än alla andra, för vad som är rationellt är något som är givet av logikens regler.

Detta innebär att i varianten av luring-lotteriet ovan, i fångarnas dilemma och i platonia-dilemmat kommer alla rationella individer att göra samma sak. Om det är fångarnas dilemma (där man kan tjalla eller vara tyst) så kommer alla rationella individer antingen att tjalla eller så kommer de att vara tysta.

2. Eftersom alla kommer att göra samma val borde varje deltagare göra det val som, när alla andra också gör det valet, leder till att denne får det bättre. I fångarnas dilemma innebär det att en värld där båda samarbetar är bättre än en värld där båda tjallar på varandra, så är det mest rationella att samarbeta.

Steg två kan se lite konstigt ut, för det verkar bygga på att ens eget val kommer att direkt påverka vad de(n) andra i spelet gör. Men så är inte fallet, utan det säger istället att alla andra kommer att komma fram till samma slutsats som du gör, för att de följer samma logik. Som Hofstadter uttryckte det:

[T]he argument Whatever I do, so will everyone else do is simply a statement of faith that reasoning is universal, at least among rational thinkers, not an endorsement of any mystical kind of causality.

Ungefär det här gick vi alltså igenom igår, fast det var större fokus på att kolla på varför den spelteoretiska strategin suger. Hur gick det då med lotteriet?

Jo! Deltagarna - Arngrim, Carl-Johan, Christoffer och Fredrik - skrev dessa siffror:

Arngrim: 0
Carl-Johan: 11
Christoffer: 1
Fredrik: 1

Vilket alltså gav en vinst på $8. Carl-Johan, Christoffer och Fredrik drog sedan lott om vem som vann pengarna, och Carl-Johan vann pengarna genom lottning.

Men, vad är då den superrationella lösningen på det här problemet? Det går ju inte att bara antingen samarbeta eller inte, som i fångarnas dilemma. Och det går inte att bara antingen skriva "1" eller inte. Det gäller att följa en viss strategi. Vilken är den?

Börja med att identifiera det allra bästa målet för dig i lotteriet. Det är att vinna $100. Hur skall du gå tillväga för att vinna de pengarna? Skriv 1.

Men, om du skriver 1 då kommer ju alla andra också ha gjort detta och det är ju inget bra, för då kan du maximalt vinna $25. Ta det här som en grund, dock, att alla lägger in varsin etta. Ens förväntade belöning ser då ut såhär: 25% * $25.

Vad finns det för alternativ som är bättre? Jo, det är att alla på förhand kastar en fyrsidig tärning där det bara på en sida står att man skall skriva in en siffra. Detta ger en förväntad belöning på ungefär [10,5% * $100 + 7,25% * $50]*** vilket är helt klart bättre än strategin ovan.

I valet mellan dessa två strategier är det ju helt klart bättre för en själv om alla väljer det senare. Eftersom alla kommer att välja samma sak väljer du då att göra det senare. Du kastar en tärning och kommer då antingen att skriva in en siffra eller inte. 

Det finns också en möjlighet att ingå en superrationell allians, vilket är otroligt häftigt och coolt, för det är en allians man kan ingå med andra utan att ingå någon kommunikation. Alliansen är att man gör strategin ovan med baktanke om att dela på bytet i efterhand. (Det finns dock problem med att veta om någon gillar att ta risker och därmed vill ingå i en sådan förening eller inte, men det går nog att lösa.)

Så, vad kan man säga i slutändan om det här med superrationalitet? Det ser ut att vara en otroligt elegant lösning på dessa dilemman som även fungerar när man inte vet något om de andra personerna, annat än att de är rationella och ställs inför liknande förutsättningar som en själv. Detta gäller inte bara i hypotetiska exempel som filosofer skapat, utan det gäller även för verkligheten. Vi är alla rationella varelser som har ungefär likadana mål och behöver varandras hjälp för att nå de allra högsta målen möjliga. Det borde då finnas en superrationell strategi, som man i stora drag kan arbeta fram på egen hand, för att både minska sannolikheten att man hamnar i konflikt med andra samt maximera möjligheterna till gynnsamt utbyte med andra.

Slutligen får jag säga att det känns något besviket att den här otroligt vackra teoretiska förklaringen av varför det är bra med samarbete redan är välkänd och praktiserad av väldigt många i samhället i de flesta fall (förutom när det gäller politik). De allra flesta säger nämligen något i stil med "Tänk om alla tänkte så!" när de får höra argumentet för att inte samarbeta i FD och liknande. Som i många andra fall visar det sig att kulturen även här har en hel del vishet i sig som inte nödvändigtvis går att artikulera.

*** Den här siffran är inte helt rätt, men den är rätt nära. Jag hade tidigare skrivit att man hade 25% sannolikhet att vinna $100 men det stämmer inte, då jag bara antog att ingen annan skulle slå en etta. Men om man antar att fyra personer kastar en fyrasidig tärning (som är pyramidformad) så är det ca 58% sannolikhet att minst en till får en etta och 42% sannolikhet att ingen annan får det. Det innebär att:

* i 75% av fallen får man ingenting.
* i 25% av fallen kan man vara med och tävla.
* i 42% av de senare så får man hela vinsten. (Samma som sannolikheten att de tre andra inte får något när de kastar tärningen, d.v.s. 75%^3.)
* i 58% av de senare så lottas vinsten ut mellan en själv och minst en person till. (1 - 75*^3.)

I det sista fallet skulle det kunna vara så att fler än en får en etta och kan vara med och tävla. Så egentligen är vinsten något mindre. Det spelar nog ingen större roll för vadet som sådant, då det förväntade värdet är störst med den superrationella lösningen.

Andreas Anundi om skepticism

Jag intervjuade Andreas Anundi förra helgen om hans perspektiv på skepticism. Kvaliteten på ljudet är ungefär lika bra som det brukar vara, det vill säga det är rätt dåligt. Intervjun är ämnad att ge en översikt av vad det skeptiska perspektivet innebär, och enligt Andreas så kan man sammanfatta det som kritiskt tänkande samt att man aktivt verkar för att sprida det synsättet.

Jag får passa på att säga att jag kommer bli lite mer upptagen framöver - jag har börjat studera Java-programmering - så det kommer nog bli färre uppdateringar av bloggen än vad det varit hittills i år.

Epistemologi och ekonomi

Det här inlägget för fram en väldigt enkel poäng. Nämligen att det, i ekonomiska termer, finns en alternativkostnad till att ha en så bra världsbild som möjligt. Jag tänker mig att den här principen, eller någon väldigt snarlik, kan användas i politiska och moraliska frågor.

Kunskapsfilosofi verkar vara ett ämne som, i stort, är klarlagt. För att verkligen kunna sägas vara kunskap måste en teori, som beskriver (och då förklarar) verkligheten (samt ger en beskrivning av hur den fungerar i framtiden), vara internt konsistent, vara byggd på vad man kan erfara och inte gå emot något man kan erfara. Det finns vissa ytterligare krav man kan ställa, men det är nog grunden.

Men, även om man besitter en fulländad teori om hur man skall ta reda på om saker stämmer eller inte, kommer man att använda den teorin?

Självklart kommer man att använda den när det är lämpligt att göra så; om man bygger en bro kommer man inte förlita sig på alkemi eller astronomi för att ta reda på om den håller eller inte. Här är det, för de flesta, självklart att arbetet är av så stor vikt att man inte kan lurar sig själv om att man tror att bron kommer hålla, när vetenskapen säger att den inte gör det.

Men, säg att det handlar om något av mindre vikt. Säg att det handlar om man försöker dra sig till minnes vilka det var som vann VM-guldet i fotboll 1994 (på ett ställe där man inte har tillgång till internet). Säg att man ärligt tror att Brasilien vann, men man är inte helt säker; det kanske var Frankrike. Skall man lägga ned speciellt mycket tid på att försöka komma ihåg fler detaljer, diskutera frågan djupare med andra, försök komma på andra fakta som kanske kan göra det mer eller mindre troligt att det brasilianska laget vann eller inte? Säg att det skulle ta en timme att, tillsammans med andra (återigen, utan tillgång till internet, vars hjälp bara är fusk i den här frågan) ta reda på svaret. Borde man ta den tiden för att ta reda på svaret? För, inte kan man tillåta sig själva att gå runt och tro på något som inte stämmer?

Nej, man borde inte ta den tiden. Och, jo, man kan visst tro på något som är falskt. Alltså, även med tillgång till den rätta tekniken för att ta reda på sanningen, behöver man inte faktiskt använda den tekniken för att ta reda på om en viss fakta stämmer eller inte. Om man inte bygger en bro behöver man inte heller lägga ned så mycket tid för att undersöka om den är hållbar eller inte. Vi människor lever i en värld med begränsade resurser, och därför är det nog inte önskvärt för en själv att sätta ett absolut värde på sanning.

Sight - När når vi equilibrium?

Filmen ovan kom ut för tre veckor sedan och tar upp hur framtiden skulle kunna vara ifall teknologin hade kommit så långt att man hade kunnat visa datorbilder på näthinnan. Som i Diamond Age och något mer sofistikerat än googles Project Glass. Inte speciellt realistiskt, tyvärr. Speciellt en sak störde mig när jag såg den först, vilket jag dock ändrat mig lite om, eftersom det nog kan ha varit realistiskt. Jag tar upp vad det är nedan, så läs inte vidare om du vill se filmen ostörd.

Poängen som jag tycker att filmen missar finns dock med i ett gammalt avsnitt av Luftens hjältar. Det var #45 där Baloo tävlar med sin gamle rival Flyg-Jane om att hitta en juvel, eller något sådant (det var ett tag sedan jag såg den). Det intressanta och roliga i avsnittet är när Baloo och Jane går i en grotta som leder till juvelen. Till slut når de två dörrar varpå följande scen utspelas:

Baloo: Två dörrar! En av de måste vara en fälla. Det är du som har kartan, vilken är det som går till skatten?

Jane: Den där.

Baloo går mot dörren, är på väg att öppna den, men vänder sig istället om.

Baloo: Vänta lite! Du skulle inte visa mig rätt dörr. [Jane ser något ställd ut.] Men du vet att jag vet att du inte skulle visa mig rätt dörr så det här är rätt dörr.

Baloo öppnar dörren och en stor rullande sten kommer ute genom den.

Jane: Hur dum kan man bli egentligen?

Vad det här visar är ett problem som uppstår när man börjar tänka på att "Jag vet att du vet, att jag vet att du vet....att jag vet att du tror att du kan lura mig; men vi vet också att du vet att jag vet...att jag inte litar på dig", och liknande saker. Oscar Morgenstern tog upp ett liknande dilemma (Holmes-Moriarty dilemmat) 1935:

Sherlock Holmes, pursued by his opponent, Moriarty, leaves for Dover.

The train stops at a station on the way, and he alights there rather than travelling on to Dover. He has seen Moriarty at the railway station, recognizing that he is very clever, and expects that Moriarty will take a special faster train in order to catch him at Dover. Holmes' anticipation turns out to be correct. But what if Moriarty had been still more clever, had estimated Holmes' mental abilities better and had foreseen his actions accordingly? Then obviously he would have travelled to the intermediate station. Holmes, again, would have had to calculate that, and he himself would have decided to go on to Dover. Whereupon Moriarty would have "reacted" differently. Because of so much thinking they might not have been able to act at all or the intellectually weaker of the two would have surrendered to the other in the Victoria Station, since the whole fight would have become unnecessary. Examples of this kind can be drawn from everywhere. However, chess, strategy, etc. presuppose expert knowledge, which encumbers the example unnecessarily (Morgenstern, "Perfect Foresight and Economic Equilibrium," 1935).

Komikerna på How It Should Have Ended spinner lite på samma tema om den senaste Sherlock Holmes-filmen:

Vad är det då Sight missar? Jo, de missar den troliga effekten av vad som skulle ske ifall en sådan där Wingman-app blev populär; folk skulle veta om att andra visste (osv) att någon skulle kunna använda den i ett dating-scenario. Dating-världen skulle blivit helt annorlunda, där alla får, mer eller mindre, förvänta sig att alla beter sig top-notch. Att då blir upprörd över att någon har en wingman är inte så troligt. Men, visst, filmen skulle kunnat utspela sig under den korta tiden då den blivit introducerad och till dess att alla börjat använda den. I Sight tjänade det mest som en plot-device för att filmarna hur hemskt det skulle kunna vara med sådan här teknologi. Och när det gäller det så kom Diamond Age med ett något mer realistiskt scenario:

You could get a phantascopic system planted directly on your retinas, just as Bud’s sound system lived on his eardrums. You could even get telaestetics patched into your spinal column at various key vertebrae. But this was said to have its drawbacks: some concerns about long-term nerve damage, plus it was rumored that hackers for big media companies had figured out a way to get through the defenses that were built into such systems, and run junk advertisements in your peripheral vision (or even spang in the f….... middle) all the time—even when your eyes were closed. Bud knew a guy like that who’d somehow gotten infected with a meme that ran advertisements for roach motels, in Hindi, superimposed on the bottom right-hand corner of his visual field, twenty-four hours a day, until the guy whacked himself.

Inte för att den boken var så realistisk heller.

Alltså, problemet med "perfekt framsikt" är snart känt och förhoppningsvis kommer de då att göra fler filmer där karaktärerna är medvetna om detta också. Troligtvis kommer de dock ha väldigt få konflikter i sig, förutom om någon får tag på privat information (som att bygga en armé i hemlighet, á la värsta bondskurken), vilket dock borde bli allt mindre vanligt i vårt samhälle.

Hur pålitlig är din verklighetstunnel?

But back to the main question, then, and the issue of who chooses your perceptions. Of course, the Large Answer is, “your entire life up to this point,”the patchwork quilt referred to above, stitched panels of the things you have learned, whether they were imprinted, conditioned, or learned, either consciously or subconsciously. But that’s a bit too large. What it comes down to, is that you are the one in charge of your Prison. It’s you that has shaped the Black Iron bars that let you see the small parts of the Universe that you base your decisions upon. Sure, you can say that it’s not your fault that your parents raised you as a racist redneck (for example). But it is your fault if you take that as a given, as if that bar in your cell is a permanent thing, something that’s been there since before you were born.

- Black Iron Prison

Verklighetstunnel, världsbild, paradigm, sanningsregim eller tunnelseende är alla beskrivningar för att se på saker och ting ifrån ett visst perspektiv. Att se verkligheten ifrån ett perspektiv innebär inte att det synsättet måste vara inskränkt, eller att man inte kan se det utifrån något annat håll. Men, man tenderar till att se på världen (och, mer specifikt, samhället, relationer, pengar) utifrån ett eller några få perspektiv. Som gärna vill övertyga en om att det inte finns några andra perspektiv; att det sätt man ser på världen just nu är det mest optimala sättet att se det på.

-->

Då blir det av allra största vikt att se till så att ens verklighetstunnel är ett gynnsamt och funktionsdugligt sätt att se på världen, så att den inte vilseleder en till att göra något man (vid reflektion) helst av allt inte vill göra.

Men, hur kan man då försäkra sig om att ens världsbild är tillförlitlig? Hur kan man försäkra sig om att den modell man har av verkligheten (eller någon särskild aspekt av den) verkligen stämmer – att den är epistemiskt rationell? Eller, hur kan man skärskåda sin världsbild för att hitta brister i den, som behöver fixas till?

För det första måste den vara konsistent, den måste vara logisk.

Om ens världsbild säger att [Om man kastar en frisbee rätt löst flyger den bara 10 meter], men också säger samtidigt att [Om man kastar en frisbee rätt löst flyger den bara 1 000 meter], då är ens världsbild inte konsistent. Detta gäller även om resonemangen är något längre, eller om man säger något som inte verkar vara ihopkopplat med det första påståendet, men som visar sig vara det i en logisk utveckling av påståendet. Exempelvis, om ens verklighetstunnel säger att [Om priset på olja sjunker så går BNP upp] och samtidigt säger [Om priset på naturgas sjunker så sjunker den genomsnittliga lönen], så verkar det kanske inte finnas någon konflikt mellan påståendena. Om man betänker att olja och naturgas båda ger energi och att en sänkning av deras pris främst minskar energipriset, och att BNP är definierat som alla löner och andra inkomster i samhället, ser man att det finns en motsägelse här. Förväntningarna av resultaten måste vara detsamma, för samma input.

För det andra måste den vara öppen för förändring, för att man kan ha fel. Det skulle kräva en särskild tur att man, utan reflektion eller systematisk kritik, råkar ha en världsbild som stämmer så väl att den inte behöver ändras.

Att i princip hävda att ens världsbild inte kan förbättras på något sätt är att utge sig för att vara ofelbar eller, med ett annat ord, perfekt – åtminstone på ett område. Är området litet har jag själv inga större problem med att komma med sådana utsagor. (Jag är själv ganska sluten när det gäller påståenden som ”Något existerar”; jag skulle aldrig under reflektion kunna erkänna ett bevis för att det här inte stämmer – beviset måste ju finnas för att jag skall kunna ta hänsyn till det.) Men säger man sig ha fått, eller implicerar att man har, en perfekt förståelse av, säg, hur ekonomin fungerar, vad för konst som ger njutning eller hur fysikens lagar ser ut, och att denna förståelse aldrig kan motbevisas med argument, då har man nog gjort ett misstag.

För det tredje borde man bli mindre säker på sin världsbild av att uppleva saker som inte stämmer överens med den. (Man borde även bli mer säker på den ifall man upplever saker som stämmer överens med den.)

Detta kräver att man har en rätt bra förståelse av vad ens egen världsbild säger, vad den förutsäger om vad man kommer att uppleva av världen i framtiden. En världsbild som inte säger något alls är helt värdelös, då hade man lika gärna kunnat vara utan en. Att tänka sig att ens världsbild skulle kunna säga något om ett visst fenomen, men att inte ta reda på vad det är, är problematiskt. För ifall ens världsbild är felaktig, och man upplever något som borde sagt emot perspektivet, då kan man lätt säga att vad som hände är vad ens världsbild skulle ha förutsagt. Eller, att det är vad den förutsäger. Det finns inga svårigheter med att ha två olika, motsägande, bilder av verkligheten och tro att båda är lika korrekta samt att de är en och samma perspektiv.

Det finns en massa andra saker om hur ens medvetande fungerar som man borde vara medveten om. Den bästa källan som diskuterar detta, som jag läst, är kärnan av introduktionsartiklar på LessWrong.

I början av inlägget skrev jag att man borde vara försiktig med vad man tror på för ens egen skull. I det inkluderar jag även ens moraliska perspektiv, vilket antingen handlar om hur man bör agera med andra moraliska individer, eller hur man skall komma till en position där man kan agera moraliskt eller i sitt fulla egenintresse snabbas. Praktisk moral borde alltså visa vägen till något som är bättre än dagsläget. Vad exakt som menas med bättre är dock något som man får fundera på, och där måste man också ta hänsyn till att moraliska perspektiv kan vara lika besvärliga verklighetstunnlar som de man har om hur människor agerar eller fysiken fungerar - om inte mer så, eftersom "moral" i sig inte är riktigt definierat.

"Society Blinders" - Omöjliga att ta av, det gäller att ha flera.