Urvattnad teknikoptimism

av Alex Berman

Recension av Martin Rees, Om framtiden - Mänsklighetens utmaningar (Fri Tanke förlag, 2019, övers. Linn Åslund)
Publicerad i Tidskriften Respons, nr 3 2019

Mänsklighetens utmaningar kräver en klok tillämpning av teknologi. Det menar astrofysikern Martin Rees i en ny bok om klimatförändringar och artificiell intelligens som är ett välkommet försök att förena politik, vetenskap och filosofi. Men Rees fastnar ofta i intetsägande truismer och bakom entusiasmen för ny teknik lämnas också frågor om demokratins fortlevnad obesvarade.

Vi vet alla vad vi bör göra, vi vet bara inte hur vi ska bli omvalda efter att vi gjort det, har Jean-Claude Juncker konstaterat apropå impopulära ekonomiska reformer. Denna cyniska analys tycks lika aktuell för dagens klimatdebatt. Trots den utbredda vetskapen om att utsläppen av växthusgaser behöver minskas drastiskt för att undvika katastrofscenarier händer påtagligt litet från politiskt håll, en situation som fått filosofen Torbjörn Tännsjö att plädera för en handlingskraftig ”global despoti” (DN 29/11 2018).

Idén att offra demokratin för att fixa klimatet är inte ny. Redan 2014 menade den brittiske astrofysikern Martin Rees att bara ”en upplyst despot” kan genomföra de åtgärder som krävs för att rädda vår planet (Prospect 21/8). Rees är tidigare ordförande för Storbritanniens vetenskapsakademi och en respekterad röst i samhällsdebatter kring bland annat tillämpning av teknologi. Sedan 2005 sitter Rees i det brittiska överhuset som partipolitiskt obunden ”crossbencher”, där han utifrån sin vetenskapliga expertis utgör en sorts länk mellan forskning och politik.

När Martin Rees nu utkommer med boken Om framtiden är anslaget uppfordrande: med sin växande resursanvändning och sina kraftfulla teknologier riskerar mänskligheten att förstöra framtida generationers livsbetingelser. För att ta itu med dessa problem krävs långsiktighet, klokskap och ansvarsfullhet – dygder som dessvärre inte alltid kännetecknar världspolitiken. som en policyrapport eller längre debattinlägg, i vilken forskning och vetenskap utgör underlag för en diskussion om politik och etik. Många områden avhandlas på de drygt tvåhundra sidorna: kärnvapenhotet, klimatförändringarna, bioteknik, internet och sociala medier samt artificiell intelligens – vart och ett med en vetenskaplig lägesbeskrivning, framtidsprognos och rekommendationer.

Som uttalad ateist och Labour-medlem är Rees ofta öppen med sina värderingar. Men den som hoppats på en vidareutveckling av hans tidigare utspel kring upplyst despotism eller ett klarläggande kring hur tankegången går ihop med hans eget politiska uppdrag, lär bli besviken. Trots bokens måhända överraskande hyllning av Vatikanen för dess ”beständighet och långsiktiga visioner”, i motsats till författarens pessimism när det gäller de sekulära institutionernas förmåga att ta ansvarsfulla beslut, sägs nämligen ingenting om despoti eller diktatur som lösning på problemen. Det förekommer inte heller något uttryckligt försvar för demokratin och dess principer. Nej, inte mycket positivt blir sagt om detta styrelseskick, som lider av att beslutsfattares provinsiella och kortsiktiga perspektiv står i vägen för nödvändiga åtgärder, ett problem som Rees på junckerst manér härleder till politikers önskan att vinna nästa val.

Tyvärr stannar resonemanget vid detta uppgivna konstaterande, utan att närmare gå in på hur det junckerska dilemmat kan hanteras. I likhet med den politikerkår som kritiseras för bristande ansvarstagande tycks författaren själv väja för känsliga frågor. Här finns endast en försiktig plädering för att länder ”kanske” behöver lämna över en del av sin självständighet till internationella organisationer, men i vilken omfattning detta bör ske och hur dessa organisationer i sin tur bör styras diskuteras inte. Tolkningen att världen hellre borde styras av påven eller en upplyst despot känns inte långt borta, men i så fall hade det varit bättre att skriva det rent ut. I stället lämnar boken efter sig en känsla av att dess viktigaste fråga inte tagits på allvar.

Den uteblivne demokratidiskussionen är dessvärre kännetecknande för denna bok, vars ofta upprepade budskap är att de hot och utmaningar som mänskligheten står inför kräver långsiktigt agerande samt en klok och ansvarsfull tillämpning av vetenskap och teknologi. Få läsare lär överraskas, provoceras eller bli klokare av dessa allmänt hållna slutsater. Just häri ligger bokens främsta problem: de generella och vaga budskapen framstår närmast som truismer, medan framtidsfrågornas genuina komplexiteter och svåra avvägningar inte ges tillräckligt utrymme eller fördjupning.

Vid sidan av demokratin och klimatet är den artificiella intelligensen ett annat exempel på ett tema vars etiska komplikationer inte ges erforderlig uppmärksamhet. Rees är positivt inställd till visionen om en AI som så småningom överträffar mänsklig förmåga inom inte bara specifika sysslor som bilkörning, utan även rent allmänt. Författaren tänker sig att en framtida oorganisk och superintelligent livsform koloniserar rymden och att denna nya digitala civilisation kommer kunna uppnå stordåd som vi människor inte kan föreställa oss. Samtidigt delar Rees en i sammanhanget vanlig oro, nämligen att den AI vi utvecklar i dag så småningom spårar ur och börjar dominera oss. Författaren anser att AI-utvecklare bör kontrollera teknologin så att den beter sig i enlighet med mänsklig moral. Hur detta hänger ihop med visionen om en posthuman högre civilisation framstår dock som oklart. Om nu den digitala superintelligensen kommer kunna uppnå en mer framstående kultur än vår egen, varför ska då vår egen etik stå i vägen för dess framfart? Denna motsättning lämnas outredd och man kan sakna den typ av utförligare moralfilosofisk diskussion som bland annat Max Tegmark fört i Liv 3.0 (Se Respons 1/2018).

Även det positiva budskapet om teknologi hade förtjänat en mer inträngande behandling. Rees är ”politisk pessimist men teknisk optimist”, tycker att vi ”borde vara de nya teknologiernas evangelister” och återkommer ofta till att teknologin är en positiv kraft som mänskligheten bör bejaka. Samtidigt påminner boken om hur snubblande nära vi var att spränga ihjäl oss med kärnvapen under kalla kriget, lyfter fram hur bioteknik och annan potentiellt farlig utveckling förvärrar hotet från ”tekniskt begåvade ensamvargar” och understryker hur den ökande energianvändningen hotar miljö och klimat. Dessutom förespråkas regelverk för att främja ansvarsfull innovation. I slutändan är teknikentusiasmen så villkorad och urvattnad att själva den positiva attityden framstår som tämligen intetsägande.

I stället för att lägga så stor vikt vid jämförelsen mellan för- och nackdelar, som om inställning till teknologi vore en fråga om ja eller nej, hade författaren gärna fått precisera vad han anser vara det fundamentala värdet av teknologisk utveckling. När det talas om att det är ”svårt att ta kontroll över framstegstakten” och att en globalt centralstyrd forskningsfinansiering med syfte att styra utvecklingens riktning vore ”fullkomligt orealistisk”, framstår hållningen som mer pragmatisk än principiell: eftersom kontroll är lönlös kan vi lika gärna trampa på gasen och hoppas på det bästa, typ. Samtidigt skymtar en idé om teknologisk utveckling som någonting eftersträvansvärt i egen rätt. Så anser exempelvis Rees att de enorma resurser som läggs på partikelacceleratorn Large Hadron Collider i Schweiz är väl använda pengar, inte bara för att experimentet kan öka vår kunskap om hur universum fungerar, utan också för att det ”pressar teknologin till det yttersta”. Här snuddar boken vid en annan viktig aspekt av teknikevangelismen: ambitionen att ständigt flytta fram gränserna för det fysiskt möjliga. Hur Rees värderar denna drivkraft och målsättning i relation till den mer instrumentella strävan att genom innovationer bygga kunskap och skapa samhälleligt värde hade varit intressant att veta.

Sammantaget saknar Rees bok den sorts filosofiska och etiska resonemang som hade kunnat fördjupa de större frågorna kring exempelvis globalt styrelseskick och teknologisk utveckling. Trots denna brist utgör boken ändå ett välkommet försök att förena politik, vetenskap och filosofi i en omfångsrik framtidsdiskussion (som dock hade förtjänat en smidigare och korrektare översättning till svenska). Här finns många konkreta vägledningar och för den makthavare eller samhällsengagerade medborgare som vill veta vad en världsledande astrofysiker tycker i diverse sakfrågor har boken defintivt ett värde.

I specifika frågeställningar hänvisas den intresserade läsaren med fördel till Martin Rees anföranden i brittiska parlamentet, om bland annat klimatet och AI (googla på Hansard). I det kompakta och fokuserade formatet kommer den samhällsengagerade vetenskapsmannens förmåga att kondensera svåröverskådlig forskning till konkreta rekommendationer mer till sin rätt. I likhet med annan debatt i parlamentet är den dessutom fritt tillgänglig på webben. Demokrati i sitt esse!