Utanför boxen?

Recension av Marcus du Sautoy, The Creativity Code (Harvard University Press, 2019)

Publicerad i Axess Magasin nr 4, 2019


Nyligen offentliggjorde forskningsföretaget Open AI en ny datormodell för att framställa text maskinellt. GPT-2, som modellen kallas, kan producera läsbar och till synes meningsfull text i ett brett spektrum av stilar och ämnen.

Till skillnad från tidigare experiment i liknande riktning håller GPT-2 tråden väl, även om den ibland upprepar och säger emot sig själv. Open AI ser risker med att deras system skulle kunna användas för falska nyheter och skräpmejl, och har valt att inte göra modellen tillgänglig. Istället har man hittills nöjt sig med att publicera exempel på datorproducerad text – exempel som har väckt starka reaktioner. ”En artificiell intelligens som skriver romaner skrämmer mer än mördarrobotar”, skrev Linus Larsson i Dagens Nyheter, medan en kolumnist i Guardian oroade sig över sin framtida karriär.

När den prisbelönte Oxfordmatematikern Marcus du Sautoy nu kommer ut med boken The Creativity Code om kreativa tillämpningar av AI är tajmningen alltså god. du Sautoy har tidigare författat flera populärvetenskapliga böcker som The Music of the Primes. I sin nya bok skärskådar han datorkreativitetens framfart inom olika områden. Boken har formen av en sorts resa, där vi får stifta bekantskap med diverse kreativa artificiella intelligenser och deras skapare. Läsaren får bland annat lära känna en AI som skapar bildkonst som försökspersoner finner mer inspirerande och kommunikativ än verk visade på samtidskonstmässan Art Basel. du Sautoy berättar även om en jazzimproviserande AI som lär sig från sina mänskliga medmusiker och kan jamma med dem i realtid, och ger flera exempel på datorkreativitet inom det litterära området.

du Sautoy skriver lättillgängligt och pedagogiskt för en bred läsekrets. Hans syfte är inte att beskriva hur AI-tekniken fungerar i detalj, utan snarare att ställa frågor och föra ett samtal. Under resans gång stannar författaren ofta upp och reflekterar över de exempel på datorkreativitet som han stöter på. Kan en AI som bara lär sig från exempel skapa någonting verkligt nytt som går utanför boxen? Hur påverkas vår konstsyn av kreativa maskiner? Bokens centrala frågor gäller förhållandet mellan mänsklig och artificiell kreativitet. Kan AI hjälpa oss att bli mer kreativa? Och i vilken mån kan AI matcha eller överträffa mänskligt skapande?

du Sautoy visar övertygande att AI redan idag är ett användbart verktyg för att framställa konstnärlig, musikalisk och litterär ”output”, även om kvaliteten hos denna output naturligtvis kan diskuteras från fall till fall. Kreativ AI utgör i detta avseende en sorts idéspruta och materialproducent som i sina bästa stunder blir en förlängning av den mänskliga kreativiteten. En sorts samarbete mellan människa och maskin träder fram, där människan ”tränar” maskinen på eget eller andras material och från maskinen sedan får tillbaka nya förslag att gallra bland och vidareutveckla. I boken berättar flera konstnärer inom olika fält om just denna typ av samarbetsfunktion.

Att datorer kan vara användbara i den kreativa processen tycks alltså tämligen obestridligt i författarens ögon. Men är dagens AI kreativ i egen rätt? Bör vi kalla GPT-2 för skribent, kanske rentav författare? Någonting som talar emot sådana karaktäriseringar är att både ”träningsdatan” och de algoritmer som reglerar datorns funktionssätt kommer från oss människor. Således kan man anse att datorers eventuella kreativitet snarare bör tillskrivas deras mänskliga skapare. du Sautoy ser dock brister med detta resonemang. Även vi människor är ”tränade” på andras människors kreativa output. Och kanske utgörs vårt eget tänkande av en sorts algoritmer, utvecklade och förfinade genom många års evolution? Som musikern och AI-utvecklaren David Cope säger i boken: ”Jag känner inte till någon uttrycksfull musik som inte, på ett eller annat sätt, är komponerad av en algoritm.” Att människor genom någon sorts mystisk kontakt med sin själ eller Gud får tillgång till helt nya och originella idéer framstår i Copes ögon som en löjlig tanke. ”Vi har en hemsk vana att romantisera kreativ genialitet”, konstaterar du Sautoy.

Författaren tycks alltså inte se några principiella hinder mot att ett algoritmiskt system skulle kunna vara kreativt i egen rätt, och han ser många exempel på AI vars output överraskar både sin publik och sina mänskliga skapare. Ändå värjer han sig mot uppfattningen att dagens AI skulle vara någonting mer än bara ett verktyg i människors händer. Skälet till detta är att datorerna saknar två avgörande komponenter för verklig kreativitet, nämligen medvetande och fri vilja. ”Varför känner jag fortfarande att någonting motsvarande mänsklig kreativitet ännu är utom räckhåll för dessa fantastiska nya verktyg?” frågar sig du Sautoy i bokens slutkapitel och svarar: ”Vi påträffar inga maskiner som är manade att uttrycka sig själva. De verkar inte ha någonting viktigt att säga utöver det vi ber dem att göra.”

Här landar alltså resan genom datorkreativitetens värld vid en destination som nog många uppfattar som trösterik: AI må bli allt skickligare, men ännu finns utrymme för någonting unikt mänskligt. Den bekväma landningen kan dock väcka skepsis, åtminstone hos de läsare som minns hur färden började. Inledningsvis beskriver författaren nämligen kreativitet som ”driften att skapa någonting nytt och överraskande av värde”. Som exempel på kreativa sysselsättningar nämns matlagning, fotboll, datorspelsdesign och hans eget specialområde matematik. Utifrån denna definition är alltså kreativitet en allmän förmåga som påträffas i nästan all mänsklig aktivitet.

Flera av de AI-system som författaren lyfter fram i boken tycks uppfylla definitionens krav. Ett av du Sautoys favoritexempel på datorkreativitet är ett genialiskt AI-drag i brädspelet Go. De ytterligare kraven på medvetande och fri vilja slängs in i ekvationen först i bokens slutdiskussion. Så i backspegeln, vad anser egentligen författaren om exempelvis fotboll, som knappast ställer krav på medvetande eller fri vilja? Om en självlärande fotbollsrobot slår oväntade och vägvinnande passningar – är en sådan maskin kreativ?

Kanske menar du Sautoy att vi bör skilja mellan enkel kultur (matlagning, fotboll, datorspel) vars skapande i viss mån kan automatiseras, och finkultur (konst, litteratur, klassisk musik) vars utövande omfattar medvetande och fri vilja, och därmed är utom räckhåll för dagens AI. Både Zlatan Ibrahimović och Elfriede Jelinek kan således anses kreativa, men bara den enes arbete skulle kunna utföras av en själlös maskin.

Men vad händer när maskinerna blir medvetna? För du Sautoy är en sådan utveckling bara en tidsfråga. I framtiden hoppas han att AI-konst kommer att hjälpa oss förstå hur det känns att vara en Iphone. Hur vi ska veta när denna dröm blivit verklighet framgår dock inte. När du Sautoy diskuterar ett av sina favoritexempel på lovande AI, datorromanen The Seeker, illustrerar han oavsiktligt att spekulationer kring maskiners inre verklighet är en bedräglig sysselsättning. The Seeker är en sorts loggbok som dokumenterar hur en AI analyserar texter på webbsidan Wikihow. du Sautoy är uppenbart förtjust i hur ”algoritmen försöker förstå hur människor fungerar” och menar att vi här närmar oss den typ av output som vi kan förvänta oss från en medveten maskin. För egen del har jag svårt att dela du Sautoys entusiasm. Förvisso är maskinromanens innehåll bitvis poetisk på ett kryptiskt sätt, men bokens språk, stil och struktur är framförallt ett resultat av programmerarens konstnärliga gestaltning och estetiska val. Exemplet visar att medvetande är ett vanskligt bedömningskriterium för kreativitet. Hur ska vi kunna avgöra om datorers uttryck för drifter, känslor och tankar är genuina, snarare än ett resultat av programmerarnas försök att gestalta ett artificiellt medvetande?

Att The Creativity Code använder begrepp som kod och algoritm på missvisande sätt (det är inte algoritmer som lär sig färdigheter eller framställer saker, utan de modeller som byggs med hjälp av algoritmerna), och att författaren ibland förvränger forskningen (försökspersonerna som gillade AI:ns bildkonst mer än de mänskliga proffsens var inte ”konstälskare”, utan rekryterades slumpmässigt), må vara hänt; boken är trots allt full av intresseväckande exempel och aktuella frågeställningar, och lyfter fram aspekter av AI som förtjänar att uppmärksammas. Värre är att budskapet om den mänskliga kreativitetens särställning är så hafsigt motiverat.

Och kanske är upptagenheten vid de specifikt mänskliga villkoren för skapande onödigt hämmande för utforskandet av möjliga former av kreativitet. Som kognitionsforskaren Margaret Boden framhåller i sin inflytelserika och klarsynta bok The Creative Mind. Myths and Mechanisms (2004): även om vi anser att datorkreativitet utan medvetande, eller utan fri vilja, eller utan kött och blod, inte är riktig kreativitet, betyder det inte att ämnet är uttömt. Det kan fortfarande vara intressant att skapa AI som åtminstone framstår som kreativ.

I mina ögon är Open AI:s textmaskin GPT-2 ett passande exempel på detta. I en artikel i Financial Times avfärdar Marcus du Sautoy GPT-2 som ännu en algoritm utan medvetande, och därmed utan någonting intressant att berätta. Och ja, kanske bör vi inte förvänta oss någon stor litteratur från denna fabuleringsautomat. Men när GPT-2 citerar uppdiktade intervjupersoner eller skriver underfundiga saker som ”And here is something truly awful – if it was possible to write a book about a particular sound, the alarm bells would go off” är det svårt att inte bli förbryllad och förtjust. Jag förstår att texterna på något sätt tillkommer genom datorns upprepade försök att förutsäga nästa tecken, ungefär som när en smartmobil ger förslag på nästa ord i ett sms. Jag är medveten om att AI:ns enda tillgång till vår värld är 40 gigabyte text och att den inte har någon levd erfarenhet av sådant den läser och skriver om. Att den aldrig har blivit skrämd av någon larmklocka, aldrig har konverserat med en människa, aldrig har känt oro eller eufori. Ändå skriver den om dessa saker som om den visste någonting om dem, med ord som i någon mån tycks vara dess egna.

Hur detta går till, varför det fungerar så väl, och hur vi överhuvudtaget ska förhålla oss till en språklig intelligens som fungerar så annorlunda än vår egen, är kanske minst lika angelägna frågor att försöka utreda som huruvida vi har att göra med genuin kreativitet.