”De politiska, ekonomiska och demokratiska konsekvenserna blir enorma, särskilt om vi tänker på att algoritmerna i dag står i kapitalackumulationens tjänst och fattar beslut som påverkar oss alla men främst gynnar ett litet fåtal. Det finns andra verkligheter att skapa genom klasskamp om de digitala resurserna.” Per-Anders Svärd om AI, den digitala fetischismen och klasskamp.
Artificiell intelligens har på sistone varit termen på allas läppar. Begreppet har figurerat både som ett löfte och som ett hot. Å ena sidan lovar AI-revolutionen stora vetenskapliga, teknologiska och medicinska framsteg. Å andra sidan tycks teknologin hota arbetstillfällen, möjliggöra sofistikerat fusk i utbildningssystemet och öppna för politisk manipulation med hjälp av skräddarsydd propaganda.
Att AI kommer att föra med sig stora förändringar står redan klart. I botten ligger det faktum att dagens superdatorer kan behandla ofantliga mängder information och finna lösningar på komplexa problem i en hastighet som vi människor bara kan drömma om att tävla med. Ännu en gång står vi inför en teknologisk revolution som låter oss göra saker som vi aldrig kunnat göra tidigare.
Ett metafysiskt skifte
Samtidigt rör sig mycket av debatten om vår algoritmstyrda tillvaro på en ganska ytlig nivå. Det är som om vi tror att vi lever i samma värld som tidigare och att det enda som hänt är att vissa saker kan göras snabbare och med större precision.
För vad vi än tycker om de enskilda företeelserna så är ju inget nytt med vare sig vetenskap, tentafusk eller politisk propaganda. Och ser vi saken på det sättet så verkar den enda förändringen vara att världens forskare, fuskare och förvillare kan göra mer av vad de ändå skulle ha gjort.
Det är med andra ord lätt att tänka att de matematiska och statistiska genombrott som ligger bakom digitala revolutionen bara är praktiska hjälpmedel för att nå samma mål som vi alltid haft. Men paradigmskiftet går djupare än så. Det handlar inte bara om ”mer” och ”snabbare”, utan om ”nytt” och ”enligt andra regler”.
Som teknikfilosofen Justin Joque visar i boken Revolutionary Mathematics (Verso, 2022) medför våra självlärande maskiner och processandet av ”big data” ytterst ett metafysiskt skifte, det vill säga att de underliggande reglerna för vår sociala tillvaro skrivs om. Framför allt, menar Joque, besitter den nya tekniken en ”objektifierande” kraft. Den producerar så att säga en serie nya faktum i världen som vi tvingas inrätta våra liv efter.
Kapitalismens opersonliga reglering av människors beteenden
För att greppa den digitala erans nya logik tar Joque sin utgångspunkt i Karl Marx analys av kapitalismen. En av huvudpoängerna i Marx kritik av den politiska ekonomin var att kapitalismen skiljer sig från tidigare produktionssätt genom dess opersonliga reglering av människors beteende.
I kapitalismen finns ingen enskild grupp av makthavare som bestämmer vilka människor som ska göra vad. Ingen föds ingen längre till bonde eller adelsman. I stället gör vi vad ”ekonomin” kräver, det vill säga att vi följer de signaler som marknaden skickar ut om vad som är värdefullt. Varor, pengar, kapital – dessa saker tycks bära på en inneboende, mystisk energi som styr och samordnar vad vi gör i vardagen.
Bland liberaler firas denna märkvärdiga kapacitet för självreglering ofta som en av marknadssamhällets stora triumfer. Men för Marx representerar underkastelsen under den kapitalistiska värdelagen bara ännu ett system av illegitimt maktutövande. Inte nog med att kapitalismen bygger på exploatering av en egendomslös arbetarklass – ytterst innebär den att människor gör sig till slavar under sina egna skapelser.
Marx var på sitt vanliga sarkastiska humör när han kallade det hela för ”varufetischism”: Han ville visa att européerna, som såg sig som överlägsna de ”primitiva” folk som dyrkade hemsnickrade avgudabilder, i själva verket var de mest vidskepliga av alla för att de helt och hållet lät sina samhällen domineras av de gudar de själva skapat: varan, penningen och kapitalet.
För Marx blottade varufetischismen en djup irrationalitet i det på ytan rationella kapitalistiska systemet: Vi vet mycket väl att pengar och varor är våra egna skapelser, men ändå beter vi oss som att de är magiska föremål vars trolldom vi måste underkasta oss. Fetischerna styr oss ”bakom våra ryggar”.
Att följa ett spökes viskningar
En stor del av kapitalismens kraft ligger alltså i dess förmåga att producera metafysiska, abstrakta objekt som trycks bära på ”sanningen” om vad vi måste göra i vardagen. Alla beslut i den kapitalistiska ekonomin – om att arbeta, anställa, avskeda, investera och så vidare – fattas i en terräng där de enda landmärkena består av sådana fetischer eller ”objektiva tankeformer”.
Vad du än tycker och tänker i övrigt så sätts villkoren för ditt liv i denna skuggvärld av halvverkliga objekt. Oavsett om du är arbetare eller företagare så vet du att cashen måste in, och det enda sättet att lägga vantarna på dem är att följa ett spökes viskningar.
Joques analys går vidare i Marx spår genom att visa hur dagens superdatorer producerar sina egna mystiska objekt i form av statistiska ”sanningar” som vi inte har något annat val än att acceptera om vi vill klara oss i konkurrensen. På samma sätt som kapitalismen får oss att behandla varor och pengar som objekt med ett inneboende värde reglerar den digitala fetischismen våra liv genom att blixtsnabbt kalkylera den mest sannolika vägen till maximal profit.
Problemet är bara att dagens datorer hanterar större mängder data och räknar snabbare än någon människa någonsin kan göra. Därtill innebär maskinlärningen att våra datorer hela tiden förändrar sina beräkningsmodeller och kalkyler. I praktiken innebär det att vi inte längre vet på vilka grunder vi fattar avgörande ekonomiska och politiska beslut. Vi vet bara att vi måste följa algoritmernas diktat eller duka under. Makten att definiera verkligheten har därmed lämnats över till spöket i maskinen.
Den digitala fetischismen
De politiska, ekonomiska och demokratiska konsekvenserna blir enorma, särskilt om vi tänker på att algoritmerna i dag står i kapitalackumulationens tjänst och fattar beslut som påverkar oss alla men främst gynnar ett litet fåtal.
Om den kapitalistiska marknaden för Marx var en sorts dator som kalkylerade fram ekonomiska värden i utbytesprocessen så står vi i dag inför en algoritmisk hyperkapitalism där besluten presenteras på våra skärmar medan själva beräkningarna utförs bakom våra ryggar – av maskiner som programmerar om sig själva innan vi hinner vända oss om.
De politiska, ekonomiska och demokratiska konsekvenserna blir enorma, särskilt om vi tänker på att algoritmerna i dag står i kapitalackumulationens tjänst och fattar beslut som påverkar oss alla men främst gynnar ett litet fåtal.
Samtidigt bär den digitala fetischismen, likt den analoga kapitalismen, på vissa löften om en bättre värld. Samma teknologi som i dag uppmuntrar sina ägare till privat profitsökande, konkurrens och hemlighetsmakeri skulle under andra omständigheter kunna användas för att befrämja kollektiv rikedom, samarbete och öppenhet.
Om Justin Joque har rätt om att de privatägda algoritmerna producerar sina egna verkligheter så finns det också andra verkligheter att skapa genom klasskamp om de digitala resurserna.
Kanske kan vi aldrig helt bryta oss ut ur de objektiva tankeformernas fängelse – men vi kan alltid bryta oss in i serverhallarna.