The Coming Wave: Mellem autokrati og dystopi

Mark Sinclair Fleeton

Det her er en af årtiets vigtigste bøger! Så hvis du kun læser en bog om fremtiden og den teknologiske udvikling, så skal det være denne. Mustapha Suleyman, grundlæggeren af Deepmind og Inflection AI, samt bagmanden til mange af de centrale tanker om udvikling af AI hos både Google og nu Microsoft har sammen med forfatteren Michael Bhaskar skrevet ”The Coming Wave”. Bogen både beskriver og udvider vores forståelse af den kommende teknologiske bølge, dens helt utrolige muligheder og hvordan den indenfor formodentligt blot et årti, vil ændre vores samfund fuldstændigt. 

Men er vi som samfund klar til denne ændring. Forfatterne mener nej. Vores samfund er en balancegang mellem to afgrunde og vi kan til enhver tide falde mod det autoritære eller det dystopiske eller begge. Vi er på ingen måde forberedt på det, der er på vej. 

Det lyder i sig selv dystopisk, men vi kan forberede os på det der kommer. Det vil være en stor opgave, men det kan lade sig gøre. Suleyman og Bhaskar taler blandt andet om et Apollo-projekt om sikkerhed indenfor AI-systemer. Det giver en ide om omfanget og de krævede ressourcer. 

I. Den kommende bølge

Det, der er på vej, er meget mere end bare AI og det er langt bredere end blot sprogmodeller. Det er første del og det Suleyman og Bhaskar kalder ”intelligens teknologi”. Næste del er biologien eller ”livets teknologi”. Centralt for denne teknologi er forståelsen af DNA som information – et biologisk indkodnings- og hukommelsessystem. Det vil ændre ikke bare vores materialer og vores fødevarer, men selve det at være menneske, vores sundhed, vores egenskaber og vores levetid. Men bølgen er bredere endnu. Robotteknologi, Quantum computing og vedvarende, bæredygtig energi. 

Suleyman og Bhaskar uddrager en række karakteristika ved den nye bølge. For det første asymmetri. I andre sammenhænge kalder vi det demokratisering af teknologi. På globalt plan betyder det en forskydning af magt væk fra stater til enhver med kapacitet og motivation til at bruge de nye teknologier. Det andet karakteristika ved den kommende bølge er hyper-evolution. Udviklingen af teknologi accelerer uendeligt og den vil være på alle områder. Teknologierne i den kommende bølge bliver universelt anvendelige ligesom dampmaskinen og elektricitet. 

II. Staternes fald

Den kommende bølge vil med andre ord vælte ind over nationalstaterne, som en tsunami og her konstaterer Suleyman og Bhaskar, at de vestlige demokratiske nationalstater allerede er udfordret på en række punkter. Forfatterne kalder dem ”nervøse stater”. De er præget af grundlæggende frygt skabt af manglende tillid til institutioner, stigende ulighed og klimakrisen. De er stadigt i chok over finanskriser, pandemier og vold (fx terror og krigen i Ukraine).

De i forvejen udfordrede og rystede nationalstater bliver yderligere udfordret en række forstærkende effekter. Asymmetrien, der er en af kendetegnende for den kommende bølge betyder, at magten forskyder sig fra nationalstaten og allerede i dag udfordres de af andre aktører, som fx hackere eller andre stater, der bruger den nye teknologi til at svække eller afpresse nationalstaterne. Mange peger allerede nu på fake news som den kommende tids største trussel. Fake news som målrettet våben er med til at svække nationalstaterne og yderligere svække borgernes tillid. Den nye teknologi betyder også øget automatisering og det betyder en radikalt ændret arbejdsfordeling. Omskoling og arbejdsløshed er to yderlige udfordringer, der svækker de demokratiske nationalstater.

Suleyman og Bhaskar forudser to scenarier for de vestlige demokratier. Enten tvinger frygten dem over i rendyrkede autokratier og overvågningssamfund eller også forbliver man på overfladen demokratier, men i realiteten så udhulede, så der er tale om zombie-demokratier.

III. Inddæmning af bølgen

De vestlige demokratier står altså ikke ligefrem stærkt rustede overfor den kommende bølge, men der er en måde, at imødegå udfordringerne. Det Suleyman og Bhaskar kalder inddæmning. Men en bølge af den kraft, som er på vej, er på ingen måde let at inddæmme, men der er måder, hvor det kan lade sig gøre. Suleyman og Bhaskar foreslår 10 trin, der sammen vil give os bedre forudsætninger. 

1. Teknologisk sikkerhed: Et insisterende og prioriteret fokus på sikkerhed i systemerne. Forfatterne sammenligner den nødvendige indsats med Apollo-projektet, der bragte mennesket til månen. 
2. Kontrol: Kontrol er er et andet punkt. Vi kan kun have tillid til systemer, der er fuldstændigt gennemsigtige og kan kontrolleres for skadelige virkninger. 
3. Flaskehalse: Flaskehalse i den globale forsyningskæde, som fx computerchips, kan være med til at give den tid, der er brug for at sikre gennemsigtighed og sikkerhed stillet overfor en hyper-evolution. 
4. Skaberne: Og så skal skeptikerne engagere sig i udviklingen af de nye teknologier. 
5. Forretning: Profit har altid drevet udviklingen af teknologi, men en anden drivkraft er formålet med udviklingen. Nye virksomhedsformer, der fokuserer på sikkerhed i udviklingen, er langsomt ved at vinde indpas. 
6. Regulering: På det politiske niveau, skal den nødvendige lovgivning sikres. Organisationer som FN og OECD har allerede i dag udarbejdet standarder for bla. AI. 
7. Alliancer: Inddæmning kræver alliancer mellem stater, industri og organisationer
8. Kultur: Forfatterne peger på, at et afgørende element for at kunne inddæmme bølgen er selve kulturen, der ligger bag udvikling af de nye teknologier. Vi er nødt til at have en kultur, hvor det at fejle ikke bare er tilladt, men at vi ser fejl som en afgørende del af en sikker udvikling af nye teknologier og er åbne om vores fejl og deler informationer om fejlene, så alle udviklere på området kan lære af dem.
9. Bevægelser: Den brede befolkning skal involveres i udviklingen af sikre nye teknologier. Medier, fagforeninger, filantropiske organisationer og græsrodskampagner er begyndt at få øjnene op for muligheder og risici, men der er brug for at dem i håndboldforeningen, skolebestyrelsen og lokalrådet også deltager i diskussionen. ”Change happens when people demand it.”, siger forfatterne lidt grandiost og meget idealistisk. 
10. Sammenhæng: Og for at inddæmning af den kommende bølge skal have en chance for at fungere, så skal alle disse ting fungere i sammenhæng med hinanden. Et af punkterne er ikke nok og listen er ikke komplet. 

IV. Den sidste idealist og det store ”vi”

Inddæmning vil være en konsekvens af alle 10 punkter, der fungerer samtidigt. Men helt centralt for bogens pointe er bevægelserne. Vi, som i det store ”vi”, som i menneskeheden skal involveres i inddæmningen af den kommende bølge. Mustafa Suleyman er nok en lidt usædvanlig teknologi founder, fordi han efter skabelsen af flere store virksomheder stadigt har et idealistisk syn på udviklingen af teknologi. 

Og måske er det en meget idealistisk og ikke så realistisk måde at anskue tingene på, men på den anden side, så er bogen også meget klar på, at det ikke nytter noget at forsøge at standse bølgen. Ligesom de såkaldte Luddites, der forsøgt at standse den industrielle revolution, må vi sande, at den kommende bølge er ustoppelig og den eneste vej er igennem. 

”The Coming Wave” er både velskrevet, indsigtsfuld og tankevækkende, for hvad er det for en fremtid vi ønsker? Bogen indfanger den dobbelte natur af den kommende bølge. Den vil både omskabe vores samfund og medføre totale ændringer i arbejdsformer, indkomstformer, sundhed og uddannelse og samtidigt rummer den kimen til det ultimative autoritære stat. Filosoffen Jeremy Benthams Panoptikon kan nu realiseres fuldt ud og alle borgere kan observeres døgnet rundt uanset hvor de befinder sig. Panoptikon er en fængselsmodel, der nu kan udrulles for hele samfundet. 

Samtidigt er bogen utroligt optimistisk. Suleyman og Bhaskar er begejstrede for de muligheder, som den kommende bølge rummer for os alle og deres klippefaste tro på, at inddæmning er muligt efterlader en med en følelse af, at vi står overfor en fantastisk fremtid.