Historien er nøglen til forståelsen af fremtiden. Det er ikke en overraskende påstand, når den kommer fra en historiker som Yuval Noah Harari. I sin nyeste bog Nexus tager han fat på det han ser som den mest disruptive teknologiske opfindelse, som vi som mennesker har gjort: kunstig intelligens (AI).
Med historien som argumentationsform inviterer Harari os ud på en rejse fra stenalderen over bibelen og koranen, gennem nazistiske, kommunistiske og imperialistiske regimer frem til computeren, algoritmen og AI. Hans påstand er, at hverken store samfundsdannelser (eller imperier), der var rene diktaturer eller rene demokratier var mulige før opfindelsen af informationsteknologi. Det var reelt først med radioens opfindelse, at en diktator kunne opretholde total kontrol med et større område eller en demokratisk dialog kunne opretholdes over store afstande.
Alle samfund opbygges, fortæller Harari, på fortællinger. Det er fortællinger, der er skabt for at skabe orden på samfundet og ikke med henblik på at fortælle sandheden. Tværtimod fokuserer de fleste samfundsopbyggende historier på det, de mener er vigtige og sorterer alt andet fra eller stiller sig i mange tilfælde i opposition til det man definerer som udenfor – det fremmede. I Romerriget var det barbarerne, i Nazityskland var det jøder, homoseksuelle og mennesker med handicap og i kommunismen var det kulakkerne (de udefrakommende, nasserne, der ødelagde det for alle de andre) og senere nazisterne.
Det, som Harari siger, skiller Nazityskland og Sovjetunionen fra tidligere tiders imperier er informationsteknologi, der gjorde Hitler og Stalin (og senere kommunistiske ledere) i stand til at kontrollere deres borgere i en tidligere helt uset grad var informationsteknologi.
Det gælder lige meget for både diktaturer som for demokratier. Det er først med informationsteknologien og i realiteten med radioen, at man bliver i stand til at fuldstændig kontrollere fortællingen for hele befolkningen hele tiden. De romerske kejsere var diktatorer, men de kunne ikke personligt overvåge borgerne i Karthago eller i Jerusalem, der derfor i hverdagen hade udstrakt selvstændighed. I det antikke Athen havde man demokrati, men det spredte sig aldrig videre ud over bystaten Athen fordi grundlaget for demokratiet er den demokratiske samtale. Ligesom kejseren ikke kunne holde øje med Karthago i real time, så kunne man ikke føre en demokratisk samtale udover de borgere, der fysisk kunne mødes og tale sammen. Trykpressen og det vil sige bøger og senere aviser lettede kommunikationen over lange afstande lidt, men det var i realiteten radioen, der muliggjorde den real time kommunikation over store afstande, der fordres i både demokratier og diktaturer.
Hararis påstand er altså, at hvordan vores historier og de informationsnetværk, som de skaber er grundlæggende for opbygningen og sammenhængskraften i vores samfund. Netværkene forbinder mennesker, institutioner og teknologier og som fremmer både viden og kontrol. Titlen ”Nexus” skal forstås som de knudepunkter, hvor information, teknologi og magt mødes og hvor samspillet mellem disse faktorer har potentialet til at skabe fremtiden på godt og ondt.
Det, der i Hararis optik først og fremmest adskiller AI fra tidligere tiders informationsteknologi er selvstændigheden. En trykt bog kunne ikke selv lære noget nyt og tilføje indhold ligesom hverken radio eller tv kunne. Det betyder, at AI kan gå ind og påvirke knudepunkterne (nexus), som ingen teknologi har kunnet før og dermed få indflydelse på eller måske ligefrem overtage styringen med fremtiden.
Hararis primære argument for den risiko han ser her er, at han som nævnt ser AI som værende relativt selvstændig. Når algoritmen først er trænet på de forhåndenværende data, så kan systemet selv lære nyt og finde nye løsninger på de problemer, den skal løse.
Og det er her, jeg først og fremmest har et problem med hans argumentation, men diskussionen ligger i definitionen af selvstændighed. Jeg vil påstå, at AI som vi kender det i dag er bundet af sin ”programmering” altså algoritmen kan ikke bevæge sig ud over sine prædeterminerede rammer, men kan selvfølgelig handle forholdsvist selvstændigt indenfor de rammer. Vi taler ikke om hverken AGI, supertintelligens eller bevidst AI her. Harari taler om ganske ”almindelig” AI, som vi kender den i dag.
Det er som altid en fornøjelse at læse Hararis historiske fremstilling. Her er der altid noget at hente i alle hans bøger. Og hans tanker om, at AI kan være præcis lige så destabiliserende for et demokrati som for et diktatur er virkeligt et besøg værd.
Share