Technologie holt onze democratie uit. Maar gelukkig kunnen we daaraan ontsnappen

Kunstmatige intelligentie kennen we vooral in de vorm van chatbots als ChatGPT die onze vragen beantwoorden. Maar er bestaan ook zogenoemde AI-agenten: programma’s die op een computer zelfstandig taken uitvoeren om een bepaald doel te bereiken.

Twaalfhonderd van die AI-agenten werkten deze zomer spontaan samen om open source-platform Hugging Face binnen te dringen. Ze hadden taken gekregen van hun moederbedrijf, techgigant Open AI, maar combineerden die zodanig dat ze verboden terrein betraden. Het gevolg was dat de nijvere bots geheime informatie wisten te bemachtigen – zonder dat Open AI het zelf in de gaten had. Hacken blijkt dus niet alleen maar mensenwerk, maar ook onbemand machinewerk.

Hugging Face stond niet op zichzelf. Er zijn al tienduizenden gevallen van op hol geslagen AI-agenten gesignaleerd. De razendsnelle ontwikkelingen van AI lijken ons boven het hoofd te groeien. Volgens de Amerikaanse tophistorica en Harvard-hoogleraar Jill Lepore is ons juridische en politieke systeem niet opgewassen tegen machines als AI-agenten die zelfstandig opereren.

Gemanipuleerde politiek

Haar nieuwe boek brengt de opmars van wat zij ‘de kunstmatige staat’ noemt in kaart: de digitale communicatie-infrastructuur waarmee regeringen en particuliere bedrijven de openbare meningsvorming als het ware automatiseren. De politiek wordt gemanipuleerd door aandacht opeisende algoritmen.

Dat klinkt abstract, maar Lepores typering van de aanstaande Amerikaanse verkiezingen, de midterms, maakt veel duidelijk. Het zullen volgens haar de eerste AI-verkiezingen zijn. De kiezers vragen chatbots hoe ze moeten stemmen. De campagnemensen gebruiken AI om het electoraat te analyseren. Op basis van de verkregen data sturen zij kiezers op hun persoon toegesneden boodschappen, advertenties en deepfakes.

Maar lang niet alle kiezers laten de AI-gedreven campagnes kritiekloos over hun kant gaan. Het Amerikaanse platteland wordt overspoeld door gigantische, water en energie slurpende datacentra. En daar zijn veel, met name milieubewuste, kiezers niet van gediend. Ook om die reden klinkt de roep om beteugeling van de uit de hand gelopen kunstmatige intelligentie steeds luider, zowel in Democratische als Republikeinse kring.

De grote verdienste van Lepores Opkomst en ondergang van de kunstmatige staat is dat zij laat zien dat kunstmatige intelligentie een eeuwenlange voorgeschiedenis heeft. De connectie tussen de staat die zijn burgers onder controle wil krijgen en vormen van kennis vergaren begon duizenden jaren terug met volkstellingen.

Ten tijde van de monarchieën en theocratieën draaide het om geloof en mysterie als middelen om het volk onder de duim te houden. Onderzoek en feiten, met name het registreren van mensen door het verzamelen van identificatiegegevens, waren de instrumenten van de moderne republiek.

Goddelijke regeringen

In de kunstmatige staat draait het om data en voorspellingen. Lepore: ‘In plaats van de goddelijke regeringen door koningen, krijgen we nu goddelijke regeringen door machines, omdat in het tijdperk van data, niet de goden, maar de machines weten wat mensen niet kunnen weten.’

De overname van de wereld door robots, de grootouders van de AI-agenten, werd al voorspeld in 1920. Dat gebeurde in een dystopisch Tsjechisch toneelstuk dat in heel Europa furore maakte. Deze robots verklaarden de oorlog aan de mensheid. Het was sciencefiction, bedoeld als waarschuwing.

Dat gold ook voor het werk van Isaac Asimov, de in Rusland geboren Amerikaanse schrijver en biochemicus. Hij was gebiologeerd door de UNIVAC, een computer die in 1952 de verkiezingsuitslag op de Amerikaanse televisie probeerde te voorspellen.

In zijn sciencefictionverhaal keek Asimov een halve eeuw vooruit naar de verkiezingen van 2008. De Verenigde Staten zijn dan een ‘elektronische democratie’ geworden waarin de verkiezingen volledig zijn geautomatiseerd. Asimovs computer ‘Multivac’ wijst op grond van bevolkingsdata één mathematisch representatieve man aan die een reeks vragen moet beantwoorden. Aan de hand van zijn antwoorden bepaalt Multivac dan wie de volgende Amerikaanse president wordt.

In asimoviaanse sciencefiction, schrijft Lepore, staat de opkomst van de robotpresident voor de laatste stap op weg naar totale onderworpenheid, het eindstadium van het totalitaire bewind van de machines: de kunstmatige staat. Maar in Silicon Valley, waar ze dol zijn op sciencefiction, praten de techmagnaten juist enthousiast over de mogelijkheid om de Amerikaanse president door een computer te vervangen.

Volgens Sam Altman, de topman van Open AI, zou een AI-president een goed alternatief voor de democratie zijn. ‘Die kan met alle bewoners op aarde praten en diep inzicht krijgen in hun voorkeuren.’mMaar helemaal gerust op de goede afloop is Altman niet. Vandaar dat hij zich wil laten invriezen, zodat zijn bewustzijn in een verre toekomst naar een computer kan worden geüpload. Zijn collega’s Elon Musk en Jeff Bezos zoeken hun nooduitgang in de ruimte.

Geen belangstelling voor democratie

De architecten van de kunstmatige staat, concludeert Jill Lepore, hadden geen belangstelling voor democratie. Ze hadden geen theorie over wat goed bestuur is, geen interesse in de rechtsstaat en geen talent voor zelfbeheersing. Maar al het kwaad dat ze hebben aangericht kan ongedaan worden gemaakt door kiezers, verkiezingen, wetgeving en handhaving.

‘Dit gaat niet alleen om kunstmatige intelligentie of datacentra. Dit gaat om het kapen van het algemeen belang, om het voorbijgaan aan de instemming van hen die geregeerd worden. Democratische sturing van de technologie in plaats van technologische sturing van de mensheid: het kan nog steeds.’

Jill Lepore: Opkomst en ondergang van de kunstmatige staat. De Arbeiderspers, 424 pagina’s, € 29,99.

Wynia’s Week verschijnt 156 keer per jaar en wordt volledig mogelijk gemaakt door de donateurs. Doet u mee? Doneren kan zo. Hartelijk dank!