Gaan zelfrijdende robotauto’s de wereld overnemen? Nee, ze gaan de rijweg blokkeren

Door Holger Douglas*

De zelfrijdende toekomst is begonnen en cirkelt ’s ochtends om zeven uur door Amerikaanse buitenwijken. Lege Waymo-taxi’s staan vast in doodlopende straten. Zo zie je maar dat AI de wereld nog niet heeft overgenomen, maar wel al de straten blokkeert.

Atlanta ziet een glimp van de toekomst. Die toekomst is er niet in UFO’s geland, niet met vliegende auto’s, sirenes of zelfdenkende robots. Maar wel in de vorm van een witte, elektrische Jaguar I-PACE, zonder bestuurder, zonder passagier, zonder duidelijk doel. En toen kwam er nog een. En nog een. En nog een. Totdat een straat in een Amerikaanse woonwijk aanvoelde als een wachtkamer voor kunstmatige intelligentie. De bewoners waren verbijsterd.

Vroeger kon je technologische mislukkingen herkennen aan hun gerook, hun geknal of omdat ze gewoon stil bleven staan. Tegenwoordig herken je ze aan hun volkomen geluidloos functioneren, maar dan wel op de verkeerde plek.

In Atlanta reden vijftig lege, zelfrijdende Waymo-taxi’s ‘s ochtends vroeg, tussen zes en zeven uur, een doodlopende straat in. Die auto’s kwamen blijkbaar geen van allen iemand ophalen. Ze gingen ook nergens heen. Ze stonden er zomaar. Alsof een delegatie uit Silicon Valley die woonwijk wilde laten weten: jullie hebben misschien huisdieren, kinderen en schoolbussen, maar wij hebben een update. Of misschien wilden ze gewoon eens ervaren hoe het is om een voortuin op te leuken.

Wie is verantwoordelijk?

De bewoners weerden zich met een neonkleurige waarschuwingspop langs de kant van de straat. In de oude wereld zou op zo’n pop gestaan hebben: ‘Pas op, spelende kinderen!’ In de nieuwe wereld moest die de Waymo’s tegengaan. De voertuigen stonden nu stil. Ze waren vermoedelijk aan het berekenen: ‘Obstakel gedetecteerd. Waarschuwing gezien, maar geen kinderen. Doodlopende weg herkend. Achteruitrijden mogelijk.’ Naar verluidt stonden er in die straat op een gegeven moment acht Waymo’s vast. Acht zelfrijdende luxe auto’s in een gezamenlijke existentiële crisis. Dit is digitale burn-out op zakformaat: de processor gloeit, maar de wielen draaien niet.

Vroeger vloekte de bestuurder dan, stapte uit, schold, toeterde en daarna kon hij meestal wel weer door. Tegenwoordig is er geen bestuurder meer en kan dus niemand vloeken. De auto mediteert. Hij scant de wereld met LiDAR en radar, wachtend op een openbaring vanuit de cloud. De mens staat ernaast en vraagt: ‘Wie kunnen we hierop aanspreken?’

Het antwoord is: niemand, tenminste niet iemand die bereikbaar is. De auto is van een bedrijf, software bestuurt de auto, een passagier is er niet en de verantwoordelijke rijdt een andere doodlopende weg in. Het is de eerste vorm van spookverkeer waarbij de spoken een aansprakelijkheidsverzekering hebben afgesloten.

Taxibedrijf Waymo, dat in de VS een vloot van zo’n 3800 zelfrijdende voertuigen bezit, benadrukt dat het de feedback van bewoners serieus neemt en de routeplanning meteen heeft aangepast. Hier zien we de eerste vorm van zelfrijdende bureaucratie: de mensen hoeven niet naar de balie, nee de organisatie komt in de vorm van een zelfrijdende auto de straat in, rijdt drie rondjes en verklaart, louter door zijn aanwezigheid, dat de toedracht helaas niet kon worden vastgesteld.

Toekomstbeeld

Stel je nu eens voor wat er gebeurt als alle voertuigen autonoom zijn. Om zeven uur ’s ochtends weigert de schoolbus te vertrekken omdat een bezorgrobot een ethisch voorrangsconflict uitvecht met een vuilniswagen. De zelfrijdende brandweerwagen rukt uit, maar keert na 400 meter om, want de locatie van het incident is op basis van de kaartgegevens niet voldoende gevalideerd. De zelfrijdende lijkwagen interpreteert een gat in de weg als een graf en neemt een korte rouwperiode in acht. En de zelfrijdende dienstauto van de burgemeester cirkelt drie uur lang rond het stadhuis omdat hij het woord ‘rotonde’ in de notulen van de raadsvergadering heeft gevonden.

Verkeerslichten springen niet meer op rood, geel of groen, nee, we lezen ‘even wachten, software update’. Parkeerterreinen worden verzamelplaatsen voor verdwaalde elektrische SUV’s. Niet de ouders, maar lege robottaxi’s parkeren voor de kleuterschool en versperren de kleuters, om ze te beschermen, doelgericht de weg. En als iemand ergens een waarschuwingsbord neerzet, komt er onmiddellijk een mededeling van de gemeente: ‘Plaats geen analoge objecten in algoritmegevoelige zones.’

Pedante AI

De grootste angst bij kunstmatige intelligentie is altijd geweest dat die op een dag te slim zal worden. Misschien zit het gevaar voorlopig wel in iets trivialers: die automatisering wordt niet kwaadaardig maar pedant; zal niet de wereld overnemen, alleen de rijweg blokkeren. ‘Doel bereikt!’ Ze zal de mensheid niet tot slaaf maken, maar ons laten wachten omdat de situatie ‘niet duidelijk’ is. Het is heus niet de bedoeling van het digitale brein om de mensheid uit te roeien; dat brein heeft alleen vergeten de mensen in zijn routeplan voorrang te geven.

Atlanta is dus niet door een robotleger aangevallen. Het ging eigenlijk alleen om de digitale escapades van peperdure auto’s. Maar daaraan kunnen we wel zien wat er gebeurt als het stadsverkeer niet meer uit automobilisten van vlees en bloed bestaat, maar uit vlootlogica, digitale kaarten, optimalisatiedoelen en onderhoud op afstand.

De autonome toekomst komt niet in de vorm van een Terminator. Zij komt als lege taxi die om zes uur ’s ochtends langs het huis glijdt, omkeert, terugrijdt en beleefd meldt: de route wordt opnieuw berekend.

*Holger Douglas schrijft over wetenschap en techniek. Dit artikel is eerder in het Duits verschenen op het nieuwsblog Tichy’s Einblick.

Vertaling: Willy Hemelrijk.

Wynia’s Week brengt broodnodige, onafhankelijke berichtgeving: drie keer per week, 156 keer per jaar, met artikelen en columns, video’s en podcasts. Onze donateurs maken dat mogelijk. Doet u (weer) mee? Hartelijk dank!