Pas op met AI. Want wie zijn woorden uitbesteedt, doet dat ook met zijn standpunten

In een eerdere column wees ik op de macht van taal in het algemeen en taalcontaminatie bij de genderdiscussie in het bijzonder. Wie spreekt van ‘geslacht toewijzen’, ‘genderbevestigende hormonen’, ‘genderbevestigende operaties’ en ‘puberteitsremmers’, en dit woordgebruik tot gemeengoed weet te verheffen, staat bij iedere discussie gelijk met 10-0 voor. Immers, het woordgebruik bevestigt wat nu juist ter discussie staat.

Voor het geval u ook al besmet bent geraakt: het geslacht wordt bij geboorte niet ‘toegewezen’ maar gewoon bepaald op biologische kenmerken. ‘Genderbevestigende hormonen’ zijn de hormonen van het andere geslacht, en ‘genderbevestigende operaties’ zijn onder meer operaties waarmee een gezonde baarmoeder en eierstokken, of gezonde borsten, worden verwijderd. ‘Puberteitsremmers’ zijn geen remmers van de puberteit maar blokkeren de puberteit en het zijn medicamenten die gebruikt worden voor chemische – tijdelijke – castratie, zoals dat bij patiënten met prostaatkanker maar ook bij zedendelinquenten gebeurt.

Taal is niet neutraal

Schrok u van ‘chemische castratie’? Dan heeft u zojuist ervaren wat taal doet. Ook mijn keuze voor deze woorden kleurt het debat. Niemand ontkomt daaraan en dat is nu juist het punt.

Doordat het woord feitelijk de discussie kan beslechten, is taal in principe niet neutraal. Het is geen toeval dat het gebruik van woorden die tot voor kort tot het normale vocabulaire behoorden, min of meer wordt verboden. Wie bepaalt welke woorden we mogen gebruiken, bepaalt in feite een groot deel van het debat. Wanneer je spreekt over het laten inslapen van een dier, dan is er een andere discussie dan wanneer je spreekt over het doodmaken van een dier.

In de diverse internationale debatten die ik heb gevoerd over beslissingen rondom het levenseinde, waarbij ook euthanasie ter sprake kan komen, had ik ook te maken met collega’s uit andere landen en culturen, die dat duidden als het doodmaken van een patiënt. Het woord euthanasie is bijvoorbeeld voor Duitsers gelieerd aan het nazisme.

In dat kader is het goed eens te kijken naar AI (Large Language Models, LLMs). Wat weinigen zich wellicht realiseren, onze onderwijsminister Rianne Letschert (D66) blijkens haar uitspraken over het gebruik van LLMs al helemaal niet, is dat LLMs een enorm krachtige versterker van taal, de meest gebruikte taal, de taal van de heersende macht, zijn.

Een les van de machine

Artikelen die ik geschreven heb, zijn nooit alleen mijn verdienste. Wetenschappelijke artikelen worden door medeauteurs veranderd of bijgeschaafd, vervolgens door reviewers bekritiseerd met suggesties en daarna pas in uiteindelijke vorm gepubliceerd. Mijn gewoonte is om ook teksten voor niet-wetenschappelijke bladen voor te leggen aan kritische collega’s – meestal uit het vak – ter becommentariëring. Ik leg het voor aan natuurlijke intelligentie, zeg maar.

Maar kunstmatige intelligentie heeft tegenwoordig een belangrijke toegevoegde waarde. Wanneer je een geschreven tekst voorlegt aan een AI-platform voor becommentariëring en controle op taal, dan volgt uitgebreid commentaar met suggesties. Bij een column over het Dutch Protocol werd de bestaande tekst bijgeschaafd en stond er opeens ‘puberteitsremmers’, terwijl mijn originele tekst ‘puberteitsblokkers’ was.

Het model had nog iets gedaan. Ik schreef dat het uitblijven van de puberteit een van de nadelen van de behandeling is, maar het LLM raadde me aan die zin te schrappen: het uitblijven van de puberteit was immers ‘het beoogde effect, geen bijwerking’, en een criticus zou dat meteen aanwijzen.

Dat klinkt zorgvuldig en in feite wordt de redenering overgenomen van wie de behandeling geeft. Dat een kind een essentiële ontwikkelfase mist, is geen nadeel meer zodra je het een doel noemt. Uit het model zelf kwam naar voren dat het eenvoudigweg de teksten overneemt van de Gezondheidsraad, de genderklinieken, de richtlijnen en de publieke media. Overigens spreekt men in het Engels gewoon van ‘puberty blockers’. Het verzachtende ‘remmers’ is vooral Nederlands, uit het land waar het Dutch Protocol is ontstaan.

Een partijdige machine

Een taalmodel weet helemaal niet wat waar is. Het weet wat vaak gezegd wordt en door wie. Wat vaak gezegd wordt door instituties met gezag, krijgt meer gewicht. In een gewone discussie is dat wellicht onschuldig, maar in dossiers waar juist die taal ter discussie staat, betekent het dat de machine bij voorbaat partij kiest.

Dat is natuurlijk niet uit overtuiging maar op basis van statistiek en bewuste bijsturing door bedrijven. Het gebeurt onzichtbaar en draagt het gevaar dat de framing van één kant van het debat erin verwerkt is. Dat valt alleen op bij degene die de framing kent en afwijst. Zo dempt AI kritiek zonder iets te verbieden en wordt een kritische stem bijgestuurd. Wie op deze manier haar teksten laat schrijven, schuift onbedoeld op naar het standpunt van de gevestigde orde.

‘Boomerdiscussie’

Uit onderzoek van de Volkskrant bleek onlangs dat minstens 232 berichten van premier Jetten en D66 waarschijnlijk met behulp van AI zijn geschreven, waaronder de excuses voor hoe Nederland in het verleden is omgegaan met Molukkers. Jetten en Letschert vonden het geen probleem of zelfs een ‘boomerdiscussie’, want – parafraserend – er kijken altijd nog menselijke ogen naar.

Door de NOS geraadpleegde deskundigen maakten zich vooral zorgen over de authenticiteit: wie is de echte premier? Dat is een belangrijk punt maar niet het belangrijkste. Het gevaar is namelijk dat menselijke ogen de eenzijdige framing niet zien. De controle waarop de premier zich beroept, vangt juist níet op wat er het meeste toe doet.

En dit geldt natuurlijk niet alleen voor de premier, maar iedere bestuurder, ambtenaar, arts, journalist en wetenschapper die zijn teksten laat schrijven of verbeteren door AI. En dat zijn er steeds meer: beleidsnota’s, persberichten, patiëntenfolders, adviezen en straks ook richtlijnen. Overal sluipt dezelfde taal binnen en daarmee hetzelfde perspectief.

Reproductie van machtsverhoudingen

Het verbieden van AI is natuurlijk onzinnig en onhaalbaar. Het is een buitengewoon nuttig hulpmiddel. Ik gebruik het zelf. Maar wie het gebruikt moet zich wel bewust zijn van wat zij in handen heeft: niet een neutrale schrijfhulp maar een instrument dat de bestaande machtsverhoudingen in taal reproduceert.

En dat stelt eisen: ten eerste transparantie. Een overheid die AI gebruikt in de communicatie moet dat melden, ook de premier. Ten tweede waakzaamheid bij omstreden en gevoelige dossiers. Juist daar is de framing van het taalmodel het minst te vertrouwen. En ten derde: blijf zelf schrijven wanneer het ertoe doet. Immers, wanneer je je woorden uitbesteedt, geldt dat ook voor je standpunten.

Wynia’s Week verschijnt 156 keer per jaar en wordt volledig mogelijk gemaakt door de donateurs. Doet u mee? Doneren kan zo. Hartelijk dank!