AI neemt de wetenschap over. Of is er toch nog een sprankje hoop voor menselijke genieën?
Artikel beluisteren
Terence Tao is waarschijnlijk een van de scherpste breinen op aarde. Als jongetje van 10 deed hij al mee aan de Internationale Wiskunde Olympiade, won daar op z’n dertiende een gouden medaille, en is daarmee nog steeds de jongste deelnemer ooit die dat presteerde.
Hij groeide al snel uit tot een van de boegbeelden van de moderne wiskunde, die alle belangrijke prijzen won, waaronder de Fields Medaille, de ‘Nobelprijs’ voor de wiskunde. Tao voldoet heel bewust niet aan het cliché van het eenzelvige genie dat zich opsluit in zijn studeerkamer. Hij is initiator van diverse on line samenwerkingsprojecten tussen wiskundigen en blogt over zijn werk – waarbij hij nieuwe resultaten vaak gewoon ‘weggeeft’ zodat anderen er mee verder kunnen.
Subtiele achterdeurtjes
Tao is als adviseur ook betrokken bij de AI-grootmachten OpenAI, Anthropic en Google, maar dat maakt hem niet per se populairder onder collega’s.
AI laat namelijk de wiskunde trillen op zijn grondvesten. Op 6 oktober publiceerde OpenAI meer dan zevenhonderd wiskundige bewijzen en resultaten, vaak in de vorm van ellenlange artikelen die voor een mens nauwelijks nog te controleren zijn. Weliswaar bestaat er al enige tijd Lean, een zeer rekenintensief computerprogramma (van de oude stempel, dus geen AI) dat wiskundige bewijzen stap-voor-stap kan controleren op correctheid. Ongeveer de helft van die vloedgolf aan nieuwe resultaten was door Lean gecheckt op fouten en correct bevonden.
Plot-twist: AI kon het natuurlijk niet laten om ook Lean te onderzoeken op bugs, en vond er inderdaad eentje. Het was geen grote weeffout, en die is inmiddels gerepareerd, maar de vraag blijft hoe je ooit een computerresultaat absoluut kunt vertrouwen. Men vraagt zich zelfs af, of AI niet in staat zal zijn om stiekem subtiele achterdeurtjes in Lean te vinden waardoor die niet-correcte AI-resultaten als correct gaat kwalificeren. Onder mensen vertrouwen we vooral op de tand des tijds: als een resultaat door talloze wiskundigen wordt onderzocht en twintig jaar standhoudt, dan geloven we er pas echt in.
De OpenAI-vloedgolf heeft sommige promovendi – onderzoekers dus die nog geen vaste baan aan een universiteit hebben – tot wanhoop gedreven. Een vierjarig promotie-onderzoek in de wiskunde omvat vaak niet meer dan één of een handvol van de zeer specialistische problemen die AI nu in een vloek en een zucht oplost. Wat is dan nog je bestaansrecht als promovendus? Hoe kan je dan nog bewijzen dat je een vaste aanstelling als docent en uiteindelijk hoogleraar waard bent? Trouwens: de nieuwste AI-systemen zouden op de Internationale Wiskunde Olympiade moeiteloos de prestatie van de jonge Tao hebben overtroffen.
Tao is duidelijk van de school: if you can’t beat them, join them. Maar hij heeft makkelijk praten, zeggen zijn critici, met zijn vaste aanstelling, onaantastbare status en geprivilegieerde toegang tot de meest geavanceerde AI-systemen. In een interview in juli van dit jaar wordt hij stevig bevraagd over wat AI gaat betekenen voor de wiskunde, en hoe hij zijn eigen rol daarin ziet. Of zelfs de rol van menselijke wiskundigen überhaupt.
Tao citeert daarover een andere wiskundige, William Thurston: ‘Wiskunde gaat niet over het voldoen aan een abstract quotum van definities, stellingen en bewijzen, maar over begrip.’ Thurston zei dit nog voor de opkomst van AI, waardoor we dit nu moeten lezen als ‘menselijk begrip’. Volgens Tao is de rol van de toekomstige wiskundige bijna die van een wetenschapsjournalist: hij of zij moet de output van AI beschouwen als de ruwe grondstof, die doorgronden, en die dan op zo’n manier proberen te vertalen dat die ook voor andere mensen (weliswaar nog steeds wiskundige specialisten) toegankelijk en begrijpelijk wordt.
Diep inzicht in het spel
Het is opzienbarend, dat Terence Tao, een van de besten ter wereld in het bedenken en bewijzen van nieuwe wiskunde, denkt dat die rol voor menselijk wiskundigen binnenkort grotendeels uitgespeeld zal zijn.
Tot dertig jaar geleden konden schakers die illusie nog koesteren: dat ze een diep inzicht in het spel hadden waar computers met hun brute rekenkracht nooit bij zouden kunnen. En toen, in 1997, verloor wereldkampioen Gary Kasparov van IBM-supercomputer Deep Blue. De huidige wereldkampioen, Magnus Carlsen, zou kansloos verliezen van een schaak-app op een telefoon.
Het is achteraf moeilijk te geloven, dat topschakers werkelijk zo zelfingenomen waren om te denken dat computers nooit op hoog niveau zouden kunnen schaken. Het is immers een spelletje met overzichtelijke, ondubbelzinnige regels en complete informatie, dus bij uitstek geschikt voor een computer.
Het valt wiskunde-promovendi niet aan te rekenen dat ze hun illusie veel langer gekoesterd hebben. Om nieuwe wiskunde te bedenken en te bewijzen, is diepgaande kennis nodig van al eerder bedachte en bewezen wiskunde, en zelfs binnen elk specialisme is de hoeveelheid wetenschappelijke literatuur gigantisch. Maar uit de resultaten tot nu toe blijkt, dat AI beter dan mensen in staat is om die literatuur te overzien, schijnbaar niet-verwante resultaten met elkaar te combineren en daaruit nieuwe conclusies te trekken.
Sprankje hoop
Dat laat nog een sprankje hoop over voor menselijke genieën: zijn die AI-resultaten wel echt nieuw, of is het niet meer dan handig recombineren van wat eigenlijk al bekend was? Is AI momenteel het laaghangend fruit aan het plukken, maar kan het geen nieuwe bomen planten?
Dit is zeker ook van belang voor wie niks met wiskunde heeft. Wiskunde geldt als een van de moeilijkste vakken, een toppunt van menselijk kunnen, en dat wordt in een paar jaar goeddeels overgenomen door AI. Hoe zit dat dan met andere vakken? Volgens Tao is wiskunde de gangmaker in deze ontwikkeling: ‘Ik denk dat wat de wiskunde doet is: een bovengrens geven voor wat het maximaal veilige gebruik van AI kan zijn.’ Immers, in de wiskunde is uiteindelijk alles controleerbaar en bewijsbaar – of aantoonbaar fout.
Dat is in andere wetenschappelijke disciplines al een stuk vager. Toch is er één sector binnen de wetenschap die ongetwijfeld beter af is als die wordt overgenomen door AI: peer review. Deze beoordeling vooraf door collega’s van wetenschappelijke publicaties geldt nog steeds als de gouden standaard voor kwaliteit, maar het systeem is traag, omslachtig, zeer feilbaar en zit vol met ons-kent-ons en elkaars rug krabben. Zelfs flagrante rekenfouten passeren soms ongehinderd de peer-review. Het werk van Jason Arday was ook peer reviewed, dat zegt eigenlijk al genoeg.
Hardnekkige tegenkrachten
AI is bij uitstek geschikt om die taak over te nemen. Bij peer review gaat het er nu juist niet om dat je als reviewer iets nieuws ontdekt, maar checkt of het geclaimde nieuws klopt. AI kan veel beter dan mensen alle literatuur in dat specialisme overzien en naar inconsistenties zoeken. AI is ook veel beter dan mensen in het opsporen van fouten in statistische methodes en berekeningen.
Menselijke reviewers doen er nu maanden over om zulke rapportjes te produceren, waarna de auteur mag reageren, en de tweede ronde review ook weer maanden duurt, en dit hele systeem wordt in stand gehouden door wetenschappelijke tijdschriften die daarmee hun bestaansrecht en exorbitante abonnementsprijzen rechtvaardigen.
De tegenkrachten vanuit de grote wetenschappelijk uitgevers – zoals Elsevier, Nature en Science – zullen hardnekkig zijn, maar toch valt te voorzien dat dit hele systeem binnen vijf jaar grotendeels ontmanteld wordt en overgenomen door AI. Wat er dan nog van die grote uitgevers overblijft, is nauwelijks te overzien.
Wynia’s Week verschijnt 156 keer per jaar en wordt volledig mogelijk gemaakt door de donateurs. Doet u mee? Doneren kan zo. Hartelijk dank!



