Wie houdt het laatste woord? De menselijke maat in een AI-wereld

Hoe erg is het als dit artikel door AI is geschreven? Of als de quotes niet van de mensen op het podium komen, maar van een algoritme dat tientallen interviews heeft geanalyseerd? Verandert dat als het niet om een artikel gaat, maar om de diagnose van je klachten?

Er hangt een vertrouwde sfeer op het podium. Dina kent Martha en Katherina al sinds de opkomst van internet. Juist in deze periode denkt ze vaak terug aan die tijd. ‘Eigenlijk doet AI me denken aan de komst van internet’, zegt ze. ‘Toen waren we vooral bezig met de technologie. Nu dreigt hetzelfde te gebeuren. Terwijl het minstens zo interessant is wat technologie met mensen en de samenleving doet.’

Martha, directeur van het ANP, herkent die vergelijking. Juist omdat AI steeds beter wordt in het analyseren van grote hoeveelheden informatie, liggen er kansen, maar wordt haar vak ook ingewikkelder. Journalisten bij het ANP moeten zich vooral blijven focussen op de feitelijkheid en betrouwbaarheid van de bron van nieuws en informatie’, zegt ze. ‘Hoe lastig dat ook wordt, dit zal het verschil blijven maken.’

Vertrouwen blijkt een terugkerend thema. Neem de journalistiek. Dagvoorzitter Jeroen Smit noemt het MH17-onderzoek van Bellingcat als voorbeeld van de kracht van data. Grote hoeveelheden openbare informatie maakten het mogelijk om gebeurtenissen te reconstrueren die jarenlang onderwerp van discussie waren.

‘Het is fantastisch om op basis van data uit veel verschillende bronnen vast te kunnen stellen wat er gebeurd is’, zegt Martha. ‘Maar in een groeiende zee van ondefinieerbare informatie is het soms lastig om te bepalen waar je je energie op inzet.’

Juist daarom blijft het laatste woord bij de mens, benadrukt ze. Bij het ANP geldt niet voor niets het vierogenprincipe en is er altijd een ‘human in the loop.’ ‘Alleen op AI zullen we niet varen’, zegt ze. ‘En gelukkig hechten mensen momenteel meer waarde aan journalistiek die door mensen is gemaakt.’

In de zorg speelt een vergelijkbaar vraagstuk. AI is steeds beter in het herkennen van patronen op scans en in medische data. Soms zelfs beter dan mensen. Een algoritme analyseert duizenden röntgenfoto’s in een fractie van de tijd die een radioloog nodig heeft, maar het is nog altijd de radioloog die het finale oordeel velt.

Toen de zaal, ruim honderd noordelijke bestuurders en ondernemers, de stelling kreeg voorgelegd of zij een diagnose van een algoritme boven die van een arts zouden verkiezen, koos zo’n veertig procent voor AI. Zestig procent hield vast aan de arts.

Volgens Katherina hoeft dat geen tegenstelling te zijn. ‘Veel diagnoses worden al ondersteund door AI. Het helpt ons om patronen te herkennen die een mens mogelijk mist.’ Tegelijkertijd ziet ze kansen buiten het ziekenhuis. ‘Technologie kan de drempel naar zorg verlagen, bijvoorbeeld voor mensen met mentale problemen, die dan eerder om hulp durven te vragen.’

Daarmee verschuift het gesprek vanzelf van technologie naar ondernemerschap. Want de techniek is er; het verdienmodel vaak nog niet.

‘Ondernemers willen hier echt wel mee aan de slag’, zegt Dina. ‘Maar het is nog niet makkelijk om er een winstgevend businessmodel uit te halen. Zeker als het om preventie gaat, is het systeem daar nog niet op ingericht.’

Volgens Katherina is dat precies het punt waarop een keuze ligt. ‘We kunnen wachten tot de overheid en de zorgverzekeraars in beweging komen, of we komen zelf samen om nieuwe businessmodellen voor te dragen. We zitten op een kantelpunt: er móet iets gebeuren.’

In de zaal klinkt instemming, met één nuance: een financiële prikkel is nodig, bijvoorbeeld een model dat beloont op resultaat in plaats van op verrichtingen. Ook wordt gepleit voor meer internationale samenwerking en kennisuitwisseling.

In het gebruik van AI ziet Dina nog een opvallende ontwikkeling. ‘Laatst hoorde ik een groep mensen naar AI verwijzen als ‘hij’. Laten we er in ons taalgebruik op letten dat AI geen mens is.’ Volgens haar is dat meer dan een taalkundige kwestie. Hoe menselijker AI wordt, hoe belangrijker het wordt om kritisch te blijven op de keuzes die we zelf maken.

Daarom pleit Jeroen ervoor niet alleen naar de korte termijn te kijken. Een gedachte die Katherina direct herkent. ‘Daar is een naam voor: de wet van Amara.’ Nieuwe technologieën worden volgens die theorie op de korte termijn vaak overschat en op de lange termijn onderschat.