Wie bestuurt straks wie? Van kunstmatige intelligentie naar menselijke verantwoordelijkheid

De kernvraag is niet alleen wat kunstmatige intelligentie kan. De kernvraag is wie richting geeft, wie kan tegenspreken en wie verantwoordelijkheid draagt voor de gevolgen.

De centrale vraag achter menselijke regie

Kunstmatige intelligentie kan in korte tijd grote hoeveelheden informatie verwerken. Taalmodellen kunnen argumenten ordenen, documenten vergelijken, scenario’s uitwerken, tegenargumenten formuleren en ingewikkelde vraagstukken toegankelijk maken. Dat biedt reële maatschappelijke voordelen. AI kan mensen beter informeren, patronen zichtbaar maken en alternatieve verklaringen naar voren brengen die anders buiten beeld blijven.

Juist die kracht creëert echter een nieuwe kwetsbaarheid. Wanneer een systeem sneller analyseert, overtuigender schrijft en meer alternatieven produceert dan een mens zelfstandig kan overzien, wordt het steeds gemakkelijker om het antwoord over te nemen. Niet na een bewust besluit om de verantwoordelijkheid uit handen te geven, maar stap voor stap: omdat de tekst logisch klinkt, omdat de werkdruk hoog is of omdat de gebruiker onvoldoende tijd heeft om elke bron, aanname en weglating te controleren.

Een overtuigend antwoord is niet automatisch een juist antwoord. Een logisch opgebouwde redenering is niet automatisch een rechtvaardige redenering. En een efficiënte oplossing is niet automatisch een menselijke oplossing.

Wanneer de mens een goedkeuringsstempel wordt

Stel dat een gemeente AI gebruikt om een besluit voor te bereiden. Het systeem analyseert het dossier, selecteert feiten, formuleert het juridische kader, vergelijkt eerdere gevallen en stelt een conclusie op. Een medewerker leest het resultaat enkele minuten door en zet daarna een naam onder het document.

Formeel was een mens betrokken. Maar had die medewerker voldoende tijd om het volledige dossier zelfstandig te begrijpen? Kon diegene vaststellen welke informatie buiten beschouwing bleef? Was zichtbaar welke gegevens zwaar wogen? Bestond werkelijk de bevoegdheid én organisatorische ruimte om het advies af te wijzen?

Wanneer het antwoord op die vragen ontkennend is, verandert de mens in een goedkeuringsstempel. De handtekening blijft menselijk, maar het denkproces en de feitelijke richting zijn grotendeels aan technologie overgelaten. Dat is menselijke aanwezigheid zonder betekenisvolle menselijke controle.

Automatiseringsbias: wanneer vertrouwen controle vervangt

Automatiseringsbias is de neiging om te veel vertrouwen te stellen in een geautomatiseerde uitkomst, vooral wanneer het systeem meestal bruikbare resultaten levert. Zoals een navigatiesysteem dat ons tientallen keren correct leidt, kan ook een taalmodel een gewoonte van vertrouwen opbouwen. De honderdste aanbeveling wordt dan minder kritisch bekeken, juist omdat de voorgaande antwoorden overtuigend en nuttig waren.

Dit risico groeit bij tijdsdruk, kennisverschillen, organisatorische hiërarchie en een cultuur waarin AI als objectiever of wetenschappelijker wordt voorgesteld dan de professional. Formeel afwijken mag dan misschien, maar feitelijk kan elke afwijking zoveel uitleg of risico meebrengen dat volgen de veiligste loopbaanbeslissing wordt.

Menselijk toezicht vraagt daarom niet alleen om een goedkeuringsknop. Het vraagt om bescherming van de beslisser: opleiding, onafhankelijke beoordelingsruimte, tijd, bevoegdheid en een cultuur waarin tegenspraak wordt gewaardeerd.

Position papers als verantwoordingsanker

De Kamer van Sociale Waarden stelt voor om belangrijke maatschappelijke en organisatorische keuzes vast te leggen in position papers. Zo’n document is meer dan een verzameling argumenten. Het maakt zichtbaar welke waarden richting gaven, welke groepen door het besluit worden geraakt, welke belangen botsen, welke onzekerheden blijven bestaan en waarom een bepaalde positie uiteindelijk verdedigbaar werd geacht.

AI mag daarbij onderzoeken, vergelijken, structureren en kritisch bevragen. De menselijke positie moet echter door mensen worden vastgesteld. Daarbij moet de bijdrage van AI zichtbaar blijven: wat kwam uit het systeem, welke bronnen zijn gecontroleerd, welke passages zijn gewijzigd en welk advies is bewust niet gevolgd?

Een position paper is dus geen magisch bewijs dat menselijke beoordeling werkelijk plaatsvond. Het kan wél een verantwoordingsanker worden wanneer het proces erachter traceerbaar is.

Bescherm ook de professionele beslisser

Menselijke controle beschermt degene over wie wordt beslist, maar ook degene die het besluit moet nemen. Een leerkracht, arts, hulpverlener, rechter, ambtenaar of toezichthouder kan ervaren dat een geautomatiseerde aanbeveling botst met professionele kennis of concrete omstandigheden. De organisatie moet dan niet vragen waarom de professional “het systeem niet gewoon volgde”, maar ruimte bieden om de afwijking zorgvuldig te onderzoeken.

Verantwoordelijkheid moet aansluiten bij werkelijke invloed. Een medewerker kan niet eerlijk volledig verantwoordelijk worden gehouden voor een uitkomst wanneer die medewerker onvoldoende informatie, tijd, deskundigheid of bevoegdheid had om het systeem te controleren.

Drie open vragen voor de samenleving

Doe mee aan de survey