Zonder drempels geen verantwoording
Nieuw artikel van Hein van den Steenhoven
Wie AI verantwoord wil inzetten, moet vooraf duidelijke grenzen stellen. Wanneer is een uitkomst aanvaardbaar? Wie mag ingrijpen? En hoe toon je aan dat de afspraken ook werken?
Wie AI verantwoord wil inzetten, moet vooraf duidelijke grenzen stellen. Wanneer is een uitkomst aanvaardbaar? Wie mag ingrijpen? En hoe toon je aan dat de afspraken ook werken?
In zijn nieuwe artikel voor NOREA gaat Hein van den Steenhoven, expert in AI-governance, risicomanagement en compliance bij ARCAAS, in op deze vragen. Onder de titel ‘Zonder drempels geen verantwoording’ laat hij zien hoe organisaties de stap kunnen zetten van algemene principes naar concrete, toetsbare afspraken.
Van goede bedoelingen naar duidelijke grenzen
Begrippen als ‘eerlijk’, ‘passend’ en ‘menselijk toezicht’ klinken vanzelfsprekend. Maar wat betekenen ze bij een concrete AI-toepassing? Welke mogelijke schade moet worden voorkomen? Welke verschillen in uitkomsten vragen om onderzoek? En wanneer moet het gebruik worden aangepast of gepauzeerd?
Het artikel verbindt drie onderwerpen: beheersmaatregelen die passen bij de mogelijke gevolgen, het toetsen van eerlijke uitkomsten en menselijk toezicht dat daadwerkelijk werkt. De kern: leg vooraf vast welke grenzen gelden, wie verantwoordelijk is en welke actie volgt wanneer een grens wordt overschreden.
Menselijk toezicht is meer dan meekijken
Een medewerker die een AI-advies bevestigt, biedt niet automatisch betekenisvol toezicht. Daarvoor zijn ook voldoende tijd, kennis, informatie en bevoegdheden nodig. Medewerkers moeten een advies kunnen beoordelen, ter discussie stellen en zo nodig naast zich neerleggen.
Dit artikel is het tweede deel van een drieluik over AI-governance voor IT-auditors. Waar het eerste deel draaide om een compleet en controleerbaar AI-dossier, staat nu de inhoudelijke afweging centraal: hoe bepaal je vooraf wat verantwoord is, en hoe maak je dat aantoonbaar?
Lees het volledige artikel ‘Zonder drempels geen verantwoording’ van Hein van den Steenhoven bij NOREA.