Uitdagingen en Oplossingen voor Transparantie in AI bij de Overheid
Den Haag, maandag, 3 februari 2025.
Transparantie is essentieel voor het verantwoord gebruik van AI-algoritmes door overheidsinstanties. Ondanks het belang hiervan, blijkt de uitvoering in de praktijk vaak lastig. Om dit te adresseren, hebben The Green Land en de Open State Foundation in 2024 het 5-sterrenmodel ontwikkeld. Dit model biedt steun aan publieke organisaties om transparantie te realiseren in hun AI-systemen. Tijdens een aanstaande kennissessie op donderdag worden vragen verkend zoals wat transparantie zinvol maakt en hoe deze het beste gerealiseerd kan worden. De sessie nodigt diverse perspectieven uit om bij te dragen, in een poging om inclusieve en effectieve oplossingen te vinden. Deze bijeenkomst belooft een belangrijke stap te zijn in de richting van meer inzicht in de werking en impact van algoritmes binnen de overheid.
Stand van Zaken Nationaal Algoritmeregister
Het Nationaal Algoritmeregister toont momenteel beperkte effectiviteit in het bereiken van transparantie. Van de geschatte 16.000 algoritmes die de overheid gebruikt, zijn er op dit moment slechts 730 geregistreerd [3]. Dit is een stijging ten opzichte van de 610 geregistreerde systemen begin december 2024 [3]. Zorgwekkend is dat slechts 2% van de algoritmen met significante impact op burgers is geregistreerd [3]. Staatssecretaris Szabó heeft tijdens het Kamerdebat op 30 januari 2025 aangegeven dat alle departementen hebben toegezegd hun hoog-risico-systemen in 2025 te registreren [3].
Concrete Stappen naar Verbeterde Implementatie
Er worden verschillende initiatieven ontplooid om de transparantie te verbeteren. Zo organiseert het ministerie van Binnenlandse Zaken op 6 maart 2025 de Conferentie Waardengedreven Dialogen, waar de resultaten van vier dialoogsessies over generatieve AI bij de overheid worden gedeeld [2]. Ook is de politie bezig met de implementatie van het KRAAI-programma (Kwaliteits- en Risicomanagementsysteem voor Algoritmes en AI), dat in de eerste helft van 2025 moet worden afgerond [4]. Dit programma richt zich specifiek op het verantwoord en legitiem inzetten van algoritmische toepassingen [4].
Uitdagingen in de Praktijk
De implementatie van transparante AI-systemen brengt verschillende uitdagingen met zich mee. Organisaties worstelen met het vinden van de juiste balans tussen transparantie en operationele effectiviteit [6]. Een specifiek voorbeeld hiervan is te vinden in de financiële dienstverlening, waar regelgeving zoals DORA, AVG en PSD2 extra eisen stelt aan de bescherming van klantdata en cybersecurity [6]. Lokale overheden worden bovendien geconfronteerd met toenemende cyberdreigingen zoals ransomware, terwijl ze tegelijkertijd moeten voldoen aan strenge regelgeving rond transparantie en gegevensbescherming [6].
Bronnen
- www.nationaalarchief.nl
- www.dataethiek.info
- www.binnenlandsbestuur.nl
- www.opdrachtoverheid.nl
- www.proximusnxt.nl