De gemeente voldoet niet aan Europese regelgeving (AI-act) inzake het gebruik van kunstmatige intelligentie (AI). Bovendien ontbreekt het de gemeente aan voldoende inzicht. Dat heeft burgemeester Martijn Vroom de gemeenteraad bericht. De EU-regels moeten onethisch gebruik en misbruik van AI voorkomen. Per 2 februari had de gemeente aan een deel van die regels moeten voldoen; op 1 augustus 2026 aan alle regels. Middels een stappenplan wil de burgemeester dat halen.

Vroom stelt dat door gebruik van AI de dienstverlening van de gemeente efficiënter kan worden. Tegelijk erkent hij dat er risico’s aan het gebruik van AI zitten. De burgemeester maakt onderscheid in vier AI-toepassingen:

= Verboden AI (onacceptabel risico): zoals sociale kredietsystemen en emotieherkenning op de werkvloer,

= Hoog-risico AI: waaronder AI-systemen in kritieke infrastructuur, justitieketens, biometrische identificatie en besluitvorming binnen overheidsorganisaties,

= Beperkt risico AI: zoals chatbots en andere transparante AI-systemen,

= Minimaal risico AI: zoals spellen en spamfilters, waarvoor geen aanvullende regelgeving geldt.

Verboden AI gebruikt de gemeente niet. Hoog-risico AI tot nu toe ook niet doch er wordt overwogen dat wel te gaan doen, aldus Vroom. Dat vereist echter wel eerst een fundamentele afweging van risico’s.

Dat de gemeente de zaken nog niet op orde heeft schrijft de burgemeester toe aan drie zaken:

= Handreikingen vanuit de wetgever en/of VNG (Vereniging Nederlandse Gemeenten, red.) ontbreken of zijn erg laat beschikbaar gesteld, waardoor een goede inventarisatie en analyse pas laat is gestart;

= Niet alle bedrijfssoftware die de gemeente gebruikt is centraal onder beheer gebracht. Hierdoor heeft nog geen volledige analyse kunnen plaatsvinden;

= Industriële automatisering en de software die hierin gebruikt wordt, wordt veelal door leveranciers beheerd. Met deze leveranciers zijn vaak nog geen afspraken over verantwoording over deze software gemaakt. Daardoor ontbreekt momenteel nog inzicht.

‘Dat de gemeente op dit moment nog niet volledig voldoet aan de eisen uit de AI-act vereist aandacht. Ter relativering kan gezegd worden dat de meeste gemeenten nog niet zover zijn en dat Leidschendam-Voorburg in sommige aspecten zelfs vooroploopt. Dit benadrukt dat we niet alleen staan in deze uitdaging en dat samenwerking en kennisdeling essentieel zijn om effectief en efficiënt aan de verplichtingen te voldoen’, aldus Vroom.

Er zijn tot nu toe geen aanwijzingen gevonden voor het onethische gebruik van AI, zo meldt de burgemeester. Op basis van de huidige bevindingen wordt hoog-risico AI ook niet toegepast binnen de gemeentelijke processen. De tot nu toe geïdentificeerde AI-toepassingen maken geen gebruik van persoonsgegevens.

‘Gezien de kansen die AI biedt voor innovatie en efficiëntere dienstverlening, is het belangrijk om met heldere kaders te komen. Dit zal niet alleen helpen om AI op een verantwoorde manier te benutten, maar ook de kans op verkeerd gebruik minimaliseren’.

‘Binnen de organisatie worden voor diverse terreinen al kansen gezien om met AI efficiënter te werken en/of de kwaliteit van de dienstverlening te verhogen. Te denken valt aan het gebruik van chatbots die klantcontacten overnemen of eigen medewerkers ondersteunen bij gesprekken met inwoners, intelligente zoekfuncties voor de afhandeling van WOO-verzoeken (wet open overheid, red.), intelligente verkeersmanagementsystemen, data-analyse software voor de controle op de rechtmatigheid’.

‘Het is belangrijk te beseffen dat de invoering van dit soort functionaliteit bij een overheidsorganisatie een hoge mate van zorgvuldigheid vereist. Fouten die AI maakt hebben immer direct een negatieve impact op onze inwoners. Toch is dit technologie voor de nabije toekomst en zal de organisatie de benodigde stappen – zij het zorgvuldig – zetten’. (foto Rijksoverheid)