Gebruiken medewerkers van jouw gemeente AI-tools om hun werk efficiënter te doen? En weet je zeker dat de data van inwoners veilig blijft? Steeds meer gemeenten experimenteren met kunstmatige intelligentie. Vaak zonder goede voorzorgsmaatregelen, waardoor je grote risico’s loopt. Ook met Co-pilot. Hoe zorg je dat je deze ontwikkeling niet alleen slim inzet, maar je ook werkt met soevereine en veilige AI?

AI biedt veel kansen voor gemeenten. Denk aan snellere dienstverlening, betere besluitvorming en minder werkdruk. Tegelijk brengt het nieuwe risico’s met zich mee. Bijvoorbeeld dat vertrouwelijke gegevens van inwoners uitlekken. Ook de Algemene Verordening Persoonsgegevens (AVG) stelt eisen aan AI en het gebruik van algoritmes. Gemeenten die nu niet investeren in veilige AI, lopen achter de feiten aan.

Waarom veilige AI belangrijk is voor inwoners

Gemeenten werken met gevoelige informatie van inwoners. Hierbij valt te denken aan persoonlijke dossiers, financiële gegevens en gezondheidsinformatie. Als deze gegevens in verkeerde handen vallen, zijn de gevolgen groot. Bijvoorbeeld reputatieschade, hoge boetes of verlies van vertrouwen bij inwoners.

Bovendien eist de Europese AI Act dat gemeenten verantwoord omgaan met AI-systemen. Hoog-risico toepassingen, zoals fraudedetectie of besluiten over uitkeringen, moeten voldoen aan strenge regels. Gemeenten die niet aan deze eisen voldoen, riskeren boetes of juridische stappen. Ook de cyberbeveiligingswet stelt dat de overheid AI meeneemt in de vereiste risicoanalyse.

Digitale soevereiniteit

Een ander belangrijk punt is digitale soevereiniteit. Veel populaire AI-tools, zoals ChatGPT en Copilot draaien op servers buiten de Europese Unie (EU). Dat betekent dat data buiten het bereik van de Nederlandse wet kunnen vallen. Met een soevereine AI-oplossing behoud je de controle over je data en processen. Alle gegevens blijven binnen Nederland of de EU en voldoen aan de AVG.

Daan Witte, co-founder van soev.ai legt in de Haute Equipe podcast uit hoe de regie die veel gemeenten menen te hebben over hun AI-gebruik in de praktijk toch tegenvalt. Met als mogelijk gevolg dat bijvoorbeeld AI-geautomatiseerde processen verloren gaan.

De risico’s van onveilige AI

Veel gemeenten gebruiken al AI, al gaat dit niet altijd op een veilige manier. Bijvoorbeeld omdat ambtenaren zelf AI-tools downloaden, zonder dat de organisatie daar zicht op heeft. Hierdoor kan gevoelige informatie lekken. Zo bleek uit een steekproef dat medewerkers van de gemeente Eindhoven in een maand tijd meer dan duizend documenten met persoonsgegevens naar externe AI-tools hadden geüpload.

Ook discriminatie is een groot risico. AI-systemen leren van historische gegevens. Als die gegevens vooroordelen bevatten, neemt de AI die over. Zo kunnen inwoners ten onrechte een uitkering of voorziening mislopen. Zonder goede controle kan AI zelfs beslissingen nemen die niet te traceren zijn.

Daarnaast loop je het risico dat gegevens worden misbruikt door buitenlandse overheden of bedrijven. Als je AI-tools gebruikt die draaien op niet-Europese servers, valt je data onder buitenlandse wetgeving. Bijvoorbeeld onder de Amerikaanse Cloud Act of Chinese wetten. Dat betekent dat buitenlandse overheden in sommige gevallen toegang kunnen krijgen tot gegevens van inwoners.

De voordelen van soevereine AI

Soevereine AI biedt uitkomst. Het betekent dat AI-toepassingen volledig binnen je eigen controle draaien. Alle data blijven binnen Nederland of de EU en vallen onder Europese wetgeving. Zo bescherm je gevoelige informatie beter en voorkom je dat buitenlandse partijen ermee aan de haal gaan.

Een ander voordeel is dat je zelf bepaalt hoe en wanneer AI wordt ingezet. Je hoeft niet afhankelijk te zijn van grote techbedrijven uit het buitenland. Daarmee behoud je grip op je eigen informatievoorziening.

Ook voor inwoners is soevereine AI belangrijk. Zij willen zeker weten dat hun gegevens veilig zijn. Met een soevereine oplossing laat je zien dat je transparant en verantwoordelijk omgaat met hun gegevens. Dat versterkt het vertrouwen in je organisatie.

Zo bescherm je de data van inwoners

Om vertrouwelijke informatie te beschermen, zijn er een aantal belangrijke stappen die je kunt nemen.

Kies voor een Europese AI-oplossing. Zorg dat alle gegevens binnen de EU blijven en vallen onder Europese wetgeving.
Zorg voor passende beveiliging. Versleutel gegevens en gebruik sterke authenticatie. Zo voorkom je dat ongeautoriseerde partijen toegang krijgen.
Stel duidelijke regels op. Maak afspraken over het gebruik van AI binnen je organisatie. Bijvoorbeeld dat ambtenaren geen gevoelige gegevens in publieke AI-tools invoeren.
Voer regelmatig controles uit. Check of AI-systemen nog steeds voldoen aan de wet- en regelgeving. Bijvoorbeeld via audits of risicoanalyses.
Train medewerkers. Zorg dat iedereen weet hoe ze AI veilig kunnen gebruiken en welke risico’s er zijn.
Zorg voor AI-kennishouders binnen de organisatie. Zo weten medewerkers bij wie ze terecht kunnen met vragen rondom veilige AI, en het verantwoorde en ethische gebruik ervan.

Onze privacyadviseurs ondersteunen gemeenten graag bij bovenstaande stappen.

Jouw volgende stap: maak werk van veilige AI

Wil je meer weten over hoe jouw gemeente veilige en soevereine AI kan inzetten? Haute Equipe helpt je graag verder. Wij denken mee over de inrichting en overstap naar soevereine en veilige AI binnen gemeenten. Zo zorg je dat je klaar bent voor de toekomst, zonder risico’s voor inwoners of je eigen organisatie.