Om de privacy- en informatiebeveiligingsrisico’s rondom het gebruik van (generatieve) AI te beheersen, moeten organisaties een combinatie van technische en organisatorische maatregelen inrichten. Het NCSC, de Autoriteit Persoonsgegevens (AP), en normenkaders zoals de ISO 27001 en de specifieke ISO 42001 (voor AI-managementsystemen) bieden hiervoor handvatten.
Hier is een overzicht van de belangrijkste maatregelen:
Organisatorische maatregelen (Beleid & Governance)
- Beleid en gedragsregels opstellen (‘Shadow AI’ voorkomen)
Stel een helder beleid op waarin expliciet is vastgelegd welke (publieke) AI-tools wel en niet gebruikt mogen worden voor werkdoeleinden.
Verbied het invoeren van persoonsgegevens, bedrijfsgeheimen en vertrouwelijke documenten in openbare, ongecontracteerde tools zoals de gratis versies van ChatGPT of Gemini. - AI-geletterdheid en training
Implementeer een verplicht trainingsprogramma. De AP raadt een meerjarig actieplan aan om de ‘AI-geletterdheid’ van medewerkers systematisch te verhogen. Medewerkers moeten begrijpen wat AI is, hoe ‘hallucinaties’ werken en waarom het invoeren van data in publieke tools een datalek is. - Risicobeoordelingen (DPIA en IAMA)
Voer een Data Protection Impact Assessment (DPIA) uit voordat een zakelijk AI-systeem dat persoonsgegevens verwerkt wordt geïmplementeerd.
Voor AI met impact op burgers of klanten (bijv. in een gemeente), voer een Impact Assessment Mensenrechten en Algoritmes (IAMA) uit om te toetsen op non-discriminatie en eerlijkheid. - Verwerkersovereenkomsten en Enterprise licenties
Gebruik uitsluitend AI-systemen waarmee de organisatie een contract heeft (zoals Copilot for Microsoft 365 of ChatGPT Enterprise). Sluit hierbij een verwerkersovereenkomst af waarin contractueel is vastgelegd dat de leverancier de bedrijfs- en persoonsgegevens niet mag gebruiken voor het trainen van hun eigen modellen. - Aanwijzen van verantwoordelijkheden
Creëer eigenaarschap. Stel bijvoorbeeld een ‘AI-regisseur’ (of AI Executive Champion) aan die toezicht houdt op de naleving van het beleid en fungeert als brug tussen de business, CISO en Functionaris Gegevensbescherming (FG). - Implementatie ISO 42001
Overweeg de implementatie van de (nieuwe) ISO 42001 norm voor een Artificial Intelligence Management System (AIMS). Deze norm bouwt voort op het fundament van ISO 27001 en bevat 38 specifieke beheersmaatregelen verdeeld over 9 domeinen gericht op het ethisch, veilig en transparant inzetten van AI.
Technische maatregelen
- Afschermen van onveilige tools (Blokkeren)
Blokkeer op netwerkniveau toegang tot openbare AI-chatbots als de risico’s te groot zijn en medewerkers zich niet aan de gedragsregels houden (zoals de gemeente Eindhoven deed na hun datalek). - Inrichten van een afgeschermde omgeving (Walled Garden)
Bied een veilig, intern alternatief aan. Rol een ‘gesloten’ of ‘private’ AI-omgeving uit, bijvoorbeeld via Microsoft Azure OpenAI of een lokale, on-premise LLM, waarbij gegarandeerd is dat ingevoerde data de bedrijfsomgeving niet verlaat en niet voor externe training wordt gebruikt. - Identity & Access Management (IAM) en ‘Least Privilege’
AI-tools die gekoppeld zijn aan de interne bestandomgeving (zoals Microsoft Copilot) kunnen bestanden indexeren. Zorg ervoor dat autorisaties strikt zijn ingericht volgens het least privilege principe. Een medewerker mag via de AI-tool alleen antwoorden krijgen gebaseerd op bestanden waar hij of zij daadwerkelijk toegangsrechten toe heeft. - Data Loss Prevention (DLP)
Implementeer DLP-software om te detecteren en te voorkomen dat medewerkers documenten die gemarkeerd zijn als ‘vertrouwelijk’ of persoonsgegevens (zoals BSN-nummers of creditcardgegevens) uploaden naar ongeautoriseerde cloudapplicaties of AI-prompts. - Anonimisering en Pseudonimisering
Als er toch AI-modellen intern getraind of gebruikt moeten worden, pas dan technieken toe om persoonsgegevens te anonimiseren of pseudonimiseren voordat ze het model ingaan. Het EDPB stelt dat data pas anoniem is als personen, direct of indirect, met geen mogelijkheid meer geïdentificeerd kunnen worden door middel van zoekopdrachten. - Logging en monitoring
Zorg voor adequate logging van AI-systemen (zoals de EU AI Act ook voorschrijft voor hoog-risico systemen). Dit maakt traceerbaarheid mogelijk om achteraf vast te stellen welke data is ingevoerd, welke output is gegenereerd en wie verantwoordelijk was.
Met deze gecombineerde aanpak beschermt u persoonsgegevens en voorkomt u dat intellectueel eigendom weglekt, terwijl u de organisatie wel in staat stelt om op een veilige manier de efficiëntievoordelen van AI te benutten.