AI is niet meer weg te denken uit het dagelijks leven. Er gaat geen dag voorbij of de media hebben het erover. Mooie voorbeelden versterken de behoefte aan het toepassen van AI-oplossingen ook bij de overheid. Maar er zijn ook aarzelingen en verwachte risico's op het raakvlak van privacy, ethiek, samenleving en betrouwbaarheid. Op dit moment, wanneer het vertrouwen in de politiek al laag is, kan de inzet van modellen zelfs leiden tot meer onrust. De toeslagenaffaire ligt nog als een open wond in de samenleving.
Juist door het maken van afspraken over hoe modellen ontwikkeld kunnen worden, en later toegepast kunnen worden genomen, nemen die risico's af. Het werken met AI gaat verder dan technologie. Betrouwbare data en de manier waarop de uitkomsten worden beoordeeld of toegepast (de mens) zijn ook kritisch voor een betrouwbare resultaat.
CIP-Overheid (Centrum voor Informatiebeveiliging en Privacybescherming) is een netwerkorganisatie die overheidsorganisaties ondersteunt met ervaringen, kaders en tools om bewust en ethisch met data te werken. Deze kaders, tools en ervaringen gaan ook helpen om bewuster AI modellen te ontwikkelen en toe te passen. En indirect werkt dit versterkend voor het vertrouwen in de overheid, en de democratie. De technologie helpt zowel bij modelontwikkeling, als bij modelbeheer. Doet het AI-model (nog) wat het moet doen (transparant)? Is de toegang tot het model en de data veilig (autorisaties)? Kan er verantwoording worden afgelegd over de resultaten van dit model (verantwoordelijkheid)? Een onderdeel waar de Autoriteit Persoonsgegevens de overheid goed monitort en er over rapporteert.
In deze sessie krijg je inzicht over hoe het hele ontwikkel- en toepassingsproces van AI modellen gecontroleerd plaats kan vinden. Hoe iedere speler in het proces zijn/haar verantwoordelijkheden kan invullen. En hoe de resultaten uiteindelijk bijdragen aan maatschappelijke waarde. En dus ook aan het vertrouwen in de democratische waarden.