De Universiteit van Amsterdam wil privacyveilige gegevens van studenten en medewerkers beschikbaar stellen voor onderzoeks- en analysedoeleinden.
Representatieve gegevens over studie- en carrièrepaden zijn een belangrijk ingrediënt voor een eerlijk beleid.
Dit project is onderdeel van het Amsterdam Data Exchange (AMdEX) innovatie fieldlab waar partijen samenwerken om diensten te ontwikkelen en testen om real-world beleid voor het delen van data te vertalen naar digitale overeenkomsten. Deze kunnen digitaal worden afgedwongen, gemonitord en gecontroleerd: partijen die data willen delen, kunnen voldoen aan wet- en regelgeving en consortiumbeleid. Binnen dit fieldlab onderzochten de Universiteit van Amsterdam (UvA), de Nederlandse universiteiten (UNL) en BlueGen.ai de toepassing van synthetische data in een collaboratieve onderzoeksomgeving en de impact op digitale overeenkomsten.
In de context van de UNL laten universiteiten aan de buitenwereld zien hoe zij hun maatschappelijke opdracht vormgeven, formuleren zij gezamenlijke ambities ten aanzien van wetenschappelijk onderwijs en onderzoek en lobbyen zij voor de randvoorwaarden die nodig zijn om deze ambities te realiseren. Het UNL-bureau faciliteert dit onder meer door cijfers en data over de universitaire sector beschikbaar te stellen en een platform te bieden voor kennisuitwisseling.
Een van de onderwerpen binnen UNL is gelijke kansen voor alle studenten en medewerkers. De onderliggende data die nodig is voor analyse is privacygevoelig en valt onder de Algemene Verordening Gegevensbescherming (AVG). Dit maakt het lastig om gezamenlijk onderzoek te doen en de data van meerdere universiteiten te combineren.
Veertien universiteiten werken middels onderwijs en onderzoek met ruim 61 duizend medewerkers en ruim 340 duizend studenten aan een sterke kennissamenleving die bijdraagt aan innovatie en aan het oplossen van wetenschappelijke vragen uit de maatschappij.
De Universiteit van Amsterdam wijst de weg
Het Centrum voor Digitale Innovatie en Kunstmatige Intelligentie van de UvA (LAB42) heeft het initiatief genomen om bovenstaande uitdaging op te lossen, omdat onderwijs, maatschappelijke verantwoordelijkheid en innovatie net zo belangrijk zijn als onderzoek aan de UvA. Het moet een plek zijn waar een diversiteit aan mensen, ervaringen en ideeën samenkomt. Studenten en medewerkers moeten zich thuis voelen en gelijke kansen krijgen.
Het hoofddoel van dit project is om synthetische data toe te passen als een privacyverbeterende technologie en onderzoek mogelijk te maken om beleid voor gelijke kansen te verbeteren. Het werk is gebaseerd op data van het Scientific Education HR System (WOPI) en er zijn verschillende subdoelen gedefinieerd:
- de kwaliteit van synthetische data beoordelen in de context van WOPI-onderzoek
- vertrouwd raken met het proces en de vereisten van synthetische datageneratie
- positie synthetische data in de AMdEX infrastructuur en overeenkomsten
Kunstmatige intelligentie om synthetische data te genereren
Met de software van BlueGen.ai kan UvA synthetische versies van datasets genereren die niet langer herleidbaar zijn tot vertrouwelijke en persoonlijke informatie uit individuele records. De software draait op kunstmatige intelligentie die leert van de originele data en synthetische datasets creëert die er hetzelfde uitzien en zich hetzelfde gedragen als de onderliggende echte data. Ze zijn geschikt voor experimenteel onderzoek en machine learning-ontwikkeling, zonder het risico op het lekken van gevoelige informatie. Dit geeft onderzoekers en beleidsmakers bij UvA en UNL de mogelijkheid om de statistieken van WOPI-data te gebruiken die voorheen niet toegankelijk waren.
Een privacy-by-design-oplossing om risico's te minimaliseren
Medewerkersgegevens zijn zeer gevoelig en eenvoudig te koppelen aan andere persoonsgegevens. In overleg met de Privacy Officer zijn diverse veiligheidsmaatregelen getroffen om de gegevens met de grootst mogelijke zorgvuldigheid te behandelen. De BlueGen.ai-software is geïnstalleerd als een stand-alone Docker-container zonder internettoegang op de beveiligde omgeving van de LAB42 MultiScale Networked Systems-groep van de UvA. Zowel de echte als de synthetische datasets zijn alleen toegankelijk voor lokale geautoriseerde UvA-onderzoekers en de echte gegevens worden na het trainen van het model uit de beveiligde omgeving verwijderd.
Beoordeling van de kwaliteit en privacy van synthetische data
Onderzoekers van de UvA gebruikten eerst de standaard evaluatiemogelijkheden van de BlueGen.ai software om de synthetische dataset te beoordelen. Dit omvat verschillende distributie-, gelijkenis-, correlatie-, temporele en privacy-metrieken. De laatste is gebaseerd op werk van WP29 en IEEE die het volgende definiëren:
“Een effectieve oplossing voor anonimisering voorkomt dat alle partijen een individu in een dataset kunnen uitkiezen, dat twee records binnen een dataset (of tussen twee afzonderlijke datasets) aan elkaar kunnen worden gekoppeld en dat er informatie uit een dergelijke dataset kan worden afgeleid.”
Na de eerste kwaliteits- en privacy-evaluatie op basis van BlueGen.ai-software stelden de UvA-onderzoekers domeinspecifieke vragen aan zowel de echte als de synthetische datasets om de geschiktheid voor het doel te bepalen. De antwoorden op deze vragen zijn vertrouwelijk en kunnen niet worden gepubliceerd, maar omvatten gemiddelde salarisschalen en salarisgroei per geslacht in de loop van de tijd voor verschillende rollen.
“BlueGen.ai synthetische data biedt vergelijkbare antwoorden op statistische analyses van WIPE-data”
Ana Oprescu,
Universitair docent LAB42 – Universiteit van Amsterdam
Synthetische data in de praktijk
De Universiteit van Amsterdam heeft bewezen dat het mogelijk is om een privacy-veilige en representatieve synthetische WOPI-dataset te genereren met de BlueGen.ai-software. De standaard gelijkenis-, bruikbaarheids- en privacy-evaluaties die worden aangevuld met de domeinspecifieke analyses van UvA-experts, geven voldoende vertrouwen om de verkenning van synthetische data in de praktijk voort te zetten. Vooral voor interne universitaire onderzoeksonderwerpen rond studenten en medewerkers zijn synthetische data een haalbare optie.
Een stap verder is het genereren van synthetische WOPI-data over meerdere universiteiten onder de UNL-paraplu en het uitvoeren van gezamenlijk verkennend onderzoek voor beleidsvorming. Synthetische data lost een groot deel van de privacy-uitdaging op bij het vergelijken en combineren van inzichten van meerdere universiteiten. De voorwaarden waaronder echte of synthetische data beschikbaar is, kunnen worden afgedwongen, bewaakt en gecontroleerd door een digitale notaris (AMdEX), terwijl synthetische data die vereisten voor het delen van data drastisch verlaagt. Daarnaast kan de BlueGen.ai-oplossing worden uitgevoerd in een compute-to-data (op de universiteit) of een vertrouwde externe omgeving zoals SURF, de IT-coöperatie van onderwijs en onderzoek in Nederland.
- U wilt de statistieken in een externe dataset onderzoeken zonder een heel specifieke scope
- U wilt experimenteren met uw eigen modellen en software op een externe dataset
- You want to enrich external research with the statistical value of your own data set, but not share the individual records due to confidentiality or privacy