In een belangrijke ontwikkeling voor de toekomst van AI-governance in Europa, is CiviQs uitgenodigd om deel te nemen aan het opstellen van de eerste General-Purpose AI (GPAI) Code of Practice van de Europese Unie. Deze uitnodiging onderstreept niet alleen de erkenning van CiviQs’ expertise op het gebied van AI-implementatie in de publieke sector, maar markeert ook een cruciaal moment in de evolutie van AI-regelgeving in Europa.[1]
Context: de EU AI Act en de noodzaak voor een Code of Practice
De ontwikkeling van deze Code of Practice vindt plaats tegen de achtergrond van de EU AI Act, die op 1 augustus 2024 in werking is getreden. Deze wet vormt het meest uitgebreide regelgevende kader voor AI ter wereld en heeft verstrekkende gevolgen voor zowel ontwikkelaars als gebruikers van AI-systemen.
Daniel Verloop, AI-specialist bij CiviQs, legt uit: “De EU AI Act is een mijlpaal in de regulering van AI, maar de praktische implementatie ervan, vooral met betrekking tot GPAI-systemen, vereist verdere uitwerking. De Code of Practice waar we aan gaan bijdragen, zal een brug slaan tussen de brede principes van de wet en de dagelijkse realiteit van AI-ontwikkeling en -gebruik.”
Wat is General-Purpose AI?
General-Purpose AI, of GPAI, verwijst naar AI-systemen die een breed scala aan taken kunnen uitvoeren, in tegenstelling tot gespecialiseerde AI die voor één specifieke taak is ontworpen. Voorbeelden van GPAI zijn LLMs zoals GPT-4 of BERT, die kunnen worden ingezet voor taken variërend van tekstgeneratie tot sentimentanalyse.
Verloop benadrukt: “De veelzijdigheid van GPAI brengt unieke uitdagingen met zich mee op het gebied van governance. Hoe reguleer je een systeem dat potentieel voor alles kan worden ingezet, van het schrijven van poëzie tot het analyseren van medische gegevens?”
De rol van CiviQs in het opstellen van de Code of Practice
CiviQs brengt een schat aan kennis mee naar de onderhandelingstafel, met een diepgaand begrip van de werking, beperkingen en sterke punten van GPAI-systemen. Hun kritische benadering zal van grote waarde zijn bij het vormgeven van een richtlijn die zowel de innovatieve kracht van AI erkent als de noodzakelijke waarborgen biedt.
Expertise en focus
“Onze deelname aan dit proces zal een evenwichtige aanpak waarborgen,” stelt Verloop. “We zullen ons vooral richten op het aanpakken van bias in AI-modellen, een gebied waar onze expertise direct relevant is voor de publieke sector.”
CiviQs’ expertise op dit gebied komt voort uit jarenlange ervaring met de implementatie van AI-systemen in overheidscontexten. Verloop licht toe: “We hebben uit eerste hand gezien hoe onbedoelde bias in AI-systemen kan leiden tot oneerlijke of ineffectieve besluitvorming in de publieke sector. Ons doel is om deze lessen te vertalen naar concrete richtlijnen in de Code of Practice.”
Technische uitdagingen van GPAI
Een van de grootste uitdagingen bij het reguleren van GPAI is de snelheid waarmee deze technologie zich ontwikkelt. Verloop merkt op: “Wat vandaag state-of-the-art is, kan morgen achterhaald zijn. De Code of Practice moet daarom flexibel genoeg zijn om technologische vooruitgang te accommoderen, maar ook robuust genoeg om effectieve bescherming te bieden.”
Enkele specifieke technische aspecten waar CiviQs zich op zal richten, zijn:
- Schaalbaarheid en efficiëntie van GPAI-systemen
- Transparantie en verklaarbaarheid van AI-besluitvorming
- Interoperabiliteit tussen verschillende AI-systemen
- Veiligheid en beveiliging van AI-modellen
Samenwerking op nationaal en Europees niveau
Als lid van de Nederlandse AI Coalitie (NLAIC) brengt CiviQs niet alleen zijn eigen expertise mee, maar ook dat van een breder netwerk van Nederlandse AI-professionals.[2] Deze ervaring in nationale samenwerking zal van grote waarde zijn bij het opstellen van een pan-Europese code.
Verloop benadrukt het belang van deze bredere samenwerking: “Door onze betrokkenheid bij de NLAIC hebben we geleerd hoe belangrijk het is om verschillende perspectieven samen te brengen – van technische experts tot beleidsmakers en ethici. We zullen deze inclusieve aanpak meenemen naar de Europese tafel.”
Doelstellingen voor de Code of Practice
CiviQs heeft duidelijke doelstellingen voor zijn deelname aan dit proces. Verloop schetst de volgende aandachtspunten:
- Het bevorderen van veilige AI-implementatie
- Het waarborgen van verantwoord gebruik van GPAI
- Het stimuleren van effectieve inzet van AI-technologieën
- Het nastreven van Europees voordeel in de mondiale AI-race
“Ons ultieme doel is om bij te dragen aan een raamwerk dat de voordelen van GPAI maximaliseert voor Europese burgers en organisaties, terwijl we potentiële risico’s minimaliseren,” legt Verloop uit. “We willen een Code of Practice die innovatie stimuleert, maar ook de Europese waarden van privacy, gelijkheid en transparantie beschermt.”
Implicaties voor de publieke sector
De verwachtingen rond de impact van deze Code of Practice zijn hoog. CiviQs voorziet dat de uitkomsten van dit proces verstrekkende gevolgen zullen hebben voor de manier waarop overheden en publieke instanties AI implementeren en beheren.
“We staan aan de vooravond van een nieuw tijdperk in AI-governance,” stelt Verloop. “Deze Code of Practice heeft het potentieel om de standaard te zetten voor hoe we GPAI op een ethische en effectieve manier inzetten in de publieke sector, niet alleen in Nederland, maar in heel Europa.”
Praktische implicaties en scenario’s
Om de potentiële impact van de Code of Practice te illustreren, schetst Verloop enkele hypothetische scenario’s:
- Geautomatiseerde besluitvorming in sociale dienstverlening: “Stel je voor dat een gemeente een GPAI-systeem wil inzetten om aanvragen voor sociale bijstand te beoordelen. De Code of Practice zou richtlijnen kunnen bieden over hoe zo’n systeem moet worden getraind om bias te voorkomen, hoe beslissingen moeten worden uitgelegd aan burgers, en welke menselijke supervisie nodig is.”
- Predictive policing: “Als politiediensten GPAI willen gebruiken om criminaliteitspatronen te voorspellen, zou de Code of Practice kunnen voorschrijven hoe historische data moet worden geanalyseerd om systemische vooroordelen te identificeren en te corrigeren, en hoe de privacy van burgers moet worden beschermd.”
- AI in de gezondheidszorg: “Voor het gebruik van GPAI in de analyse van medische beelden of het voorspellen van ziektepatronen, zou de Code of Practice kunnen specificeren hoe modellen moeten worden gevalideerd, hoe patiëntgegevens moeten worden geanonimiseerd, en hoe artsen moeten worden betrokken bij de interpretatie van AI-output.”
Deze scenario’s onderstrepen de noodzaak van een zorgvuldig opgestelde Code of Practice die rekening houdt met de complexiteit en diversiteit van AI-toepassingen in de publieke sector.
Uitdagingen en kansen
Het opstellen van een effectieve Code of Practice voor GPAI is geen eenvoudige taak. Verloop identificeert enkele belangrijke uitdagingen:
- Balanceren van innovatie en regulering: “We moeten ervoor zorgen dat de Code of Practice voldoende bescherming biedt zonder innovatie te verstikken. Dit vereist een delicate balans.”
- Toekomstbestendigheid: “De snelheid waarmee AI zich ontwikkelt, betekent dat we een code moeten opstellen die flexibel genoeg is om relevant te blijven naarmate de technologie evolueert.”
- Internationale afstemming: “Hoewel we ons richten op een Europese code, moeten we rekening houden met de globale aard van AI-ontwikkeling. Hoe zorgen we ervoor dat onze standaarden internationaal relevant blijven?”
- Implementatie en handhaving: “Het opstellen van de code is slechts de eerste stap. We moeten ook nadenken over hoe we de naleving ervan kunnen waarborgen en monitoren.”
Ondanks deze uitdagingen ziet Verloop ook significante kansen: “Dit proces biedt ons de mogelijkheid om een mondiale standaard te zetten voor verantwoorde AI. Als we dit goed doen, kunnen we een raamwerk creëren dat niet alleen de Europese waarden weerspiegelt, maar ook een blauwdruk wordt voor ethische AI-implementatie wereldwijd.”
Vooruitblik
De betrokkenheid van CiviQs bij dit EU-initiatief onderstreept het groeiende belang van Nederlandse expertise op het wereldtoneel van AI-governance. Door actief bij te dragen aan het vormgeven van deze code, positioneert CiviQs zich als een voorloper in het vertalen van ethische AI-principes naar praktische richtlijnen voor de publieke sector.
Verloop kijkt met optimisme naar de toekomst: “Dit is een unieke kans om vorm te geven aan de toekomst van AI in Europa. Door onze expertise in te brengen, hopen we bij te dragen aan een Code of Practice die niet alleen technisch solide is, maar ook de ethische en maatschappelijke aspecten van AI-gebruik volledig integreert.”
De eerste bijeenkomst voor het opstellen van de GPAI Code of Practice vindt plaats op 30 september 2024. In de komende maanden zal CiviQs nauw samenwerken met andere experts en stakeholders om een code te ontwikkelen die de toekomst van AI in Europa vorm zal geven.
Betrokkenheid van de bredere AI-gemeenschap
Verloop benadrukt dat het succes van de Code of Practice afhangt van de betrokkenheid van de bredere AI-gemeenschap: “We moedigen andere organisaties en experts aan om hun inzichten te delen. Alleen door samen te werken kunnen we een code creëren die echt representatief is voor de behoeften en uitdagingen van de Europese AI-sector.”
Voor organisaties die geïnteresseerd zijn in hoe deze ontwikkelingen hun AI-strategie kunnen beïnvloeden, biedt CiviQs advies en ondersteuning. “We staan klaar om organisaties te helpen navigeren in dit evoluerende landschap van AI-governance,” zegt Verloop.
Wilt u meer weten over hoe deze ontwikkelingen uw organisatie kunnen beïnvloeden of hoe u kunt bijdragen aan het gesprek over verantwoorde AI? Neem contact op met CiviQs voor meer informatie over verantwoorde AI-implementatie in de publieke sector.
