De ontwikkeling van AI gaat razendsnel en regelgevers wereldwijd proberen bij te blijven. In Europa zijn er twee belangrijke initiatieven die de aandacht trekken: de AI Convention van de Council of Europe en de EU AI Act. Maar wat houden deze regelgevingen precies in, en hoe beïnvloeden ze de publieke sector? In dit artikel duiken we dieper in deze materie.
De AI Convention van de Council of Europe: een mijlpaal in internationale AI-regulering
Op 17 mei 2024 nam de Council of Europe (Raad van Europa) een historisch besluit door het Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (kortweg: de “AI Convention”) aan te nemen[4]. Dit verdrag markeert een belangrijk moment in de geschiedenis van AI-regulering, aangezien het het eerste internationaal bindende verdrag over AI is voor de ondertekenaars.
Kernpunten van de AI Convention
- Breed toepassingsgebied: de conventie geldt voor zowel de publieke als private sector, met enkele uitzonderingen voor AI-systemen gerelateerd aan nationale veiligheid en onderzoek & ontwikkeling[4].
- Heldere definitie: de definitie van een “AI-systeem” sluit nauw aan bij die in de EU AI Act en is gebaseerd op de OESO-definitie[4].
- Ethische principes: de conventie roept op tot maatregelen die transparantie, toezicht, verantwoordelijkheid, gelijkheid, non-discriminatie, privacy en betrouwbaarheid waarborgen[4].
- Flexibele aanpak: er wordt een risicogebaseerde benadering toegestaan bij de implementatie van maatregelen[4].
- Grensoverschrijdende samenwerking: de conventie stimuleert versterkte samenwerking en informatie-uitwisseling tussen de ondertekenaars[4].
Implementatie en naleving: een gelaagde aanpak
De AI Convention creëert verplichtingen op twee niveaus:
- Directe verplichtingen voor ondertekenaars: de leden van de Council of Europe die het verdrag ondertekenen, moeten wetgevende, administratieve of andere maatregelen nemen om de bepalingen van de conventie te implementeren[5].
- Indirecte impact op AI-actoren: de implementatie van deze bepalingen zal uiteindelijk gevolgen hebben voor ontwikkelaars, gebruikers en beheerders van AI-systemen gedurende de hele levenscyclus[5].
Toezicht en handhaving: de sleutel tot effectiviteit
Om de naleving van de AI Convention te waarborgen, moet elke ondertekenaar effectieve toezichtmechanismen instellen of aanwijzen[5]. Deze toezichthouders moeten voldoen aan belangrijke criteria:
- Onafhankelijkheid en onpartijdigheid
- Beschikking over de nodige bevoegdheden
- Voldoende expertise en middelen
De EU AI Act: europa’s antwoord op de AI-uitdaging
Naast de AI Convention van de Council of Europe is er ook de EU AI Act, die specifiek gericht is op de Europese Unie. Hoewel beide regelgevingen overeenkomsten vertonen, zijn er ook belangrijke verschillen. Laten we eens kijken naar hoe deze twee zich tot elkaar verhouden.
Overeenkomsten tussen de AI Convention en de EU AI Act
- Breed toepassingsgebied: beide regelgevingen zijn van toepassing op zowel de publieke als private sector[4].
- Vergelijkbare AI-definitie: zowel de AI Convention als de EU AI Act hanteren een soortgelijke definitie van AI-systemen[4].
- Gedeelde kernprincipes: beide regelgevingen leggen de nadruk op thema’s als transparantie, verantwoordelijkheid en non-discriminatie[4].
- Risicogebaseerde benadering: zowel de AI Convention als de EU AI Act staan een risicogebaseerde aanpak toe bij de implementatie van maatregelen[4].
Verschillen tussen de AI Convention en de EU AI Act
- Juridische status: de EU AI Act is een verordening die direct bindend is voor EU-lidstaten, terwijl de AI Convention een internationaal verdrag is dat ondertekening en ratificatie vereist[1][4].
- Geografisch bereik: de EU AI Act is specifiek voor de EU, terwijl de AI Convention potentieel een breder internationaal bereik heeft, inclusief niet-EU-landen[4].
- Specifieke verplichtingen: de EU AI Act bevat gedetailleerdere verplichtingen en specifieke categorieën van AI-systemen (bijv. verboden praktijken, hoog risico), terwijl de AI Convention meer algemene principes en richtlijnen biedt[1][4].
- Handhaving: de EU AI Act voorziet in specifieke handhavingsmechanismen en boetes, terwijl de AI Convention meer flexibiliteit biedt aan ondertekenaars om hun eigen handhavingsmechanismen te bepalen[1][5].
- Tijdlijn: de EU AI Act treedt in werking op 1 augustus 2024, terwijl de AI Convention op 5 september 2024 open zal zijn voor ondertekening[2][4].
Wat betekent dit voor de toekomst van AI-regulering in de publieke sector?
De ontwikkeling van zowel de AI Convention als de EU AI Act wijst op een groeiende consensus over de noodzaak van een gereguleerde en ethische benadering van AI-ontwikkeling en -gebruik. Maar wat betekent dit concreet voor organisaties in de publieke sector die met AI werken?
Implicaties voor publieke organisaties
- Dubbele compliance: publieke organisaties in de EU zullen mogelijk moeten voldoen aan zowel de EU AI Act als de AI Convention (indien hun land deze ratificeert).
- Proactieve benadering: het is raadzaam om nu al te beginnen met het inventariseren van AI-systemen en het beoordelen van hun risico’s.
- Ethisch framework: ontwikkel een robuust ethisch framework voor AI-ontwikkeling en -implementatie dat aansluit bij beide regelgevingen.
- Transparantie en verantwoording: investeer in systemen en processen die transparantie en verantwoording mogelijk maken.
- Internationale samenwerking: houd rekening met de mogelijkheid van meer grensoverschrijdende samenwerking en informatie-uitwisseling op het gebied van AI-regulering.
Uitdagingen en kansen voor de publieke sector
De implementatie van deze regelgevingen brengt zowel uitdagingen als kansen met zich mee:
Uitdagingen:
- Complexiteit van naleving van meerdere regelgevingen
- Potentiële kostenstijging voor AI-ontwikkeling en -implementatie
- Noodzaak tot herziening en mogelijk herontwerp van bestaande AI-systemen
Kansen:
- Verhoogd vertrouwen in AI-systemen bij burgers en stakeholders
- Stimulans voor innovatie in verantwoorde en ethische AI-ontwikkeling
- Potentiële verbetering van dienstverlening en efficiëntie door verantwoorde AI-implementatie
Een gebalanceerde toekomst voor AI in de publieke sector
De AI Convention van de Council of Europe en de EU AI Act vertegenwoordigen belangrijke stappen in de richting van een gereguleerde en ethische AI-toekomst. Hoewel er verschillen zijn in juridische status, geografisch bereik en specifieke verplichtingen, delen beide initiatieven een gemeenschappelijk doel: het waarborgen van een verantwoorde ontwikkeling en implementatie van AI-technologieën.
Voor publieke organisaties die met AI werken, is het zaak om proactief te zijn in het begrijpen en implementeren van deze regelgevingen. Door nu al te investeren in ethische AI-praktijken en robuuste governance-structuren, kunnen organisaties niet alleen toekomstige compliance waarborgen, maar ook het vertrouwen van burgers versterken en de kwaliteit van publieke dienstverlening verbeteren.
De balans tussen innovatie en regulering zal ongetwijfeld een uitdaging blijven, maar met de juiste benadering kan deze nieuwe regelgeving de weg vrijmaken voor een AI-toekomst in de publieke sector die zowel innovatief als verantwoord is.
Wilt u meer weten over hoe u uw publieke organisatie kunt voorbereiden op de komende AI-regelgeving? Neem contact op met CiviQs voor expert advies en ondersteuning bij uw AI-governance strategie.
