AI-verordening en AI compliance
Ahlers Legal and Business Services en AI-compliance
Met ingang van 1 augustus 2024 is de Europese AI verordening van kracht. De AI-verordening richt zich op het reguleren van sytemen die gebruik maken van kunstmatige intelligentie met als doel de veiligheid en de fundamentele rechten van burgers in de Europese Unie te waarborgen.
De AI-verordening classificeert AI-systemen op basis van risiconiveau: onaanvaardbaar risico, hoog risico, beperkt (transparantie) risico en laag risico. Onaanvaardbare AI-systemen zijn verboden, hoogrisico AI-systemen moeten aan strikte eisen voldoen, waaronder transparantie en menselijke supervisie.
Voor organisaties die AI-systemen ontwikkelen of gebruik maken van AI-systemen
De AI-verordening wordt over een periode van twee jaar gefaseerd van kracht. Voor organisaties die AI-systemen ontwikkelen of gebruik maken van AI-systemen zijn de volgende data van belang:
1 februari 2025
verboden AI-systemen zijn vanaf deze datum niet langer toegestaan. Een organisatie moet daarom ruim vóór 1 februari 2025 weten of er verboden AI-systemen worden gebruikt zodat tijdig kan worden overgegaan op AI-systemen die de AI verordening wel toestaat.
1 februari 2025
verplichting tot bevordering digitale geletterdheid van toepassing Vanaf 1 februari 2025 moeten aanbieders en gebruikers van AI-systemen ervoor zorgen dat hun personeel - en andere personen die namens hen AI-systemen exploiteren en gebruiken - een toereikend niveau van AI-geletterdheid hebben. 1 augustus 2025: eisen AI-modellen voor algemene doeleinden (generatieve AI) van toepassing
1 augustus 2026
bepalingen van toepassing op hoogrisico AI-systemen van kracht
1 augustus 2027
verplichtingen voor hoog risico AI-systemen in producten van kracht
1 augustus 2030
verplichtingen voor AI-systemen gebruikt door overheidsorganisaties die al voor inwerkingtreding in gebruik waren worden van kracht.
Welke stappen kunt u als eerste zetten?
Op 1 februari 2025 moeten organisaties die AI-systemen ontwerpen of gebruiken al aan twee belangrijke eisen voldoen:
- verboden AI-systemen mogen niet langer worden gebruikt
- directie, management en medewerkers die betrokken zijn bij het ontwikkelen of gebruiken van AI-systemen moeten voldoende AI-geletterd zijn.
Categoriseren van AI-systemen.
Identificeer welke AI-systemen de organisatie ontwikkelt en gebruikt. Stel vast of een system als ‘verboden’moet worden aangemerkt. Voor deze systemen geldt dat deze met ingang van 1 februari 2025 niet meer mogen worden ingezet. Als deze AI-systemen onderdeel zijn van een bedrijfsproces is van belang dat vóór 1 februari 2025 het verboden system wordt vervangen door een AI-systeem dat wel is toegestaan onder de AI-verordening.
Ook als het niet te verwachten is dat een organisatie verboden AI-systemen zal identificeren is dit toch een nuttige stap. In deze stap kunnen tegelijkertijd de hoogrisico AI-systemen worden geïdentifceerd. De bepalingen voor deze hoogrisico AI-systemen worden weliswaar pas op 1 augustus 2026 van kracht, maar het voldoen aan de eisen van de AI-verordening zal tijd, middelen en capaciteit vergen. Een vroege identificatie maakt het mogelijk de noodzakelijke werkzaamheden tijdig te plannen.
Bevorderen digitale geletterdheid
Aanbieders en gebruiksverantwoordelijken van AI-systemen zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken. AI-geletterdheid betekent dat aanbieders, gebruikers en betrokken personen voldoende vaardigheden, kennis en begrip hebben om geïnformeerd AI-systemen in te zetten en zich bewust zijn van de kansen, risico’s en mogelijke schade die AI kan veroorzaken.
Opzetten AI-governance structuur.
De AI-verordening brengt voor organisaties nieuwe verplichtingen met zich mee. Zowel de AVG als de AI-verordening leggen duidelijke verantwoordelijkheden en verplichtingen neer bij bestuurders en management en verlangen van hen een actieve inzet en duidelijke verantwoording. De AI-verordening is daarin concreter en benoemt een lijst van maatregelen waaruit verslaglegging en verantwoording blijkt. Een goede governance structuur, waarin rollen, bevoegdheden en verantwoordelijkheden met betrekking tot de ontwikkeling en het gebruik van AI-systemen duidelijk zijn vastgelegd, helpt daarbij.
Behoefte aan specifieke AI-compliance expertise of extra capaciteit?
Tijdig voldoen aan deze verplichtingen van de AI-verordening vergt aandacht, inzet en capaciteit. Is daar tijdelijk AI-expertise of extra capaciteit voor nodig? Neemt u dan contact op als uw organisatie behoefte heeft aan extra capaciteit en expertise.
Diensten op het gebied van de AI-verordening en AI-compliance
Ahlers Legal and Business Services adviseert over en ondersteunt bij, onder andere:
- het categoriseren van AI-systemen naar risiconiveau
- het trainen van digitale geletterdheid zoals vereist door de AI-verordening
- het met stakeholders opzetten van een AI-governance structuur
- de uitvoering van verschillende AI-compliance trajecten gerelateerd aan het risiconiveau van de betreffende AI-systemen
- het uitvoeren AI impact assessments.
Als gecerticifeerd AI-compliance officer adviseer ik over de transitie naar AI-compliance en begeleid ik de implementatie daarvan.
CAICO – Certified AI Compliance Officer
Ingeborg is CAICO – gecertificeerd AI compliance officer en als zodanig inzetbaar voor het ontwikkelen en uitvoeren van AI-compliance en governance-strategieën binnen een organisatie.
Zijn er vragen over de AI-verordening en over AI-compliance in uw organisatie?
Wilt u weten wat Ahlers Legal and Business Services voor uw onderneming kan betekenen op het gebied van de AI-verordening en AI-compliance? Neemt u dan contact op.