De opkomst van kunstmatige intelligentie (AI) brengt veelbelovende innovaties met zich mee, maar ook nieuwe uitdagingen en verantwoordelijkheden. De EU heeft op 21 mei 2024 de AI Act aangenomen en staat daarmee op het punt ingrijpende AI-wetgeving in te voeren. Deze wetgeving zal de ontwikkeling van AI in Europese context drastisch hervormen en heeft gevolgen voor jou als ondernemer als je AI-systemen ontwikkelt of gebruikt. Wat zijn de belangrijkste aspecten van de AI Act en wat dit betekent voor jou als ondernemer?

Achtergrond van de AI-verordening

De AI Act is ontworpen om een veilige en verantwoorde toepassing van AI-systemen te bevorderen en past in de trend van eerdere Europese regelgeving zoals de GDPR (in Nederland ook wel bekend als: AVG ), de Digital Services Act en de Cyber Resilience Act. De AI Act richt zich op alle AI-systemen die invloed hebben op mensen in de EU, ongeacht waar deze systemen zijn ontwikkeld of ingezet. Dit betekent dat je als ondernemer wereldwijd aan deze regels moet voldoen als jouw AI-systemen gebruikt worden door, of impact hebben op, EU-burgers.

Belangrijkste bepalingen AI Act

Allereerst geeft de AI Act een juridische definitie aan verschillende AI-systemen. Voorheen was het vaak moeilijk om een juiste definitie te geven aan het AI-component of systeem. Daarnaast hanteert de AI Act een risicogebaseerde benadering.

Jouw verplichtingen hangen af van het risico dat jouw AI-systeem met zich meebrengt voor de:

  • veiligheid,
  • beveiliging,
  • fundamentele rechten van mensen.
de wetgeving verdeelt aI-systemen in

Drie risicocategorieën

Verboden AI-systemen

Sommige AI-systemen worden als te riskant beschouwd en zijn volledig verboden. Voorbeelden zijn systemen voor sociale scoring of systemen die kwetsbaarheden van specifieke groepen mensen exploiteren.

 

Hoog-risico AI-systemen

Deze systemen dragen de meeste nalevingsverplichtingen. Voorbeelden zijn AI-systemen die worden gebruikt in de medische sector, civiele luchtvaartbeveiliging of het beheer van kritieke infrastructuur. Je moet als ondernemer strikte conformiteitsbeoordelingen uitvoeren, inclusief risicomanagement, kwaliteitsbeheer, gegevensbeheer, menselijke controle en cyberbeveiliging.

Laag-risico AI-systemen

Deze systemen vereisen een initiële risicobeoordeling en enkele transparantievereisten, zoals het informeren van gebruikers dat ze interactie hebben met een AI-systeem. Er zijn verder geen extra verplichtingen, hoewel je als ondernemer wordt aangemoedigd vrijwillig de gedragscodes na te leven.

Overige bepalingen AI Act

De AI-systemen met algemene doeleinden, zoals generatieve AI, worden apart behandeld. Deze systemen kunnen een breed scala aan toepassingen hebben en vereisen daarom een aparte benadering.

De AI Act maakt onderscheid tussen commercieel en wetenschappelijk gebruik van AI. Als jouw bedrijf zich richt op wetenschappelijk onderzoek en ontwikkeling, dan ben je grotendeels vrijgesteld van de wetgeving, zolang deze activiteiten niet gericht zijn op commerciële exploitatie.

Open source AI-software valt buiten de AI Act, tenzij deze een hoog-risico vormt of direct interacteert met eindgebruikers.

Wordt jouw AI-systeem buiten een gecontroleerde 'sandbox' omgeving getest, bijvoorbeeld in een (cloud)omgeving? Dan moet je ook aan bepaalde regels voldoen. Dit is vooral van belang wanneer de beoogde toepassing een hoog-risico AI-systeem betreft. In dat geval is een uitgebreid testplan en goedkeuring van de toezichthouder vereist.

Naast AI Act ook nieuwe Richtlijn AI-aansprakelijkheid

De Richtlijn AI-aansprakelijkheid maakt het eenvoudiger om schadevergoeding te claimen voor schade veroorzaakt door het gebruik van AI-systemen. De richtlijn moedigt je als ondernemer dus aan om robuuste veiligheids- en beveiligingsmaatregelen te implementeren om aansprakelijkheid te voorkomen. De combinatie van de AI Act en de Richtlijn AI-aansprakelijkheid zorgt ervoor dat er een uitgebreide regulering is die zowel preventieve als reactieve maatregelen omvat.

AI Richtlijn

Meer weten over de kansen en uitdagingen van de AI Act?

Ontwikkel of gebruik je als ondernemer AI-technologieën, dan brengt de AI Act een reeks nieuwe kansen en uitdagingen met zich mee . Terwijl de wetgeving strenge regels oplegt voor hoog-risico AI-systemen, biedt het ook ruimte voor innovatie en experimentatie via regelgevende "sandboxes". Onderneem actie om te voldoen aan de nieuwe regels en zorg ervoor dat jouw AI-systemen veilig, betrouwbaar en transparant zijn. Dit omvat het opstellen van een inventaris van alle AI-systemen, het beoordelen van de risicocategorie en het ontwikkelen van een nalevingsstrategie.

De overgangsperiode van twee jaar biedt jou als ondernemer de tijd om je voor te bereiden op de nieuwe regels. Door nu al stappen te ondernemen, kun je niet alleen boetes vermijden, maar ook het vertrouwen van klanten en partners vergroten door te laten zien dat je je inzet voor een verantwoordelijke inzet van AI.

Wil je meer weten over de AI Act of hoe je op tijd voldoet aan de nieuwe regels? Neem gerust contact met mij op of een van de overige ondernemingsrecht advocaten. We adviseren je graag.