De Wet op de Artificiële Intelligentie: de belangrijkste punten op een rij

Datum bericht: 19 augustus 2021

Mauritz KopOp 21 april 2021 presenteerde de Europese Commissie de langverwachte Wet op de Artificiële Intelligentie. Mauritz Kop is deelnemer aan de Nederlandse AI Coalitie, lid van de Europese AI Alliantie en Fellow bij het Transatlantic Technology Law Forum, en deed in dit kader strategische aanbevelingen aan de Europese Commissie. Hij zet de belangrijkste punten van de wet op een rij.

De conceptverordening geeft regels voor de ontwikkeling, commodificatie en gebruik van AI-gedreven producten, diensten en systemen binnen de EU. Het team van president Ursula von der Leyen heeft een aantal van de strategische adviezen die ik hen aanbood overgenomen, of is zelfstandig tot dezelfde conclusies gekomen. Dat is bemoedigend.

De conceptverordening biedt kernregels voor kunstmatige intelligentie die op alle industrieën van toepassing zijn. De wet wil de hoge maatstaven van het EU trustworthy AI paradigma codificeren, dat voorschrijft dat AI wettig, ethisch en technisch robuust moet zijn.

Doelstellingen van de Wet op de Artificiële Intelligentie

De Wet op de Artificiële Intelligentie heeft vier doelstellingen:

  1. ervoor zorgen dat AI-systemen die in de Unie in de handel worden gebracht en gebruikt, veilig zijn en de bestaande wetgeving inzake grondrechten en waarden van de Unie eerbiedigen;
  2. rechtszekerheid garanderen om investeringen en innovatie in AI te vergemakkelijken;
  3. het beheer en de doeltreffende handhaving van de bestaande wetgeving inzake grondrechten en veiligheidsvoorschriften die van toepassing zijn op AI-systemen, verbeteren;
  4. de ontwikkeling van een eengemaakte markt voor wettige, veilige en betrouwbare AI-toepassingen vergemakkelijken en marktversnippering voorkomen.

Risicogebaseerde aanpak

Om deze doelen te bereiken, combineert de voorgestelde Artificial Intelligence Act een risicogebaseerde aanpak op basis van de pyramid of criticality, met een modern, gelaagd handhavingsmechanisme. Dit betekent onder meer dat er voor AI-applicaties met een verwaarloosbaar risico een licht wettelijk regime geldt, en dat applicaties met een onacceptabel risico worden verboden. Tussen deze uitersten gelden er naarmate het risico toeneemt strengere voorschriften. Die variëren van vrijblijvende zelfregulerende soft law impact assessments met gedragscodes, tot zware, extern geauditeerde compliancevereisten gedurende de levenscyclus van de toepassing.

De definitie van AI-applicaties met een hoog risico is nog niet in steen gehouwen. Een duidelijke risicotaxonomie zal bijdragen aan rechtszekerheid en geeft belanghebbenden een passend antwoord op vragen over aansprakelijkheid en verzekering. Om ruimte voor innovatie te waarborgen, worden er flexibele AI regulatory sandboxes geïntroduceerd en is het IP Action Plan opgesteld voor intellectueel eigendom. De conceptverordening voorziet tot slot in de installatie van een nieuwe handhavende instantie op Unieniveau: het European Artificial Intelligence Board (EAIB). Op lidstaatniveau zal het EAIB worden geflankeerd door nationale toezichthouders.

Sectorspecifieke regels

Naast de nieuwe AI-regels moeten producten en diensten ook voldoen aan sectorspecifieke regelgeving zoals de Machinerichtlijn en de verordeningen voor medische hulpmiddelen en in-vitrodiagnostiek. Verder geldt - naast de Algemene Verordening Gegevensbescherming (AVG) - straks de nieuwe Data Act. Die is onder meer van toepassing op B2B en B2G datadelen, het gebruik van privacy-preserving synthetic dataset generation techniques, en op de inzet van machine learning-training- en validatiedatasets. Bovendien moeten audits van producten en diensten uitgerust met AI in bestaande kwaliteitsmanagementsystemen van sectoren zoals logistiek en gezondheidszorg passen.

Verordening versus richtlijn

In de EU resulteren verordeningen in eenwording, in unificatie van rechtsregels. Lidstaten hebben hier geen beoordelingsruimte voor een eigen interpretatie van de Brusselse voorschriften. Bij richtlijnen hebben lidstaten die ruimte wel. Richtlijnen leiden tot harmonisatie van rechtsregels. Verordeningen zoals de nieuwe Wet op de Artificiële Intelligentie zijn rechtstreeks van toepassing in de nationale rechtsorden van de lidstaten, zonder dat omzetting of implementatie nodig is. Zoals dat bijvoorbeeld wel bij de recente Copyrightrichtlijn nodig was. Zodra het Europees Parlement en de Raad van Europa het medio 2022 eens zijn met de uiteindelijke tekst en als die wordt aangenomen, dan is de AI-Verordening direct geldend recht in alle landen van de Europese Unie.

CE-markering

In lijn met mijn aanbevelingen schrijft de Wet op de Artificiële Intelligentie voor dat AI- en datagestuurde producten en diensten moeten voldoen aan EU-benchmarks, waaronder veiligheids- en conformiteitsbeoordelingen. Dit is cruciaal, want daardoor moeten producten en diensten beantwoorden aan de hoge technische, juridische en ethische normen die de kernwaarden van trustworthy AI weerspiegelen. Alleen dan krijgen ze een CE-markering waarmee ze de Europese markten mogen betreden.

Regulering van kunstmatige intelligentie: trans-Atlantische gezichtspunten

Het is begrijpelijk dat de Europese Unie AI als onderdeel van de Europese strategische autonomie beschouwt. Ook is er een zekere mate van strategische Europese digitale soevereiniteit nodig om de Europese cultuur veilig te stellen. Toch is het voor de EU van existentieel belang om samen te werken met landen die ons Europese digitale DNA delen, gebaseerd op gemeenschappelijke respect voor rechtsstatelijkheid, mensenrechten en democratische waarden. Tegen deze achtergrond is het essentieel om systematische, multilaterale trans-Atlantische samenwerking te stimuleren en gezamenlijk te komen tot inclusieve, participatieve digitalisering. De trans-Atlantische en geopolitieke dialoog over transformatieve technologie, samen met de ontwikkeling van wereldwijd geaccepteerde technologiestandaarden en protocollen voor interoperabiliteit, moet worden versterkt.

Europa zet wederom de standaard

Er is moed en creativiteit voor nodig om al wetgevend door deze stormachtige, interdisciplinaire materie heen te pionieren, en Amerikaanse en Chinese bedrijven te dwingen zich aan EU-normen te conformeren, voordat hun AI-producten en -diensten toegang kunnen krijgen tot de Europese markt met zijn 450 miljoen consumenten.

Door de Wet op de Artificiële Intelligentie vorm te geven en onze normen en waarden in te bedden in de architectuur en infrastructuur van onze technologie, biedt de EU richting en leidt ze de wereld naar een betekenisvolle bestemming. Zoals de Commissie dat eerder deed met de AVG, die inmiddels de internationale standaard voor privacy, gegevensbescherming en datasoevereiniteit is geworden.

Hoewel het handhaven van de voorgestelde regels een heel nieuw avontuur zal zijn, is het voorgestelde juridisch-ethische kader voor AI een verrijking voor de manier van denken over het reguleren van de Vierde Industriële Revolutie.

De nieuwe Europese regels zullen de manier waarop AI wordt gevormd voorgoed veranderen. Het nastreven van trustworthy AI by design lijkt daarbij een verstandige strategie, waar ter wereld u zich ook bevindt.

Lees ook:


Mauritz Kop is Stanford Law School Fellow in Silicon Valley (VS). Daarnaast is hij directeur van MusicaJuridica BV en managing partner bij AIRecht.