Dit jaar is de EU AI Act officieel gepubliceerd in het wetboek van de Europese Unie en de komende jaren gaan gefaseerd verplichtingen uit de wet gelden. Maar, wie ziet er op toe dat dit gebeurt? Hoe ziet dat proces er de komende jaren uit? En: zijn er nog kansen om hier vanuit een public affairs perspectief mee om te gaan? Rutger Lamberts en Daan Hofland lichten het toe in deze blog.
Back to basics: waar te beginnen als het gaat om AI-toezicht?
Omdat de AI Act de modellen als product ziet, geldt er producttoezicht. Producten moeten al voldoen aan verschillende Europese regels, wat te herkennen is aan de CE-markering. Wanneer in dit soort producten AI wordt gebruikt, moet ook aan de AI-verordening worden voldaan.
Producttoezicht in de context van AI betreft het controleren of AI-systemen voldoen aan wettelijke en ethische standaarden, zoals veiligheid, betrouwbaarheid en transparantie. Het toezicht richt zich op het minimaliseren van risico’s voor gebruikers en de samenleving, zoals discriminatie, privacyinbreuken of misleiding. Toezichthouders kunnen handhavende maatregelen nemen, zoals boetes of verbodsbepalingen voor naleving van regels en vertrouwen in AI.
Toezicht komt niet uit de lucht vallen. De wettekst van de AI Act ligt bijvoorbeeld al bij de nieuw opgerichte AI Office, wat toezicht moet houden op zogeheten ‘General Purpose AI’-modellen. Daarnaast dient het als adviesorgaan voor alle nationale autoriteiten die toezicht gaan houden op overige modellen. Maar, naast het feit dat overig toezicht door nationale autoriteiten ingevuld gaat worden, was er lange tijd weinig concreets bekend over de toezichtstructuur.
Hoe het toezicht er (waarschijnlijk) uit gaat zien
Om hier invulling aan te geven heeft het kabinet de Rijksinspectie Digitale Infrastructuur en de Autoriteit Persoonsgegevens gevraagd een advies te schrijven over de in te richten toezichtstructuur in Nederland. Dat advies verscheen vorige maand. In een geïntegreerde aanpak moet effectief toezicht gehouden worden op het gebruik van AI, inclusief nauwe samenwerking om versplintering te voorkomen. Voor de AP en RDI is een coördinerende rol weggelegd. Vanuit een expertrol zullen zij andere toezichthouders ondersteunen en faciliteren en bevorderen zij de samenwerking. Het advies is om het toezicht op AI zoveel mogelijk te laten aansluiten bij het reguliere toezicht, om op deze wijze zo veel mogelijk gebruik te maken van de bestaande expertise. Dat houdt in dat voor AI in financiële dienstverlening, de AFM of de DNB toezichthouder is. Voor toezicht op AI in bijvoorbeeld de voedselketen moet de NVWA toezien op het gebruik van AI.
Het advies omhelst toezicht op verschillende onderdelen van de AI Act. Op het gebied van hoog-risico AI-systemen wordt de RDI aangewezen als coördinerend toezichthouder. De RDI biedt specialistische kennis wanneer zaken de afzonderlijke toezichthouders of domeinen overschrijden. Daarnaast verzamelt de RDI, waar nodig met de AP, informatie voor de Europese Commissie. Transparantieverplichtingen en informatievoorziening van AI komt onder toezicht van de AP, met de AFM en DNB voor AI in de financiële sector. Omdat er door veel verschillende toezichthouders wordt samengewerkt, is een wettelijke basis voor een multilaterale samenwerkingsovereenkomst en bilaterale afspraken vereist, deze zal worden gecoördineerd door de AP en RDI.
Ten slotte heeft het kabinet recent laten weten in een brief dat de voorlopige autoriteiten voor mensenrechten en gegevensbescherming aangewezen zijn. Het College voor de Rechten van de Mens is grondrechtenautoriteit. Voor gegevensbeschermingsrecht zijn de Autoriteit Persoonsgegevens, de Hoge Raad, de Afdeling Bestuursrechtspraak van de Raad van State, de Centrale Raad van Beroep en het College van Beroep voor het bedrijfsleven aangewezen als toezichthouders.
Public affairs kansen in proces en coöperatief toezicht
Hoewel het een Europese verordening betreft en de wetteksten daarmee vrijwel uniform over Europa worden uitgerold, zijn er voor de public affairs professional van organisaties die met AI van doen hebben legio kansen. Hiervoor is het van groot belang dat het wetsproces van de uitvoeringswetgeving nauwlettend gemonitord wordt tijdens de ambtelijke voorbereiding, internetconsultatie, behandeling in de Eerste en Tweede Kamer (en in die laatste de amendementenprocedure). Bovendien zal ook de AI Act in Europa geëvalueerd worden, waarvoor een public affairs strategie via zowel de lidstaten als Brussel van onschatbare waarde is. Voor dit alles zijn strakke monitoring en goed stakeholdermanagement van cruciaal belang.
Ten slotte draait het in de public affairs zeer sterk om de relatie met de stakeholders. Als organisatie die met AI werkt kom je veel sneller de knelpunten in de uitwerking van wetgeving en beleid tegen. Zowel de RDI als AP hebben aangegeven dat de toezichtstructuur ook sterk leunt op coöperatief toezicht: toezicht aan de voorkant waarbij juist dialoog, niet handhaving centraal staat. Door de knelpunten actief te bespreken met de toezichthouder, komen deze bij latere herziening beter in beeld en positioneer je de eigen organisatie maximaal voor zowel compliance als public affairs kansen. Meer weten? Neem contact op met Daan Hofland (d.hofland@publyon.com).
