AI zit overal, maar wie houdt hier nu toezicht op?

Kunstmatige intelligentie (AI) raakt steeds meer verweven met ons leven. Maar als AI ‘bepaalt’ of je wel of niet wordt aangenomen of wat de hoogte van je verzekeringspremie wordt, wie houdt dan toezicht op de keuzes die worden gemaakt? Niet exclusief de Autoriteit Persoonsgegevens in elk geval, vinden hoogleraar Corien Prins en VVD-Kamerlid Queeny Rajkowski. Wie dan wel?

Met sensoren in treinen oneffenheden aan het spoor ontdekken. Afwijkend gedrag of verdachte personen herkennen met slimme camera’s. Op basis van de data over veel patiënten het moment bepalen wanneer iemand de ic kan verlaten. Drie voorbeelden van AI, kunstmatige intelligentie. Systemen die heel snel heel veel data kunnen verwerken en zichzelf op basis daarvan kunnen verbeteren. De mogelijkheden zijn legio.

De overheid wil daar wel graag toezicht op houden. En dat moet gebeuren door de Autoriteit Persoonsgegevens (AP). Daar maakt het bedrijfsleven dat AI gebruikt zich zorgen over. Maar ook daarbuiten. Corien Prins bijvoorbeeld, hoogleraar Recht en Informatisering in Tilburg én voorzitter van de Wetenschappelijke Raad voor het Regeringsbeleid. De WRR heeft de afgelopen jaren een aantal adviezen over AI naar buiten gebracht.

Toezicht: logisch

‘AI biedt veel goeds. Het is zeker geen zwarte wolk die op ons afkomt. Maar er zitten ook risico’s aan AI.’ Ze geeft een voorbeeld: je kunt AI gebruiken voor het maken van een eerste selectie uit sollicitatiebrieven als je aangeeft waar het systeem op moet letten. Maar als je dat niet goed doet, kunnen kandidaten op onjuiste gronden worden uitgesloten. Of neem verzekeraars die voor het vaststellen van de premie van een autoverzekering voor bepaalde groepen data gebruiken die de moderne auto’s verzamelen over rijgedrag. Prins: ‘Dat vind ik een zorgelijke ontwikkeling. Als automobilist weet je daar niks van.’

Dus dat er toezicht moet zijn op de toepassing van AI vindt ze logisch. Ze begrijpt alleen niet waarom dat toezicht exclusief bij de AP wordt neergelegd. ‘Ja, AI heeft te maken met privacy omdat het systeem met persoonsgegevens werkt. Maar AI is veel breder en speelt in alle sectoren. Je kunt het vergelijken met elektriciteit en ict. Het toezicht moet dus ook veel breder dan alleen de AP.’

Per sector regelen

Prins vindt het beter om het toezicht op AI per sector te regelen. De Autoriteit Financiële Markten houdt dan bijvoorbeeld toezicht op hoe banken AI gebruiken. Dat doen ze onder meer bij het controleren van de miljoenen krediettransacties. Die controle kan leiden tot het blokkeren van bankpassen van personen, dus dat moet zorgvuldig gebeuren. Ook toezichthouders die de sectoren overstijgen, zoals de AP en de Autoriteit Consument & Markt, kunnen een rol krijgen in het toezicht op AI. Zij moeten daarover afspraken maken met de sectorale toezichthouders en kunnen van elkaar leren, aldus Prins.

VVD-Kamerlid Queeny Rajkowski, die digitalisering in haar portefeuille heeft, is het daarmee eens. ‘De sectorale toezichthouders begrijpen beter hoe AI in hun sector wordt toegepast dan de AP. Die kijkt vooral juridisch naar zaken, terwijl AI veel verder gaat en een toezichthouder ook naar de maatschappelijke normen en waarden moet kijken, en naar andere belangen. Bijvoorbeeld die van het bedrijfsleven.’

Risico’s beperken

Er is meer kritiek op de AP als toezichthouder op AI. Prins: ‘Het is een kleine organisatie die veel werk heeft aan de naleving van de Algemene Verordening Gegevensbescherming, de Europese privacywetgeving. Kan het AI-toezicht daar wel bij?’ De AP volgt volgens haar bovendien een strenge lijn als het om privacy gaat. Zelfs op het niveau van Brussel, terwijl de AVG daar toch is opgesteld.

Stel dat de AP ook zo streng naar AI kijkt: wat zijn dan de consequenties? Prins vreest dat het ten koste zal gaan van de mogelijkheden die AI biedt. ‘Dat zou ik heel jammer vinden voor ons land. Je ziet nu al dat er, zeker bij de overheid, snel wordt gedacht: dat mag niet van de privacywet. Maar als je dan kijkt waar het om gaat, is de conclusie: het mag wél. Door zo streng te zijn, krijgt de AVG een negatief stempel.’

Volgens VVD-Kamerlid Rajkowski willen bedrijven die met AI werken graag duidelijkheid en zekerheid over wat er mag in de toekomst. ‘Ze willen het netjes doen, volgens de regels. AI kan ons leven makkelijker maken, voor meer welvaart zorgen en mensen werk uit handen nemen. Dan hoeft bijvoorbeeld een verpleegster dankzij AI minder achter de pc te zitten en kan zij meer aan het bed staan. Zo hebben we meer tijd om mens te zijn en te doen waar mensen goed in zijn. We moeten zoeken naar een manier om de kansen van AI zoveel mogelijk te benutten en de risico’s zoveel mogelijk te beperken.’

Strenge APDe strenge blik van de AP blijkt onder meer uit de ‘zaak’ VoetbalTV. Dat was een initiatief van Talpa en de KNVB. VoetbalTV liet camera’s plaatsen bij amateurvoetbalclubs voor het opnemen van wedstrijden. Die waren online te bekijken. Voetballers en supporters konden geen bezwaar maken tegen het filmen, maar waren er wel van op de hoogte. De AP oordeelde, bij monde van voorzitter Aleid Wolfsen, dat alleen het commerciële belang van VoetbalTV niet voldoende was voor het gebruik van beelden van personen. De Europese Commissie stelde daarop dat een commercieel belang wél een ‘gerechtvaardigd belang’ was, maar de AP hield voet bij stuk. Als gevolg van de onduidelijkheid stierf VoetbalTV een stille dood. Reagerend op deze zaak benadrukt hoogleraar Corien Prins dat zij ‘enorm’ aan privacy hecht. ‘Maar erken ook dat de wereld draait op het bedrijfsleven, en dat commercie niet vies is.’ VVD-Kamerlid Queeny Rajkowski geeft een ander voorbeeld: ‘Een klein bedrijf dat, soms per ongeluk, een datalek heeft veroorzaakt, krijgt na melding daarvan bij de AP een flinke boete, waardoor het failliet kan gaan. Dat kan niet. Je moet ook kijken of een bedrijf zo’n hoge boete wel kan betalen.’ 

‘Gaat bij ons meer om techniek dan om privacy’Tim van de Zandt, AI-belangenbehartiger bij brancheorganisatie FME, vraagt zich af wat de Autoriteit Persoonsgegevens te zoeken heeft op de werkvloer van de technische industrie. ‘Onze bedrijven zijn minder bezig met persoonsgegevens, daar gaat het meer om de techniek en de rol die AI daarbij kan spelen.’ Hij geeft een voorbeeld. Bedrijven gebruiken robotarmen die autonoom kunnen besluiten tot een noodstop van machines. Dat gebeurt op basis van AI. Van de Zandt: ‘De Arbeidsinspectie en keuringsinstellingen komen al bij bedrijven langs om de veiligheid voor werknemers te controleren. Het is veel efficiënter om die inspecteurs bij te scholen en ook te laten toezien op het AI-systeem in plaats van de AP daarmee te belasten.’ Van de Zandt vraagt zich ook af of de AP wel voldoende mankracht heeft voor het toezicht op AI. Het personeelstekort geldt overigens overal. Daarom is Van de Zandt een voorstander van de oprichting van een ‘techhub’, een AI-kenniscentrum waar verschillende toezichthouders gebruik van kunnen maken.

Op de hoogte blijven van onze beste artikelen? Schrijf je dan gratis in voor onze nieuwsbrief