Deze column staat in Het Financieele Dagblad van 17 december 2021. Volg deze link voor mijn eerdere FD columns.

Start-up Clearview AI, met software voor gezichtsherkenning, krijgt in de EU en in Nederland alle ruimte. Deze software tast onze privacy en grondrechten aan. Het nieuwe kabinet moet de start-up aanpakken, schrijft advocaat Axel Arnbak.

Foto: Amr Alfiky/The New York Times uit het Financieele Dagblad

Met een foto en een swipe een volledig dossier van een voorbijganger op straat verkrijgen: iemands cv, de prijs van zijn woning, zijn sociale mediaprofielen en de rest. Sinds de opkomst van het wereldwijde web was het wachten op een briljante charlatan die een zoekmachine voor gezichten zou bouwen en daarmee de droom van iedere dictator, en nachtmerrie voor onze vrijheid in de publieke ruimte, zou verwezenlijken. Inmiddels is die droom werkelijkheid.

Sinds de oprichting in 2017 verkoopt de Amerikaanse start-up Clearview AI zo’n zoekmachine aan overheden wereldwijd, zodat zij een foto of stilstaand beeld uit een beveiligingscamera kunnen vergelijken met meer dan 10 miljard van het web geschraapte foto’s. Zo kunnen zij in een handomdraai een kennelijk krankzinnig accurate match en achterliggend dossier verkrijgen.

Brits toezicht
Op 4 december bracht website Politico het nieuws dat Clearview AI in de Verenigde Staten een patent heeft bemachtigd, op basis waarvan de start-up kunstmatig intelligente gezichtherkenningssoftware exclusief aan overheden én consumenten kan aanbieden. De Britse datatoezichthouder ICO denkt daar anders over.

Eind november kondigde de ICO een boete van €20 mln aan wegens evidente schendingen van de Britse evenknie van privacywet AVG. Nog belangrijker, en nauwelijks opgepikt door de media, is het daarmee gepaard gaande verwerkingsverbod: Clearview AI mag voortaan geen data van Britse ingezetenen gebruiken en moet alle data van Britten verwijderen uit de eigen database.

Te weinig, te traag
De aankondiging van de ICO zegt veel over de staat van het datatoezicht in onze informatiesamenleving van eind 2021: belangrijker dan ooit, maar nog steeds te weinig en te traag. De afgelopen decennia beloofden regeringen datatoezicht te versterken, maar ontbrak steeds de daad bij dat woord. Rutte IV belooft nu beterschap, het is ook de hoogste tijd toezicht op een gezonde informatiesamenleving kernprioriteit te maken.

Vrijwel overal ter wereld, mogelijk met uitzondering van China en andere minder vrijheidsgezinde contreien, zijn de hernieuwde mogelijkheden die kunstmatige intelligentie (AI) biedt voor gezichtsherkenning controversieel verklaard. De software is simpelweg te krachtig en geeft een te grote beperking van onze grondrechten, zo concluderen overheden en steden. Zij hebben de technologie in de ban gedaan. Meerdere techgiganten hebben gezichtsherkenningssoftware op basis van AI op de plank liggen, maar leveren deze (voorlopig) niet aan overheden.

‘Staat uw gezicht op sociale media, dan valt u waarschijnlijk in de dataklauwen van Clearview AI’

Clearview AI is in dat gat gesprongen. Al sinds 2017 plukt de start-up zoveel mogelijk publiek beschikbare foto’s en beelden van het web. De – inmiddels dus gepatenteerde – software sorteert op individueel niveau. De database bestaat uit 10 miljard foto’s.

Staat er een foto van uw gezicht op sociale media of waar dan ook op het web, dan kunt u ervan uitgaan dat u ook bent gevangen in de dataklauwen van Clearview AI. U bent natuurlijk niet netjes op de hoogte gesteld van het feit dat uw biometrische data is verzameld, gerangschikt en gedeeld met overheidsdiensten waar dan ook ter wereld. Laat staan dat u bent gewezen op uw rechten om de dataverzameling te stoppen. Daar zou u in China misschien niet van opkijken, maar in Europa is zo’n fundamentele schending van uw grondrechten toch een dingetje.

The New York Times onthulde begin 2020 het bestaan van deze start-up. De ICO kondigde in juli 2020 een onderzoek aan. De ICO constateert dat zo’n beetje ieder kernbeginsel van de Europese en Britse privacywet AVG is geschonden. De boete van €20 mln die de ICO voor ogen heeft, is de maximale nominale boete en omvat ongeveer de helft van het kapitaal dat het bedrijf sinds haar oprichting in 2017 ophaalde, zo constateerde databureau Pitchbook.

Waar Clearview AI dat bedrag met het patent in de handen nog wel zal kunnen ophoesten, verbiedt de ICO bovendien de data van Britse ingezeten te gebruiken voor de dienst. Feitelijk betekent dit verbod dat Clearview AI nu 10 miljard foto’s moet doorpluizen op Britse ingezetenen. Die exercitie is onmogelijk, tenzij de Britse overheid toegang verschaft tot haar paspoortdatabase. The New York Times zal daar vast alert op zijn.Het onderzoek is pas medio 2022 klaar, verwacht de ICO, omdat Clearview AI nu de tijd krijgt zich te verweren. Al die tijd, en sinds 2017, gebruikt het bedrijf Britse en andere aangezichten volslagen onrechtmatig als trainingsvoer voor haar zelflerende software en stromen de orders van onfrisse regimes vast binnen. Doordat het patent binnen is, kan de start-up in de etalage. Oprichters en steenrijke investeerders blij.

Nu de Britten de Europese Unie hebben verlaten, heeft het onderzoek mogelijk niet automatisch gelding voor geheel Europa. En rijst de fascinerende vraag: hoe zit het zo lang met uw en mijn gezicht in Nederland?

Hoewel in het regeerakkoord van Rutte IV weer extra budget is gereserveerd voor de Autoriteit Persoonsgegevens (AP), lieten vorige kabinetten-Rutte steevast na die belofte in te lossen. Daardoor faalt datatoezicht vandaag de dag systematisch. Het heeft de opmars van Clearview AI niet kunnen voorkomen

Aan de slag
De huidige Europese Commissie liet er bij haar inauguratie geen gras over groeien: de gevolgen van milieuvervuiling en digitalisering zijn de twee grote uitdagingen van ons tijdsgewricht. Na de toeslagenaffaire geldt ook in dit dossier voor Rutte IV: geen woorden maar daden.