Tag Archives: Artificial Intelligence

106e FD Column: Laat datawaakhonden de AVG niet oprekken

Deze column staat in verkorte versie in Het Financieele Dagblad van 17 februari 2023. Volg deze link voor mijn eerdere FD columns.

Toezichthouders toveren allerlei nieuwe criteria tevoorschijn die niet in de gedetailleerde privacywet AVG staan. Volgens Axel Arnbak moeten zij de spelregels niet tijdens de wedstrijd mogen veranderen.

Illustratie: Hein de kort voor Het Financieele Dagblad

Hacken is een kunstvorm die niet alleen is voorbehouden aan whizzkids en cybercriminelen. Ook simpele juristen en beleidsmakers hacken dag in dag uit, maar dan door mazen in een wet om hun zaak te bevorderen. Zo weten datatoezichthouders in hun normuitleg en handhavingsacties al decennialang nieuwe manieren te vinden om de strenge privacywetgeving verder op te rekken.

De nieuwste miljoenenboetes, opgelegd aan big techbedrijven, zijn bijvoorbeeld mede gebaseerd op algemene beginselen die niet eens in de wet zijn uitgewerkt, zoals het principe van ‘behoorlijkheid’. Uit die beginselen construeren de waakhonden compleet nieuwe criteria waaraan iedere organisatie nu ineens moet voldoen. In hun zoektocht de privacy van Europese burgers te beschermen, hacken toezichthouders zich niet zelden buiten de grenzen van de wet en zullen zij steeds vaker nat gaan bij de rechter. Continue reading 106e FD Column: Laat datawaakhonden de AVG niet oprekken

105e FD Column: Beteugel AI met constructief wantrouwen en recht

Deze column staat in verkorte versie in Het Financieele Dagblad van 3 januari 2023. Volg deze link voor mijn eerdere FD columns.

Papegaaien zijn duizendmaal minder miserabel dan wij. In zijn satirische magnum opus Candide of het optimisme (1759) waarschuwde Voltaire de mensheid al tegen het napapegaaien van ondoordacht vooruitgangsgeloof dat in de Verlichting hoogtij vierde. Tussen de regels door moest met name tijdgenoot Leibniz het ontgelden, die de vooruitgang in techniek en denken uit de Verlichting vereenzelvigde met, en dankte aan zijn alwetende God. Voltaire stelde met gevaar voor eigen leven juist de invloed en verantwoordelijkheid van de mens centraal in de ontwikkeling van technologie en de mensheid.

Illustratie: Hein de Kort voor het Financieele Dagblad

Nu 2022 de geschiedenisboeken zal ingaan als het jaar waarin kunstmatige intelligentie (‘AI’) zich op spectaculaire wijze introduceerde aan de massa, lijkt de oproep van Voltaire tot kritische zelfreflectie en zijn waarschuwing tegen vooruitgangsgeloof en berusting in almachtige krachten actueler dan ooit.

Al jaren wijzen experts op de stormachtige ontwikkeling, kansen en risico’s van AI. Maar de afgelopen weken kwam de zelflerende software van AI ineens naar de mensen toe. Met tools als de kunstmatig intelligente tekstgenerator ChatGPT en dito plaatjesmaker Dall E2 kan iedere internetgebruiker zonder voorkennis of duur abonnement in een paar tellen fantastische teksten, afbeeldingen en filmfragmenten creëren. Dit roept grote existentiële en kleine praktische vragen op over onze relatie tot AI: nemen de machines het over van de mens? Hebben tekstschrijvers, illustrators, of aanpalende professies als wetenschappers en advocaten straks nog wel werk, en scholieren nog wel huiswerk? Is het religieuze vooruitgangsgeloof à la Leibniz dat je vaak uit Silicon Valley hoort op zijn plaats, moet ChatGPT verboden worden, of gaat de aanstaande AI wetgeving van de Europese Unie de mensheid redden van een algoritmische apocalyps? Met Voltaire zijn wij vooral gebaat bij een hernieuwde relatie tot technologie gebaseerd op constructief wantrouwen, en waar nodig gepaste regulering, als panacee tegen de stormachtige opkomst en uitwassen van AI. Continue reading 105e FD Column: Beteugel AI met constructief wantrouwen en recht

103e FD Column: Halfbakken nationale privacywet schaadt ook de economie

Deze column staat in Het Financieele Dagblad van 12 september 2022. Volg deze link voor mijn eerdere FD columns.

De WODC-evaluatie van vorige week kraakt kritische noten over de nationale Uitvoeringswet AVG (UAVG). Sectororganisaties werken amper de gestelde normen uit en het toezicht van de Autoriteit Persoonsgegevens is onvoldoende. Er is veel meer mogelijk, als de politieke wil maar daar is, schrijft advocaat en onderzoeker Axel Arnbak.

Illustratie: Hein de Kort voor Het Financieele Dagblad

Naarmate onze informatiesamenleving verder dataficeert, treedt privacy steeds meer op de voorgrond als een noodzakelijke, maar complexe randvoorwaarde voor een menswaardig bestaan in een gezonde data-economie. De nu ruim vier jaar geldende Europese privacywet AVG is verrassend succesvol gebleken in de bescherming van onze privacy, die de laatste decennia langzaam erodeerde.

Hoewel deze verordening het privacyrecht grotendeels gelijktrekt binnen de Europese Unie, is er voor de lidstaten toch veel speelruimte om privacywetgeving en -toezicht op nationaal niveau verder vorm te geven. In Nederland is er dan ook een nationale Uitvoeringswet AVG (UAVG), die net als de AVG van kracht is sinds 2018.

Kritisch
In opdracht van het Wetenschappelijk Onderzoek- en Documentatiecentrum (WODC) verscheen vorige week een vrij vernietigende evaluatie van de UAVG. Het rapport Bescherming gegeven? kraakt kritische noten over het gebrek aan ‘verdere concretisering en specifieke invulling’ van de open normen uit de AVG in de nationale wet. Ook het ‘operationaliseren van normen’ door sectororganisaties gebeurt in Nederland amper. In lijn met eerdere evaluaties is het rapport ook kritisch over het optreden van toezichthouder Autoriteit Persoonsgegevens (AP).

De toegevoegde waarde van de UAVG is dan ook ‘beperkt’, terwijl in andere lidstaten de wetgever, toezichthouder en sectoren beter presteren dan in Nederland. Juist nu onze wereld zo stormachtig dataficeert, zijn duidelijke spelregels nodig voor zo’n complex juridisch onderwerp. Dat kan immers de economie stimuleren waar mogelijk, en privacy beschermen waar noodzakelijk.

‘Bescherming van privacy blijft cultureel en historisch bepaald en is dus ook een nationale kwestie’

Continue reading 103e FD Column: Halfbakken nationale privacywet schaadt ook de economie

96e FD Column: Rutte IV: na woorden nu ook daden voor versterking datatoezicht

Deze column staat in Het Financieele Dagblad van 17 december 2021. Volg deze link voor mijn eerdere FD columns.

Start-up Clearview AI, met software voor gezichtsherkenning, krijgt in de EU en in Nederland alle ruimte. Deze software tast onze privacy en grondrechten aan. Het nieuwe kabinet moet de start-up aanpakken, schrijft advocaat Axel Arnbak.

Foto: Amr Alfiky/The New York Times uit het Financieele Dagblad

Met een foto en een swipe een volledig dossier van een voorbijganger op straat verkrijgen: iemands cv, de prijs van zijn woning, zijn sociale mediaprofielen en de rest. Sinds de opkomst van het wereldwijde web was het wachten op een briljante charlatan die een zoekmachine voor gezichten zou bouwen en daarmee de droom van iedere dictator, en nachtmerrie voor onze vrijheid in de publieke ruimte, zou verwezenlijken. Inmiddels is die droom werkelijkheid.

Sinds de oprichting in 2017 verkoopt de Amerikaanse start-up Clearview AI zo’n zoekmachine aan overheden wereldwijd, zodat zij een foto of stilstaand beeld uit een beveiligingscamera kunnen vergelijken met meer dan 10 miljard van het web geschraapte foto’s. Zo kunnen zij in een handomdraai een kennelijk krankzinnig accurate match en achterliggend dossier verkrijgen.

Brits toezicht
Op 4 december bracht website Politico het nieuws dat Clearview AI in de Verenigde Staten een patent heeft bemachtigd, op basis waarvan de start-up kunstmatig intelligente gezichtherkenningssoftware exclusief aan overheden én consumenten kan aanbieden. De Britse datatoezichthouder ICO denkt daar anders over.

Eind november kondigde de ICO een boete van €20 mln aan wegens evidente schendingen van de Britse evenknie van privacywet AVG. Nog belangrijker, en nauwelijks opgepikt door de media, is het daarmee gepaard gaande verwerkingsverbod: Clearview AI mag voortaan geen data van Britse ingezetenen gebruiken en moet alle data van Britten verwijderen uit de eigen database.

Te weinig, te traag
De aankondiging van de ICO zegt veel over de staat van het datatoezicht in onze informatiesamenleving van eind 2021: belangrijker dan ooit, maar nog steeds te weinig en te traag. De afgelopen decennia beloofden regeringen datatoezicht te versterken, maar ontbrak steeds de daad bij dat woord. Rutte IV belooft nu beterschap, het is ook de hoogste tijd toezicht op een gezonde informatiesamenleving kernprioriteit te maken. Continue reading 96e FD Column: Rutte IV: na woorden nu ook daden voor versterking datatoezicht

95e FD Column: Opkomst kwantumsensor vereist ingrijpen politiek

Deze column staat in Het Financieele Dagblad van 22 november 2021. Volg deze link voor mijn eerdere FD columns.

De inzet van kwantumsensoren bedreigt onze privacy en veiligheid. Dat vraagt om visie en handelen vanuit de politiek, schrijft advocaat en onderzoeker Axel Arnbak.

Illustratie: Hein de Kort voor Het Financieele Dagblad

Het zal niemand verbazen dat Albert Einstein ooit de Nobelprijs voor Natuurkunde in de wacht sleepte. Toch weten maar weinigen dat het Nobelcomité die ereprijs van 1921 niet zozeer toekende voor Einsteins relativiteitstheorie, maar ‘in het bijzonder voor zijn ontdekking van de wet van het foto-elektrische effect’ in 1905. De briljante natuurkundigen van die generatie slingerden de mensheid toen al het kwantumtijdperk in.

De laatste jaren zijn de interesse en de miljardeninvesteringen vanuit overheden en bedrijfsleven pas echt geëxplodeerd. Kwantumsensoren die door muren kunnen kijken zijn binnen handbereik. De kwantumcomputer die de rekenkracht van alle conventionele computers omverblaast, is de heilige graal, die alle bestaande versleuteling kan kraken, terwijl nieuwe kwantumcommunicatie staatsgeheimen juist onkraakbaar zou maken. Wie kwantum beheerst, kan de koers van de geopolitiek, de economie, onze samenlevingen en zelfs ons begrip van mens-zijn naar zijn hand zetten. Oftewel, kwantum is macht.

Droom van machthebber
Nu het kwantumtijdperk in een stroomversnelling lijkt te komen, rijst de urgente vraag hoe we deze omwenteling kunnen reguleren. Over deze hamvraag publiceren onderzoekers Chris Hoofnagle (UC Berkeley) en Simson Garfinkel (US Department of Homeland Security) binnenkort hun diepzinnige en belangwekkende boek Law and Policy for the Quantum Age. Zij laten zien dat beleidsmakers het kwantumtijdperk absoluut niet vanaf de zijlijn kunnen volgen. Als kwantumtechnologie de droom is van elke machthebber, zijn recht en beleid niet alleen noodzakelijk om die macht te faciliteren, maar ook om hem te controleren. Continue reading 95e FD Column: Opkomst kwantumsensor vereist ingrijpen politiek

94e FD Column: AVG dreigt een alom aanwezige zombie te worden

Deze column is gepubliceerd als Weekendessay in Het Financieele Dagblad van zaterdag 16 oktober 2021. Volg deze link voor mijn eerdere FD columns.

De AVG is complex en blijft in veel situaties een dode letter. Een debat over de toekomstige invulling van deze privacywet is hard nodig, schrijft advocaat en onderzoeker Axel Arnbak.

Illustratie: Max Kisman voor Het Financieele Dagblad

Wat hebben geavanceerde tumordiagnostiek, het smoelenboekje op school, coronabeleid op de werkvloer, en het wekelijkse krantje van de sportclub om de hoek met elkaar gemeen? Juist: privacy. Zodra er persoonsgegevens in het spel zijn, komt de strenge en ingewikkelde AVG (Algemene Verordening Gegevensbescherming) om de hoek kijken. Deze privacywet trad in mei 2018 in werking.

Hoe kan het gebeuren dat radiologen ondanks spectaculaire resultaten kunstmatige intelligentie nauwelijks durven in te zetten bij het diagnosticeren van tumoren? Dat ouders geen smoelenboekje meer krijgen van de klas van hun kind? Dat werkgevers grote moeite hebben popelende collega’s toe te laten op de werkvloer? En dat de naam van een overigens trotse doelpuntenmaker niet meer wordt gepubliceerd in het weekkrantje van de voetbalclub? Juist, de AVG.

Weliswaar staat de AVG ook veel datapraktijken toe, maar voor professionals en gewone mensen zonder toegang tot hoogwaardige datajuristen is de AVG zo’n groot obstakel, dat zij de AVG aan hun laars lappen of de handdoek in de ring gooien. Zo dreigt de AVG een dode letter te worden voor grote groepen organisaties en burgers.

Deze ontwikkeling baart privacywetenschappers al jarenlang zorgen. Dat is niet omdat wij tegen privacy zijn, of tegen de over het algemeen verrassend goed functionerende AVG bij het reguleren van de grote datakwesties van deze tijd. Het is omdat juist alledaagse of multidisciplinaire kwesties door de AVG in het gedrang komen.

Buitensporig
In een advies van vorige week sloeg de hoogste adviseur van het Europees Hof van Justitie van de EU, de advocaat-generaal Michal Bobek, de spijker op zijn kop: ‘Het draagt niet bij aan het gezag of de legitimiteit van wetgeving, inclusief de AVG, wanneer die wordt genegeerd wegens het buitensporige karakter ervan.’ De oplossing voor deze buitensporigheid is tweezijdig: beperk de werkingssfeer van de AVG en maak niet van ieder dataprobleem meteen een AVG-kwestie. Deze ingrepen zijn hard nodig voor de draagkracht van privacy in onze datasamenleving, en om de zombievorming van de AVG tegen te gaan.

De Tilburgse hoogleraar Bert-Jaap Koops schreef al in 2014 een nog steeds actuele en geestige kritiek op de voorstellen van de Europese Unie voor een nieuwe privacywet, die twee jaar later zouden uitmonden in de AVG. In zijn essay ‘The trouble with European data protection law’, vergelijkt Koops de AVG met de zombie uit de film The Trouble with Harry (1955) van Alfred Hitchcock. Het ‘probleem met Harry’ was dat de hoofdpersonen maar niet van het levenloze lichaam van zombie Harry afkwamen. Met een knipoog naar de film, waarschuwde Koops dat langzamerhand alle gegevens op zichzelf of in combinatie met andere data binnen de ruime definitie van ‘persoonsgegeven’ vallen.

Remmende werking
Zo kan de AVG regulerende luiheid in de hand werken, omdat politici en bestuurders, bewust of onbewust, complexe en multidisciplinaire kwesties als tumoronderzoek, toegang tot financiële producten of coronapreventie vooral zien door de lens van de AVG als een issue van transparantie en toestemming. In plaats van te beseffen dat de volksgezondheid of eerlijke kansen bij een hypotheek soms vergen dat een arts of bank geavanceerde data-analyse van gevoelige data moeten toepassen. En dat daarvoor sectorspecifieke wetgeving nodig is.

‘Het demissionair kabinet verbreekt weer de belofte om de Autoriteit Persoonsgegevens meer budget te geven’

Daarnaast is de strenge privacywet AVG ook in weinig zorgwekkende relaties volledig van kracht. Alleen in het eigen huishouden achter de voordeur is de AVG niet van toepassing. Maar de AVG biedt geen uitzondering, of lichter regime, voor een lokale sportclub of buurtinitiatief.

Een paar weken geleden publiceerde advocaat-generaal Bobek, die al talloze invloedrijke data-adviezen schreef over de datasamenleving die het EU-Hof vervolgens overnam in haar uitspraken, een warm aanbevolen en diepzinnige opinie over ‘het probleem’ van de AVG. ‘Mensen zijn sociale wezens (..). Moet nagenoeg elke uitwisseling van informatie onder de AVG vallen?’, zo schreef hij.

Bobek laat zien dat de AVG ook integraal van toepassing is op een cafégesprek, waarbij disgenoten elkaar een berichtje laten zien van een buurman en daarop een ‘weinig vleiende opmerking’ volgt. AVG overtreding, want zij hadden eerst toestemming moeten vragen aan die buurman vóór het tonen van dat appje. Bobek bespreekt een aantal van dit soort voorbeelden en noemt de vergaande reikwijdte van de AVG ‘bizar’, juist vanwege haar alomvattendheid. Hij voorspelt dat de AVG ‘feitelijk een van de meest veronachtzaamde’ wetten van de EU wordt.

Hij adviseert de Europese wetgever met klem om bij de aanstaande herziening van de AVG deze alomvattendheid te begrenzen. Dit kan bijvoorbeeld door niet-geautomatiseerde gegevensverwerkingen (het cafégesprek) uit te zonderen, te focussen op ‘behoorlijk gebruik’ in plaats van het begrip persoonsgegeven, en het aanbrengen van andere ‘minimumdrempels’, zoals daadwerkelijk nadeel (zoals schade). Bobek acht dit broodnodig, opdat de Europese privacyregels zich kunnen ‘heroriënteren op de activiteiten waarvoor zij eigenlijk waren bedoeld’.

Precies in die laatste opmerking wringt in de dagelijkse praktijk vaak de schoen. Enerzijds gooien tumoronderzoekers,  leerkrachten, werkgevers en voetbalclubs hun innovaties, leuke plannen of privacy vanwege de AVG in de prullenbak. Anderzijds komt de aanpak van de grote datakwesties maar mondjesmaat op gang.

Meer geld
Tot ieders ongenoegen brak het demissionair kabinet met Prinsjesdag, voor de zoveelste keer en tegen de wens van de Tweede Kamer, zijn belofte om het budget van de Autoriteit Persoonsgegevens significant uit te breiden. Er komt geen stuiver bij terwijl een verviervoudiging van het budget noodzakelijk is. Dat is dodelijk voor de draagkracht van de AVG. Het is de hoogste tijd voor debat over de heroriëntatie van de AVG op de reële problemen en excessen van de datawereld, voordat de privacywet als een zombie door de datasamenleving rondwaart.

93e FD Column: De megaboete voor WhatsApp – Transparantie klinkt goed, maar verbetert privacy amper

Deze column staat in Het Financieele Dagblad van 14 september 2021. Volg deze link voor mijn eerdere FD columns.

Het privacyrecht vereist dat een website je informeert over wat er met je data gebeurt. Dit leidt tot een steeds grotere overkill aan privacyvoorwaarden. Politici moeten beseffen dat de transparantieverplichtingen uit de AVG geen wondermiddel zijn. Ze moeten veel nadrukkelijker meebeslissen hoe privacy te borgen in onze datasamenleving, schrijft Axel Arnbak.

Illustratie: Hein de Kort voor Het Financieele Dagblad

Bent u van plan het privacybeleid te lezen van elke website die u bezoekt? Wetenschappers becijferden al in 2010 dat u daarvoor minimaal 76 werkdagen per jaar nodig hebt. En als het aan de gezamenlijke Europese datatoezichthouders ligt, hebt u voortaan nóg meer tijd nodig om te lezen wat welke organisatie op het wereldwijde web met uw data doet, en waarom.

Op 2 september publiceerde de Ierse datawaakhond onder mondiale media-aandacht zijn besluit om een forse boete, van €225 mln, op te leggen aan berichtendienst WhatsApp. Het privacybeleid van WhatsApp zou niet voldoen aan de strenge transparantievereisten uit de roemruchte Europese datawet AVG. Het besluit heeft niet alleen voor WhatsApp, maar voor iedereen verregaande gevolgen: het tijdperk van honderden pagina’s tellende privacyvoorwaarden is aanstaande. Continue reading 93e FD Column: De megaboete voor WhatsApp – Transparantie klinkt goed, maar verbetert privacy amper

89e FD Column: Afnemer van AI is straks aan de goden overgeleverd

Deze column staat in Het Financieele Dagblad van 12 mei 2021. Volg deze link voor mijn eerdere FD columns.

Bij kunstmatige intelligentie (AI) is de afnemer te afhankelijk van de ontwikkelaar. Die ongelijkheid zal de komende jaren alleen maar toenemen, schrijft informatierecht-expert Axel Arnbak.

Illustratie: Hein de Kort voor Het Financieele Dagblad

Al decennia geldt in de digitale wereld: afhankelijkheid is onmacht. Een paar weken terug bekende het CIO Platform namens 130 serieuze bedrijven in het FD dat zij nog steeds niet bij machte zijn te voldoen aan de strenge privacywet AVG, die op 25 mei drie jaar van kracht is. Reden: afhankelijkheid van Amerikaanse cloudleveranciers waarvan sommige de regels niet respecteren, maar wel eisen dat hun klanten complexe contracten ondertekenen bij het kruisje, zonder ruimte voor onderhandelen.

Bij grootschalige cybersecurity-incidenten hangen organisaties, net als u en ik thuis bij een falende internetverbinding tijdens het corona-thuiswerken, vaak aan de broekspijp van hun IT-provider: deels wanhopig om de oorzaak, deels vurig hopend op een oplossing. Teleurgesteld, maar afhankelijk, kunnen de afnemers van IT-diensten nauwelijks voldoen aan hun juridische plichten, laat staan opkomen voor hun rechten tegen almachtige IT-leveranciers.

Op 21 april lanceerde de Europese Commissie haar langverwachte wetgevingsvoorstellen voor kunstmatige intelligentie (AI). Zelflerende software zonder directe menselijke controle heeft al een reusachtige impact op ons leven en is overal: in de financiële sector, in het ziekenhuis, in uw zelfrijdende auto, in uw spamfilter en in uw broekzak op uw smartphone. Nog meer dan in conventionele IT, kunnen de meeste bedrijven en instellingen die ‘iets’ met AI willen de kneepjes van het vak niet zelf aanleren, wegens gebrek aan middelen en talent.

Toverkracht
In hun zoektocht naar de toverkracht van AI, verwordt AI dus een dienst die je afneemt, net zoals cloud computing en IT-beveiliging. De fundamentele afhankelijkheid die de digitale wereld nu al kenmerkt, zal in het AI-tijdperk explosief toenemen. Het wordt nagelbijten of de Europese Unie erin slaagt de afnemers van AI adequaat te beschermen tegen de aanbieders. Continue reading 89e FD Column: Afnemer van AI is straks aan de goden overgeleverd

85e FD Column: Cyberbiosecurity – wie beschermt de code van het leven?

Deze column staat in Het Financieele Dagblad van 7 januari 2021 onder de titel ‘Ook in biotech is cybersecurity een levensgroot risico’. Volg deze link voor mijn eerdere FD columns.

Illustratie: Hein de Kort voor Het Financieele Dagblad

In het kort
* DNA kun je, net als software, opslaan, printen en hacken
* Risico’s cybersecurity in biotech zijn juist in coronatijd zeer groot
* Reguleren staat helaas nog in de kinderschoenen

Hoe meer we te weten komen over genetica, des te meer lijkt de code van ons leven zich als computercode te gedragen. DNA, RNA en de andere bouwstenen van levenden organismen lenen zich, net als software, ook goed voor hacking, goed- en kwaadschiks.

Het eerste wereldwijd geaccepteerde coronavaccin van BioNTech en Pfizer hackt de standaardbeveiliging van ons immuunsysteem met een iets aangepast molecuul, een Nobelprijswaardige biohack die alles wegheeft van de phishing e-mail die uw firewall en spamfilter weet te omzeilen.

Maar naarmate de werelden van biologie en computers inniger vervlochten raken, doemen welbekende risico’s van cybersecurity en specifieke nieuwe cyberrisico’s op in de biotechnologie. Denk aan de informatieveiligheid van DNA-databanken, bescherming van privacy, betrouwbaarheid van communicatie van DNA-sequenties tussen ontwikkelaars, labs en andere stakeholders, maar ook aan het aanpassen van de code van het leven, per ongeluk of met kwade intenties.

Dit roept een vrij fundamentele vraag op: hoe beschermen wij de code van het leven? Weliswaar nemen volwassen pharma- en biotechbedrijven dit risico uit welbegrepen eigenbelang serieus, toch staat het denken over en reguleren van cyberbiosecurity in de kinderschoenen, ook in sectoren als de zorg, landbouw, maakindustrie en defensie. Juist in tijden van corona is de noodzaak om daaraan te werken existentieel.

‘Het roept een vrij fundamentele vraag op: hoe beschermen wij de code van het leven?’

Continue reading 85e FD Column: Cyberbiosecurity – wie beschermt de code van het leven?

75e FD Column: Reguleer AI niet als privacy via een algemene wet, maar met contextuele regels en specifiek toezicht

Deze column staat in Het Financieele Dagblad van 6 februari 2020. Volg deze link voor mijn eerdere FD columns.

Net als iedere nieuwe ceo of voetbaltrainer, grossiert de nieuwe Europese Commissie (EC) in grootse ambities. Na klimaatverandering volgt het realiseren van Europese waarden en soevereiniteit in de digitale wereld als het tweede grote voornemen van de nieuwe ploeg, vooral ten aanzien van kunstmatige intelligentie (AI).

 

Illustratie: Hein de Kort voor Het Financieele Dagblad

 

Ook al presenteert de Commissie haar concrete AI-plannen tot 2024 pas medio februari, geheel volgens traditie lekten de beleidsplannen recent toch uit. Net Prinsjesdag. De EC promoot ‘menswaardige’ AI, maar wil daartoe geen ‘specifieke resultaatverplichtingen en nieuwe rechten voor burgers’ in het leven roepen. De Commissie zet in op een nieuwe alomvattende AI-wet, naar model van de Europese privacywet AVG.

Menswaardigheid

De AVG is een significant geopolitiek succes, omdat de Europese wet nu wereldwijd wordt gekopieerd – van Brazilië tot India en Japan. Weliswaar vormt de AVG daarom een aantrekkelijk politiek frame voor de Commissie om haar AI-beleid in te gieten, maar geen adequate juridische mal. Door de AVG als blauwdruk te nemen, kan de politiek – net als bij de AVG – mooie sier maken met een ‘nieuwe AI-wet’ en – net als bij privacy – vermoeden dat het daarmee wel geregeld is, terwijl de bescherming van onze menswaardigheid in de praktijk vaak uitblijft. Europa heeft geen algemene AI-wet nodig, maar context-specifieke regels en effectief toezicht om de inbedding van AI in ons dagelijks leven menswaardig te maken. Continue reading 75e FD Column: Reguleer AI niet als privacy via een algemene wet, maar met contextuele regels en specifiek toezicht

74e FD Column: Plannen om versleuteling te ondermijnen zijn onveilig en gevaarlijk

Deze column staat in Het Financieele Dagblad van 9 januari 2020. Volg deze link voor mijn eerdere FD columns.

Geschiedenis herhaalt zich, ook in de relatief recente historie van het internet. Sinds de jaren negentig lanceren overheden iedere drie tot vijf jaar een voorstel om de versleuteling van internetcommunicatie te ondermijnen. Steeds is het debat heftig en emotioneel. En iedere keer is de uitkomst toch dat robuuste versleuteling onmisbaar is voor de werking van het internet, en daarmee ook voor onze financiële markten, ziekenhuizen, snelwegen en al het andere dat ons lief is in de digitale wereld.

 

Illustratie: Hein de Kort voor Het Financieele Dagblad.

 

Weliswaar kunnen kwade krachten – van terroristen via drugskartels tot kindermisbruikers – hun communicatie dan ook versleutelen. Desondanks blijken gerichte en slimme opsporingsacties succesvol om criminele netwerken op te rollen, kunnen de onmisbare voordelen van betrouwbare communicatie blijven bestaan en kan onze informatiesamenleving zich doorontwikkelen.

Nieuwe pogingen

Minister van Justitie en Veiligheid Ferdinand Grapperhaus en zijn evenknieën in de Verenigde Staten, het Verenigd Koninkrijk en Australië, maakten zich recent weer eens schuldig aan nieuwe pogingen om technologiebedrijven te verplichten een ‘exclusieve achterdeur’ te bouwen in hun versleutelde producten, zodat alleen ‘de overheid’ kan meeluisteren. Al dertig jaar klimmen experts, het bedrijfsleven en het maatschappelijk middenveld dan weer zuchtend in de pen om de samenleving te herinneren aan ons vorige dansje in deze cryptowars, bijvoorbeeld rondom de versleuteling van de 5G-standaard en de iPhone.

Maar de Amerikaanse minister van justitie William Barr gooide onlangs een nieuwe steen in deze versleutelingsvijver. Barr wil preventief alle internetcommunicatie scannen op ‘schadelijke informatie’. De adjudant van Trump stelt, misschien zonder het zelf te realiseren, in feite volledige surveillance van alle internetcommunicatie voor, zoals dictatoriale regimes dat kennen. Zijn plan moet, los van de juridische onmogelijkheid in de Europese Unie, principieel te vuur en te zwaard worden bestreden. Continue reading 74e FD Column: Plannen om versleuteling te ondermijnen zijn onveilig en gevaarlijk

72e FD Column: Toekomstvisie Autoriteit Persoonsgegevens is nog lege huls zonder slagkracht en gezag

Deze column staat in Het Financieele Dagblad van 14 november 2019. Volg deze link voor mijn eerdere FD columns.

‘In de beperking toont zich pas de meester’. Misschien wel geïnspireerd door deze beroemde strofe van de Duitse schrijver, staatsman en homo universalis Johann Wolfgang von Goethe, publiceerde privacytoezichthouder Autoriteit Persoonsgegevens (AP) maandag voor het eerst een meerjarenbeleid voor toezicht op onze datasamenleving. Titel van deze strategie: ‘Focus AP 2020-2023’.

Illustratie: Hein de Kort voor Het Financieele Dagblad

 

Naarmate onze samenleving steeds sneller dataficeert, daagt de privacywet Algemene Verordening Gegevensbescherming (AVG) de structureel onderbezette waakhond AP uit om zo’n beetje alles en iedereen overal en altijd in de gaten te houden. Met haar lezenswaardige strategie en zelfopgelegde focus op ‘datahandel, digitale overheid en artificiële intelligentie & algoritmes’ beperkt de AP zich tot de kern en toont zij een glimp van meesterschap in wording.

Toch heeft de AP de grootste uitdaging nog voor de boeg. Al sinds 1 januari 2016 kan de AP hoge boetes opleggen voor privacyschendingen. Ook is de strenge privacywet AVG sinds 25 mei 2018 in werking. Maar waar andere datawaakhonden in Europa na decennia van doormodderen eindelijk voldoende budget krijgen en stevig doorbijten, houdt de overheid hier de hand ferm op de knip en moet de AP haar tanden nog laten zien. Bovendien weifelt en wankelt de AP inhoudelijk op cruciale thema’s en lijkt zij onwenselijk geobsedeerd door toestemming als de ‘gouden grondslag’ voor dataverwerkingen. Zonder slagkracht en gezag dreigt de lovenswaardige strategie van de AP alsnog te stranden in goede bedoelingen. Continue reading 72e FD Column: Toekomstvisie Autoriteit Persoonsgegevens is nog lege huls zonder slagkracht en gezag