Tag Archives: Justice

58e FD Column: Evaluatie inlichtingenwet spionnenwaakhond is even zorgwekkend als voorspelbaar

Deze column staat in Het Financieele Dagblad van 13 december 2018. Volg deze link voor mijn eerdere FD columns.

Niemand benijdt minister Ollongren van Binnenlandse Zaken (D66) om haar hoofdpijndossier, de Wet op de inlichtingen- en veiligheidsdiensten 2017 (Wiv). De Wiv is controversieel vanaf het eerste parlementaire debat in 2016. D66 stemde tegen de Wiv in de Eerste Kamer in 2017, maar kreeg het misbaksel alsnog bij de formatie in de maag gesplitst. Ollongren en haar partij kregen de ondankbare opdracht van de coalitiepartners de Wiv met een paar halfbakken ‘waarborgen’ door het laatste raadgevende referendum in de parlementaire geschiedenis te loodsen. Ondanks de historische tegenstem in maart jl., moest Ollongren onder grote politieke druk de wet, met nog een paar waarborgen meer, alsnog doordrukken.

Illustratie: Hein de Kort voor het FD.

 

Vorige week evalueerde de toezichthouder op de inlichtingendiensten, de CTIVD, dat al die waarborgen in de praktijk niets voorstellen. Hoe blijft de minister nog geloofwaardig als zij binnenkort de Kamer zal moeten overtuigen dat alles, ooit, echt, goed komt met de Wiv? Met nog meer waarborgen? Voor de ogen van de kiezers voltrekt zich een tragikomisch politiek schouwspel waarin onze privacy structureel wordt geschonden door een wet die wij zelf afserveerden. Continue reading 58e FD Column: Evaluatie inlichtingenwet spionnenwaakhond is even zorgwekkend als voorspelbaar

57e FD Column: Grondrechtentraditie moet perverse effecten van kunstmatige intelligentie helpen voorkomen

Deze column staat in Het Financieele Dagblad van 29 november 2018. Volg deze link voor mijn eerdere FD columns.

Internetreuzen als Amazon, Google en Microsoft zetten al jarenlang in op kunstmatige intelligentie (AI). Toch gaat er veel mis als zelflerende algoritmes losgaan op de werknemers, foto’s of klanten. Vorige maand onthulde Reuters dat Amazon na vier jaar een hr-tool om door cv’s van sollicitanten te scannen weer in de ban doet, omdat die consequent vrouwen discrimineert. Google toonde Afro-Amerikanen als je zocht op ‘gorilla’ en chatbot TayTweets van Microsoft ontwikkelde zichzelf binnen een dag tot een racist en complotdenker (en Trumpfan). Blijkbaar kunnen zelfs de bestbetaalde geniën bij internetreuzen hun algoritmes niet opvoeden.

 

Illustratie: Hein de Kort voor Het Financieele Dagblad

 

Organisaties en beleidsmakers moeten lering trekken uit deze incidenten. Maak maatschappelijke waarden en heldere doeleinden onderdeel van trainingsdata en analysetools om AI succesvol en acceptabel te maken.

Kinderziekten horen bij technologische disruptie. Socioloog Manuel Castells sloeg in 1995 de spijker op zijn kop in zijn standaardwerk The Rise of the Network Society. Hij schreef dat elke technologische omwenteling gepaard gaat met ‘perverse effecten’. In de jaren ’80 en ’90 hebben geeks, bedrijven en overheden cruciale ontwerpkeuzes gemaakt die nog steeds het DNA van het internet bepalen: connectiviteit was prioriteit, iedereen moest kunnen aanhaken. Privacy en cybersecurity daarentegen werden uit de kernprotocollen van het internet gehouden. Bijkomend voordeel was dat de Amerikaanse overheid makkelijk kon meeluisteren. Maar nu zit de wereld opgescheept met de perverse effecten van 30 jaar oude ontwerpkeuzes: privacy staat onder druk, cybercrime tiert welig en iedereen bespioneert iedereen.

Gezonde verstand

Net als destijds met het internet, willen (vooral Amerikaanse) leveranciers ons weer doen geloven dat AI ‘een revolutie zal ontketenen in de wereld van x’, waarbij variabele x elke waarde aanneemt die bij een meeting, congres of pitch centraal staat. ‘Geen restricties op onze innovatie, u hoeft alleen bij het kruisje te tekenen.’ Tijdens diezelfde bijeenkomsten werd je jarenlang weggehoond als je wees op de perverse effecten van AI en regelgeving, gedragscodes of zelfs gezond verstand om de boel bij elkaar te houden.

Gelukkig lijkt het gezonde verstand langzaam terug te keren in het AI-debat. Niet alleen zorgen de incidenten voor groeiende scepsis bij afnemers. Ook de nieuwe Europese privacywet AVG vereist bij ‘geautomatiseerde besluitvorming’ altijd eerlijkheid, transparantie en uitlegbaarheid van de beslismodellen, en vaak voorafgaande expliciete toestemming van degene wiens data wordt geanalyseerd. Zonder verdere uitleg stellen dat een zelflerende hr-tool, zoekmachine of chatbot op hol is geslagen, volstaat niet langer en kan leiden tot serieuze AVG-boetes en reputatieschade.

Met de ontwerpkeuzes van vandaag leggen wij de fundamenten voor de gezonde inzet van AI in de komende decennia.

Maar hoe anticipeer je op perverse effecten bij een technologie die volop in ontwikkeling is? In zijn boek The Social Control of Technology van 1980 beschreef de Britse wetenschapper David Collingridge dit dilemma: ‘als ingrijpen op innovatie eenvoudig is, is de noodzaak nog niet duidelijk; als iedereen de noodzaak begrijpt, is ingrijpen duur, complex en langdurig.’ Hij nam onder meer benzine als voorbeeld. Bij de introductie van de auto was de milieuschade van loodhoudende benzine beperkt. Toen de auto eenmaal mainstream was, heeft het pijn en moeite gekost over te schakelen op loodvrije benzine. Het Collingridge dilemma overwin je door te investeren in kennisontwikkeling, afhankelijkheid van lobby-invloed uit te sluiten en transparant te zijn over voor- en nadelen van technologische omwentelingen.

Organisaties doen er dus verstandig aan te investeren in kennisontwikkeling, einddoelen helder te definiëren en de trainingsdata te checken op (juridische) bruikbaarheid, kwaliteit en vooringenomenheid. Zo kun je ook beter voldoen aan de AVG-vereisten. In mijn praktijk zie ik verstandige (vaak: kleine) AI-projecten razend succesvol worden en bij De Brauw helpt AI advocaten adviseren bij fusies- en overnames en in interne onderzoeken. Maar gooi je data over de schutting en hoop je op de magische saus van AI, dan stapelen incidenten zich vaak op tot teleurstellingen. Amazon, Google en Microsoft maakten de fout alleen te vertrouwen op hun briljante geeks, en sociale wetenschap, recht en diversiteit geen plek te geven aan de ontwerptafel. In hun projecten gold de nu bekende vuistregel: is de inputdata rommel, dan is de uitkomst ook rommel.

Tempo

Beleidsmakers in Nederland en Europa dienen vooral passende maatschappelijke kaders te scheppen voor AI. Waar de VS en China AI reguleren als handelspolitiek en machtsinstrument, kent Europa een sterke grondrechtentraditie. Niet geld of de Staat, maar de mens staat in principe centraal. Vermoeiend allicht, maar het zorgt voor een relatief harmonieuze, gezonde en vrije samenleving. Het verplicht namelijk perverse effecten als discriminatie en privacyschendingen vroegtijdig te voorkomen.

Tempo is een veel groter probleem in Europa en Nederland. Door een gebrek aan visie komt de noodzakelijke investering in kennis nu pas op gang en leunt het continent te veel op lobbyisten en technologie uit de VS – met cloud computing ging het tien jaar terug precies zo. De EU heeft pas net een ‘expertgroep’ (vol lobbyisten) verzameld die gaat meedenken over Europees AI-beleid. Daarmee loopt de EU minstens vier jaar achter: Amazon begon al in 2014 met het recruitmentproject. Hoog tijd voor de vijfde versnelling. Met de ontwerpkeuzes van vandaag leggen wij de fundamenten voor de gezonde inzet van AI in de komende decennia.

52e FD Column: Eerste Snowden-uitspraak van Europees Hof helpt tegenstanders Nederlandse sleepwet nauwelijks

Deze column stond in Het Financieele Dagblad van 20 september 2018. Volg deze link voor mijn eerdere FD columns.

‘Klokkenluider Snowden heeft gelijk gekregen van de Europese rechter’. De internationale pers pakte vorige week eensgezind uit over de allereerste uitspraak van het Europees Hof van de Rechten van de Mens op basis van de Snowden-onthullingen, die vijf jaar geleden maandenlang het wereldwijde nieuws domineerden. Het Hof oordeelde op 13 september jl. dat de Britse wetgeving, waarop een aantal door Snowden onthulde spionageprogramma’s zijn gebaseerd, de toets van privacy en vrije meningsuiting niet doorstaat.

Illustratie: Hein de Kort

 

Ook al lieten alle Nederlandse kwaliteitsmedia het nieuws links liggen, vormt de uitspraak de graadmeter voor de Nederlandse Wet op de Inlichtingen- en Veiligheidsdiensten 2017. Deze wet is in de volksmond bekend geraakt als de ‘sleepwet’, die het Kabinet ondanks de negatieve uitslag van het referendum toch invoerde onder toezegging van een aantal slappe waarborgen, waar de Tweede Kamer binnenkort over debatteert. Toch vertellen de internationale koppen slechts de helft van het verhaal. Ondanks het verbod van de Britse sleepwet, toont de uitspraak namelijk de beperkte macht van het Hof om spionagedriften van natiestaten binnen de perken te houden.

Continue reading 52e FD Column: Eerste Snowden-uitspraak van Europees Hof helpt tegenstanders Nederlandse sleepwet nauwelijks

47e FD Column: Veranker Europese waarden in technologie van de toekomst

Deze column stond in Het Financieele Dagblad van 19 april 2018. Volg deze link voor mijn eerdere FD columns.

Jarenlang liepen Europese opinieleiders te veel aan achter Amerikaanse techies, zoals de ceo van Sun Microsystems Scott McNealy. Zijn uitspraak ‘Privacy is dood, wen er maar aan’ uit 1999 heeft vooral in de top van de Europese politiek en bedrijfsleven te lang nagegalmd. Toch is het maatschappelijk debat over technologie voorgoed veranderd. Met de inlichtingenwet en de hoorzitting van Mark Zuckerberg vers in het geheugen, realiseren zelfs traditionele ceo’s en staatshoofden dat een verantwoorde respons op technologische vragen meeweegt in de beurskoers en bij verkiezingen. De Franse president gooide hier pas nog een schepje bovenop: Europa heeft een ­eigen toekomstvisie nodig om de datasamenleving een prettige samenleving te laten zijn.

Illustratie: Hein de Kort voor Het Financieele Dagblad

 

Emmanuel Macron ontvouwde eind maart eindelijk zijn digitale strategie voor Frankrijk en Europa, met de nadruk op kunstmatige intelligentie. Hij constateert terecht dat het 5 voor 12 is voor het Europese continent. De VS en China domineren het technologische landschap, vooral ten aanzien van softwareontwikkeling en ‘machine learning’. Maar Europese sociale waarden en grondrechten zijn niet geborgd als de Europese datasamenleving aan het infuus ligt van Amerikaanse en Chinese technologie. Continue reading 47e FD Column: Veranker Europese waarden in technologie van de toekomst

44e FD Column: Machtspositie Nederland belangrijke drijfveer voor controversiële internettap

Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder omdat Hans daar altijd om zeurde. Volg deze link voor mijn eerdere FD columns.

Interview in De Correspondent: ‘Waarom het de goede kant opgaat met de privacy van de Europese burger’

On 25 January, the wonderful Dutch online magazine ‘De Correspondent’ published a long interview on my book ‘Securing Private Communications’. The interview digs in deep on several fundamental changes in the governance of the European Union with the (from  a constitutional perspective) recent adoption of the EU Charter of Fundamental Rights and wider mandate of the EU Court of Justice. Even if politics are turbulent these days, I believe the EU is becoming a more complete Union, that is (finally) constitutionally designed to protect the privacy and cybersecurity of EU citizens. A strong judiciary is badly needed in times of populism. Read the entire interview, alas only in Dutch, here.

32e FD Column: Tijdperk Trump – Internetbeleid glipt het Westen door de vingers

Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder omdat Hans daar altijd om zeurt. Volg deze link voor mijn eerdere FD columns.

Tijdperk Trump – Internetbeleid glipt het Westen door de vingers

De globaliseringselite op het World Economic Forum in Davos en anarchisten op het hackerscongres 33c3 in Hamburg zijn opvallend eensgezind: Donald Trump is onvoorspelbaar (en dus eng). De internetagenda van de kersverse president was uiteraard in Hamburg en zelfs in Davos een hoofdthema, omdat de EU en de VS op korte termijn consensus moeten bereiken over brandende kwesties als privacy en cybersecurity. In feite laat Trump al na een paar dagen zien dat die noodzakelijke consensus onhaalbaar is. Door de steeds diepere breuk tussen de EU en de VS verliest het Westen de grip op de kernwaarden van het mondiale internet. Burgers, innovatie en vooral multinationals zijn het kind van de rekening. Continue reading 32e FD Column: Tijdperk Trump – Internetbeleid glipt het Westen door de vingers

31e FD Column: Krachtproef – Kan mensheid de kwantumcomputer aan?

Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder omdat Hans daar altijd om zeurt. Volg deze link voor mijn eerdere FD columns.

Krachtproef – Kan de mensheid de kwantumcomputer aan?

Na jaren van speculatie zullen wij over tien jaar terugkijken op 2016 als het jaar dat de kwantumcomputer zich van concept tot realiseerbare uitvinding ontwikkelde. Of het nu tien, twintig of misschien maar drie jaar duurt voordat deze computerexplosie een feit is, de mensheid heeft de consequenties nauwelijks doordacht. Het is goed denkbaar dat de kwantumcomputer huidige hardnekkige geopolitieke en juridische spanningen over gehackte verkiezingen en Snowden-onthullingen niet wegneemt, maar juist versterkt. Als wij niet nu al de economische en sociale gevolgen identificeren en bespreken, zal de verleiding groot zijn de kwantumcomputer eerst en vooral te ontwikkelen voor destructieve militaire doeleinden, in plaats van constructieve civiele toepassingen. Continue reading 31e FD Column: Krachtproef – Kan mensheid de kwantumcomputer aan?

29e FD Column: Slimme software – Computer kan werk rechter verbeteren, maar niet vervangen

Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder. Volg deze link voor mijn eerdere FD columns.

Slimme software – Computer kan werk rechter verbeteren, maar niet vervangen

Het is wetenschappers gelukt slimme software te schrijven die de uitspraken in zaken bij Europese Hof voor de Rechten van de Mens kan voorspellen. In 79% van de circa 600 onderzochte procedures had de software het bij het juiste eind. De publicatie van dit onderzoek voedt de hype dat software sterker zal worden dan het menselijk lichaam en slimmer dan de geest. Maar in feite laat het baanbrekende onderzoek zien dat de intelligentie van software kunstmatig is en dus anders dan menselijke intelligentie. Slimme software zal het werk van de rechter, dokter of politicus verbeteren, maar nooit vervangen. Continue reading 29e FD Column: Slimme software – Computer kan werk rechter verbeteren, maar niet vervangen

BREAKING :) abstract and download of my Ph.D. thesis ‘Securing Private Communications’ [open access]

The academic version of my thesis — titled ‘Securing Private Communications’ — is available online. I already committed it to the web in my previous blogpost on my public Ph.D. defense on 25 November 2015 (open to the public). But a friend of mine told me to once again post my abstract and download link for my thesis separately and make that clear in the title of the post. And make it BREAKING news. Ha! Here goes.  Continue reading BREAKING :) abstract and download of my Ph.D. thesis ‘Securing Private Communications’ [open access]

Law and Justice: Breaking One Stupid Rule A Day for Moral Fitness

If something is legal, it doesn’t follow that it is just. A simple observation, but so often neglected. Failing to continuously question the tension between actual law and justice or morality is omnipresent. Take surveillance; whatever moustache-twirlingly evil practice is revealed, authorities across the globe primarily defend systematic spying by refering to deeply flawed and even secret law. Today, I read a passage of James Scott’s new book, in which he outlines ‘Scott’s Law of Anarchist Calisthenics’. It’s a hilarious and deeply inspiring way to reveal fundmantal tensions between law and justice – and my way to train moral fitness. Continue reading Law and Justice: Breaking One Stupid Rule A Day for Moral Fitness

ECHR Fast-tracks Court Case on PRISM and TEMPORA (and VERYANGRYBIRDS?)

So. The NSA and GCHQ piggyback on Angry Birds to spy on its 1.7 billion users. potential terrorists. Not only that, but everything on smartphones can be compromised: “if its on the phone, we can get it”. Will it ever stop? A few days ago, the European Court of Human Rights (‘ECHR’) made the unique move to fast-track a case on the legality of mass surveillance practices by the GCHQ. A judgement is now expected in months, rather than years – in time to have a huge impact on the global debate on mass surveillance. Time for some analysis. Continue reading ECHR Fast-tracks Court Case on PRISM and TEMPORA (and VERYANGRYBIRDS?)