Tag Archives: Oversight

63e FD Column: Broodnodige samenwerking toezichthouders op datasamenleving heeft last van groeipijnen

Deze column staat in Het Financieele Dagblad van 21 februari 2019. Volg deze link voor mijn eerdere FD columns.

Kerberos, de angstaanjagende waakhond van Hades uit de Griekse mythologie, hield zo effectief toezicht dat de doden niet eens dúrfden te ontsnappen uit de Onderwereld. Met zijn drie hoofden kon Kerberos alle ontsnappingspogingen volgen en waar nodig doorbijten.

Illustratie: Hein de Kort voor het FD

De datasamenleving heeft al jaren een Kerberos nodig. Auto’s zijn tegenwoordig namelijk rijdende computers, terwijl de datastartups van vijftien jaar terug de machtigste bedrijven ter wereld, met activiteiten in het onderwijs, zorg, nieuwsvoorziening, retail en de financiële markten. Net als Kerberos, dienen effectieve waakhonden op privacy, marktmacht, verkeersveiligheid en financiële markten met meerdere hoofden toe te zien op de multidisciplinaire realiteit die de datasamenleving allang is.

Met de publicatie van het handhavingsbesluit van de Duitse Bundeskartellamt tegen Facebook van 7 februari jl. en de inwerkingtreding van betaalwet PSD2 deze week, lijken toezichthouders gehoor te willen geven aan de jarenlange roep om intensievere samenwerking. Tegelijk blijken diezelfde toezichthouders maar moeizaam samen op te trekken. Daadkracht, transparantie en deugdelijke motivering manifesteren zich als groeipijnen, juist nu de datasamenleving gebaat is bij effectief en verantwoord toezicht. Continue reading 63e FD Column: Broodnodige samenwerking toezichthouders op datasamenleving heeft last van groeipijnen

62e FD Column: Recht en rechtspraak waarborg tegen oncontroleerbare kunstmatige intelligentie

Deze column staat in Het Financieele Dagblad van 7 februari 2019. Volg deze link voor mijn eerdere FD columns.

Hoe succesvoller wetenschap en technologie voortschrijden, hoe ondoorzichtiger en obscuurder zij worden’. Naarmate de tijd vordert, lijkt deze diepzinnige uitspraak van de Franse filosoof Bruno Latour, uit 1999, onze hypertechnologische wereld alsmaar beter te beschrijven. De kunstmatige intelligentie (AI) van zelflerende computersystemen destilleert opzienbarende inzichten uit gigantische bergen inputdata. Tegelijkertijd lukt het ontwikkelaars van AI-systemen en wetenschappers vaak niet om vooraf te voorspellen of achteraf te verklaren hoe zelflerende systemen zulke bovenmenselijke prestaties leveren. Sterker nog: steeds vaker hoor je dat uitlegbaarheid van de werking van AI-systemen aan gewone stervelingen een rem zou vormen op de voorspellende kracht van AI.

Illustratie: Hein de Kort

Zwarte doos

Toch beginnen wetgevers en rechters het recht als werktuig te gebruiken om de ‘zwarte doos’ van technologie en wetenschap open te breken. De strenge Europese privacywet AVG en baanbrekende rechterlijke uitspraken verlangen transparantie van inputdata en uitlegbaarheid van besluiten die door machines worden genomen. Of het nu gaat om zelfrijdende auto’s, beleggingsbeslissingen of automatische gezichtsherkenning op straat, innovatie en recht liggen op ramkoers. In tegenstelling tot het veelgehoorde determinisme van ontwikkelaars en Latour – de technologie werkt nu eenmaal zo, dus vergeet het maar met je uitlegbaarheid – zal het recht uitlegbaarheid afdwingen. Althans, in Europa.  Continue reading 62e FD Column: Recht en rechtspraak waarborg tegen oncontroleerbare kunstmatige intelligentie

61e FD Column: Miljoenenboete voor Google is baanbrekende testcase voor handhaving Europese Privacywet

Deze column staat in Het Financieele Dagblad van 24 januari 2019. Volg deze link voor mijn eerdere FD columns.

De Oostenrijkse privacy-advocaat Max Schrems strikes again. De luis in de pels van de grote techfirma’s procedeerde na de Snowden-onthullingen al met succes tot aan het Europese Hof van Justitie over ontoereikende privacybescherming van Europeanen in databases van Amerikaanse bedrijven. En op 25 mei jl., de dag dat de nieuwe strenge privacywet AVG in Europa in werking trad, diende Schrems’ stichting None of Your Business bij toezichthouders in vier landen een reeks klachten in over de grote Amerikaanse techbedrijven. Naar aanleiding daarvan slingerde de Franse privacytoezichthouder CNIL afgelopen maandag Google voor €50 mln op de bon. Volgens CNIL ontvangen Franse Androidgebruikers onvoldoende informatie wat Google met hun data doet. Google beschikt volgens de CNIL dan ook niet over een geldige toestemming van die gebruikers om, bijvoorbeeld, advertenties te personaliseren.

Illustratie: Hein de Kort voor het FD.

 

De Franse waakhond is op oorlogspad. Het onderzoek is razendsnel uitgevoerd, het concept-besluit plofte vlak voor de feestdagen bij Google op de mat, 15 januari was er een hoorzitting en een week later maakte CNIL het korte, niet altijd even goed onderbouwde besluit wereldkundig. Google ‘bestudeert het besluit en beraadt zich op vervolgstappen’, zoals dat zo mooi heet. Niet zozeer omdat die € 50 mln pijn doet, maar omdat CNIL stelt dat Google via ruim twintig diensten – van Gmail, via Maps en Analytics tot YouTube – onrechtmatig geld verdient. CNIL raakt zo de kern van Google’s miljardenomzet. Na politiek debat sinds 2012 en jarenlange voorbereidingen, is de eerste grote AVG-boete nu een feit. Door de potentieel verstrekkende gevolgen voor online businessmodellen, vormt het besluit de eerste grote testcase voor de handhaving van de strenge Europese privacyregels.  Continue reading 61e FD Column: Miljoenenboete voor Google is baanbrekende testcase voor handhaving Europese Privacywet

60e FD Column: Maak kunstmatige intelligentie centraal thema bij de Europese verkiezingen

Deze column staat in Het Financieele Dagblad van 10 januari 2019. Volg deze link voor mijn eerdere FD columns.

Eens in de vijf jaar staat het hoogtepunt van de westerse democratische samenleving op de agenda. Eind mei 2019 bepalen circa 375 miljoen stemgerechtigde EU-burgers de koers van de Europese Unie tot 2024. De kiezer krijgt nogal existentiële kwesties voorgeschoteld, zoals klimaatverandering, immigratie en de toekomst van de EU, nu de Britten het schip verlaten en wij zijn omgeven door wereldmachten met tamelijk autocratische leiders aan het roer.

Illustratie: Hein de Kort

 

Op één existentieel dossier biedt de Europese politiek de kiezer geen keuze. In razendsnel tempo verandert kunstmatige intelligentie (AI) onze samenleving. Een menswaardig bestaan is in toenemende mate afhankelijk van zelflerende algoritmes en de keuzes die computers maken. Denk aan de kans op een baan, op een woning, wie in een oorlogssituatie een raket op zich krijgt afgevuurd en wie aan de grens überhaupt de Unie mag binnenkomen. Waar de Verenigde Staten, China en Rusland al jaren een geslepen industriepolitiek voeren rondom AI, heeft de EU pas afgelopen jaar met wat vage persberichten, plannen en geld van zich laten horen. Te laat, te weinig en met name te flets. Maar beter laat dan nooit. Europese politici moeten daarom van AI een centraal verkiezingsthema maken en hun visie hierop presenteren. Continue reading 60e FD Column: Maak kunstmatige intelligentie centraal thema bij de Europese verkiezingen

58e FD Column: Evaluatie inlichtingenwet spionnenwaakhond is even zorgwekkend als voorspelbaar

Deze column staat in Het Financieele Dagblad van 13 december 2018. Volg deze link voor mijn eerdere FD columns.

Niemand benijdt minister Ollongren van Binnenlandse Zaken (D66) om haar hoofdpijndossier, de Wet op de inlichtingen- en veiligheidsdiensten 2017 (Wiv). De Wiv is controversieel vanaf het eerste parlementaire debat in 2016. D66 stemde tegen de Wiv in de Eerste Kamer in 2017, maar kreeg het misbaksel alsnog bij de formatie in de maag gesplitst. Ollongren en haar partij kregen de ondankbare opdracht van de coalitiepartners de Wiv met een paar halfbakken ‘waarborgen’ door het laatste raadgevende referendum in de parlementaire geschiedenis te loodsen. Ondanks de historische tegenstem in maart jl., moest Ollongren onder grote politieke druk de wet, met nog een paar waarborgen meer, alsnog doordrukken.

Illustratie: Hein de Kort voor het FD.

 

Vorige week evalueerde de toezichthouder op de inlichtingendiensten, de CTIVD, dat al die waarborgen in de praktijk niets voorstellen. Hoe blijft de minister nog geloofwaardig als zij binnenkort de Kamer zal moeten overtuigen dat alles, ooit, echt, goed komt met de Wiv? Met nog meer waarborgen? Voor de ogen van de kiezers voltrekt zich een tragikomisch politiek schouwspel waarin onze privacy structureel wordt geschonden door een wet die wij zelf afserveerden. Continue reading 58e FD Column: Evaluatie inlichtingenwet spionnenwaakhond is even zorgwekkend als voorspelbaar

52e FD Column: Eerste Snowden-uitspraak van Europees Hof helpt tegenstanders Nederlandse sleepwet nauwelijks

Deze column stond in Het Financieele Dagblad van 20 september 2018. Volg deze link voor mijn eerdere FD columns.

‘Klokkenluider Snowden heeft gelijk gekregen van de Europese rechter’. De internationale pers pakte vorige week eensgezind uit over de allereerste uitspraak van het Europees Hof van de Rechten van de Mens op basis van de Snowden-onthullingen, die vijf jaar geleden maandenlang het wereldwijde nieuws domineerden. Het Hof oordeelde op 13 september jl. dat de Britse wetgeving, waarop een aantal door Snowden onthulde spionageprogramma’s zijn gebaseerd, de toets van privacy en vrije meningsuiting niet doorstaat.

Illustratie: Hein de Kort

 

Ook al lieten alle Nederlandse kwaliteitsmedia het nieuws links liggen, vormt de uitspraak de graadmeter voor de Nederlandse Wet op de Inlichtingen- en Veiligheidsdiensten 2017. Deze wet is in de volksmond bekend geraakt als de ‘sleepwet’, die het Kabinet ondanks de negatieve uitslag van het referendum toch invoerde onder toezegging van een aantal slappe waarborgen, waar de Tweede Kamer binnenkort over debatteert. Toch vertellen de internationale koppen slechts de helft van het verhaal. Ondanks het verbod van de Britse sleepwet, toont de uitspraak namelijk de beperkte macht van het Hof om spionagedriften van natiestaten binnen de perken te houden.

Continue reading 52e FD Column: Eerste Snowden-uitspraak van Europees Hof helpt tegenstanders Nederlandse sleepwet nauwelijks

50e FD Column: Intensievere samenwerking met VS sluitstuk doordrukken inlichtingenwet

Deze column stond in Het Financieele Dagblad van 12 juli 2018. Volg deze link voor mijn eerdere FD columns.

Volgens premier Rutte was zijn bezoek aan president Trump vorige week een ‘huge success’. De media besteedden vooral aandacht aan financiële thema’s, uitgedragen door vijf meegereisde ceo’s. In de kantlijn signaleerde de Volkskrant dat Nederland daarnaast verdere samenwerking aangaat met de ‘Five Eyes’, het besloten militaire en inlichtingennetwerk van de VS, het VK, Canada, Australië en Nieuw-Zeeland. Nederland kan nu scherpere deals sluiten met Amerikaanse wapenhandelaren. Daarnaast krijgt Nederland allicht meer inlichtingen van de Five Eyes, bijvoorbeeld rondom politieke topconferenties en militaire operaties. Desondanks heeft Nederland veel te verliezen van te nauwe banden met het Amerika van president Trump.

In Amsterdam is het grootste mondiale kruispunt van internetverkeer, de AMS-IX, gehuisvest.
In Amsterdam is het grootste mondiale kruispunt van internetverkeer, de AMS-IX, gehuisvest. Foto: Arie Kievit / Hollandse Hoogte

Continue reading 50e FD Column: Intensievere samenwerking met VS sluitstuk doordrukken inlichtingenwet

49e FD Column: Maatschappelijk belang onderbelicht in nieuwe Europese privacyregels

Deze column stond in Het Financieele Dagblad van 14 juni 2018. Volg deze link voor mijn eerdere FD columns.

Met veel tamtam zijn op 25 mei strenge Europese privacyregels van kracht geworden. Las u niet over de Algemene Verordening Gegevensbescherming (AVG) in de krant, dan stroomde uw inbox wel vol met smeekbedes om toestemming voor diensten waarvan u niet eens wist dat u daarop geabonneerd was.

Toch bieden de AVG en andere privacywetten nauwelijks antwoord op prangende digitale kwesties van vandaag en morgen, door vooral nadruk te leggen op transparantie en controle voor het individu. Die nadruk is historisch te verklaren, maar tegenwoordig vaak illusoir en leidt af van belangrijke vragen over de maatschappelijke impact van nieuwe technologieën als kunstmatige intelligentie. Hoog tijd voor een sterkere nadruk op de maatschappelijke waarde van privacy in recht en beleid.

Illustratie: Hein de Kort voor Het Financieele Dagblad

Continue reading 49e FD Column: Maatschappelijk belang onderbelicht in nieuwe Europese privacyregels

47e FD Column: Veranker Europese waarden in technologie van de toekomst

Deze column stond in Het Financieele Dagblad van 19 april 2018. Volg deze link voor mijn eerdere FD columns.

Jarenlang liepen Europese opinieleiders te veel aan achter Amerikaanse techies, zoals de ceo van Sun Microsystems Scott McNealy. Zijn uitspraak ‘Privacy is dood, wen er maar aan’ uit 1999 heeft vooral in de top van de Europese politiek en bedrijfsleven te lang nagegalmd. Toch is het maatschappelijk debat over technologie voorgoed veranderd. Met de inlichtingenwet en de hoorzitting van Mark Zuckerberg vers in het geheugen, realiseren zelfs traditionele ceo’s en staatshoofden dat een verantwoorde respons op technologische vragen meeweegt in de beurskoers en bij verkiezingen. De Franse president gooide hier pas nog een schepje bovenop: Europa heeft een ­eigen toekomstvisie nodig om de datasamenleving een prettige samenleving te laten zijn.

Illustratie: Hein de Kort voor Het Financieele Dagblad

 

Emmanuel Macron ontvouwde eind maart eindelijk zijn digitale strategie voor Frankrijk en Europa, met de nadruk op kunstmatige intelligentie. Hij constateert terecht dat het 5 voor 12 is voor het Europese continent. De VS en China domineren het technologische landschap, vooral ten aanzien van softwareontwikkeling en ‘machine learning’. Maar Europese sociale waarden en grondrechten zijn niet geborgd als de Europese datasamenleving aan het infuus ligt van Amerikaanse en Chinese technologie. Continue reading 47e FD Column: Veranker Europese waarden in technologie van de toekomst

46e FD Column: Het kabinet past bescheidenheid bij uitvoering van de inlichtingenwet

Deze column stond in Het Financieele Dagblad van 23 maart 2018. Volg deze link voor mijn eerdere FD columns.

Het referendum over de Wet op de inlichtingen en veiligheidsdiensten 2017 (Wiv) is in alle opzichten historisch. Zelden spraken zo veel Nederlanders met elkaar over de complexe verhouding tussen staatsmacht, burgerlijke vrijheid en technologie. Ook uniek was dat Den Haag al van tevoren een eventuele ongewenste referendumuitslag neutraliseerde. Het kabinet zal ervoor zorgen dat de Wiv er komt, ook al stemde de helft van de kiezers afgelopen woensdag tegen.

Fascinerend genoeg bestaat er brede consensus in Nederland dat de huidige wet uit 2002 een update verdient en dat de inlichtingendiensten AIVD en MIVD belangrijk werk verrichten. Maar de regering en het parlement hebben de vervangende wet zo vaag geformuleerd dat expert noch burger precies weet hoever de opgerekte staatsmacht nu eigenlijk reikt. Het kabinet kan dit belangrijkste bezwaar van de tegenstemmers niet zomaar naast zich neerleggen.

Illustratie: Hein de Kort

Continue reading 46e FD Column: Het kabinet past bescheidenheid bij uitvoering van de inlichtingenwet

44e FD Column: Machtspositie Nederland belangrijke drijfveer voor controversiële internettap

Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder omdat Hans daar altijd om zeurde. Volg deze link voor mijn eerdere FD columns.

43e FD Column: Bewuste digitale keuze is voor gebruiker belangrijker dan ooit

Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder omdat Hans daar altijd om zeurde. Volg deze link voor mijn eerdere FD columns.