Deze column staat in Het Financieele Dagblad van 10 januari 2019. Volg deze link voor mijn eerdere FD columns.
Eens in de vijf jaar staat het hoogtepunt van de westerse democratische samenleving op de agenda. Eind mei 2019 bepalen circa 375 miljoen stemgerechtigde EU-burgers de koers van de Europese Unie tot 2024. De kiezer krijgt nogal existentiële kwesties voorgeschoteld, zoals klimaatverandering, immigratie en de toekomst van de EU, nu de Britten het schip verlaten en wij zijn omgeven door wereldmachten met tamelijk autocratische leiders aan het roer.
Illustratie: Hein de Kort
Op één existentieel dossier biedt de Europese politiek de kiezer geen keuze. In razendsnel tempo verandert kunstmatige intelligentie (AI) onze samenleving. Een menswaardig bestaan is in toenemende mate afhankelijk van zelflerende algoritmes en de keuzes die computers maken. Denk aan de kans op een baan, op een woning, wie in een oorlogssituatie een raket op zich krijgt afgevuurd en wie aan de grens überhaupt de Unie mag binnenkomen. Waar de Verenigde Staten, China en Rusland al jaren een geslepen industriepolitiek voeren rondom AI, heeft de EU pas afgelopen jaar met wat vage persberichten, plannen en geld van zich laten horen. Te laat, te weinig en met name te flets. Maar beter laat dan nooit. Europese politici moeten daarom van AI een centraal verkiezingsthema maken en hun visie hierop presenteren. Continue reading 60e FD Column: Maak kunstmatige intelligentie centraal thema bij de Europese verkiezingen→
Deze column staat in Het Financieele Dagblad van 13 december 2018. Volg deze link voor mijn eerdere FD columns.
Niemand benijdt minister Ollongren van Binnenlandse Zaken (D66) om haar hoofdpijndossier, de Wet op de inlichtingen- en veiligheidsdiensten 2017 (Wiv). De Wiv is controversieel vanaf het eerste parlementaire debat in 2016. D66 stemde tegen de Wiv in de Eerste Kamer in 2017, maar kreeg het misbaksel alsnog bij de formatie in de maag gesplitst. Ollongren en haar partij kregen de ondankbare opdracht van de coalitiepartners de Wiv met een paar halfbakken ‘waarborgen’ door het laatste raadgevende referendum in de parlementaire geschiedenis te loodsen. Ondanks de historische tegenstem in maart jl., moest Ollongren onder grote politieke druk de wet, met nog een paar waarborgen meer, alsnog doordrukken.
Illustratie: Hein de Kort voor het FD.
Vorige week evalueerde de toezichthouder op de inlichtingendiensten, de CTIVD, dat al die waarborgen in de praktijk niets voorstellen. Hoe blijft de minister nog geloofwaardig als zij binnenkort de Kamer zal moeten overtuigen dat alles, ooit, echt, goed komt met de Wiv? Met nog meer waarborgen? Voor de ogen van de kiezers voltrekt zich een tragikomisch politiek schouwspel waarin onze privacy structureel wordt geschonden door een wet die wij zelf afserveerden. Continue reading 58e FD Column: Evaluatie inlichtingenwet spionnenwaakhond is even zorgwekkend als voorspelbaar→
Deze column staat in Het Financieele Dagblad van 29 november 2018. Volg deze link voor mijn eerdere FD columns.
Internetreuzen als Amazon, Google en Microsoft zetten al jarenlang in op kunstmatige intelligentie (AI). Toch gaat er veel mis als zelflerende algoritmes losgaan op de werknemers, foto’s of klanten. Vorige maand onthulde Reuters dat Amazon na vier jaar een hr-tool om door cv’s van sollicitanten te scannen weer in de ban doet, omdat die consequent vrouwen discrimineert. Google toonde Afro-Amerikanen als je zocht op ‘gorilla’ en chatbot TayTweets van Microsoft ontwikkelde zichzelf binnen een dag tot een racist en complotdenker (en Trumpfan). Blijkbaar kunnen zelfs de bestbetaalde geniën bij internetreuzen hun algoritmes niet opvoeden.
Illustratie: Hein de Kort voor Het Financieele Dagblad
Organisaties en beleidsmakers moeten lering trekken uit deze incidenten. Maak maatschappelijke waarden en heldere doeleinden onderdeel van trainingsdata en analysetools om AI succesvol en acceptabel te maken.
Kinderziekten horen bij technologische disruptie. Socioloog Manuel Castells sloeg in 1995 de spijker op zijn kop in zijn standaardwerk The Rise of the Network Society. Hij schreef dat elke technologische omwenteling gepaard gaat met ‘perverse effecten’. In de jaren ’80 en ’90 hebben geeks, bedrijven en overheden cruciale ontwerpkeuzes gemaakt die nog steeds het DNA van het internet bepalen: connectiviteit was prioriteit, iedereen moest kunnen aanhaken. Privacy en cybersecurity daarentegen werden uit de kernprotocollen van het internet gehouden. Bijkomend voordeel was dat de Amerikaanse overheid makkelijk kon meeluisteren. Maar nu zit de wereld opgescheept met de perverse effecten van 30 jaar oude ontwerpkeuzes: privacy staat onder druk, cybercrime tiert welig en iedereen bespioneert iedereen.
Gezonde verstand
Net als destijds met het internet, willen (vooral Amerikaanse) leveranciers ons weer doen geloven dat AI ‘een revolutie zal ontketenen in de wereld van x’, waarbij variabele x elke waarde aanneemt die bij een meeting, congres of pitch centraal staat. ‘Geen restricties op onze innovatie, u hoeft alleen bij het kruisje te tekenen.’ Tijdens diezelfde bijeenkomsten werd je jarenlang weggehoond als je wees op de perverse effecten van AI en regelgeving, gedragscodes of zelfs gezond verstand om de boel bij elkaar te houden.
Gelukkig lijkt het gezonde verstand langzaam terug te keren in het AI-debat. Niet alleen zorgen de incidenten voor groeiende scepsis bij afnemers. Ook de nieuwe Europese privacywet AVG vereist bij ‘geautomatiseerde besluitvorming’ altijd eerlijkheid, transparantie en uitlegbaarheid van de beslismodellen, en vaak voorafgaande expliciete toestemming van degene wiens data wordt geanalyseerd. Zonder verdere uitleg stellen dat een zelflerende hr-tool, zoekmachine of chatbot op hol is geslagen, volstaat niet langer en kan leiden tot serieuze AVG-boetes en reputatieschade.
Met de ontwerpkeuzes van vandaag leggen wij de fundamenten voor de gezonde inzet van AI in de komende decennia.
Maar hoe anticipeer je op perverse effecten bij een technologie die volop in ontwikkeling is? In zijn boek The Social Control of Technology van 1980 beschreef de Britse wetenschapper David Collingridge dit dilemma: ‘als ingrijpen op innovatie eenvoudig is, is de noodzaak nog niet duidelijk; als iedereen de noodzaak begrijpt, is ingrijpen duur, complex en langdurig.’ Hij nam onder meer benzine als voorbeeld. Bij de introductie van de auto was de milieuschade van loodhoudende benzine beperkt. Toen de auto eenmaal mainstream was, heeft het pijn en moeite gekost over te schakelen op loodvrije benzine. Het Collingridge dilemma overwin je door te investeren in kennisontwikkeling, afhankelijkheid van lobby-invloed uit te sluiten en transparant te zijn over voor- en nadelen van technologische omwentelingen.
Organisaties doen er dus verstandig aan te investeren in kennisontwikkeling, einddoelen helder te definiëren en de trainingsdata te checken op (juridische) bruikbaarheid, kwaliteit en vooringenomenheid. Zo kun je ook beter voldoen aan de AVG-vereisten. In mijn praktijk zie ik verstandige (vaak: kleine) AI-projecten razend succesvol worden en bij De Brauw helpt AI advocaten adviseren bij fusies- en overnames en in interne onderzoeken. Maar gooi je data over de schutting en hoop je op de magische saus van AI, dan stapelen incidenten zich vaak op tot teleurstellingen. Amazon, Google en Microsoft maakten de fout alleen te vertrouwen op hun briljante geeks, en sociale wetenschap, recht en diversiteit geen plek te geven aan de ontwerptafel. In hun projecten gold de nu bekende vuistregel: is de inputdata rommel, dan is de uitkomst ook rommel.
Tempo
Beleidsmakers in Nederland en Europa dienen vooral passende maatschappelijke kaders te scheppen voor AI. Waar de VS en China AI reguleren als handelspolitiek en machtsinstrument, kent Europa een sterke grondrechtentraditie. Niet geld of de Staat, maar de mens staat in principe centraal. Vermoeiend allicht, maar het zorgt voor een relatief harmonieuze, gezonde en vrije samenleving. Het verplicht namelijk perverse effecten als discriminatie en privacyschendingen vroegtijdig te voorkomen.
Tempo is een veel groter probleem in Europa en Nederland. Door een gebrek aan visie komt de noodzakelijke investering in kennis nu pas op gang en leunt het continent te veel op lobbyisten en technologie uit de VS – met cloud computing ging het tien jaar terug precies zo. De EU heeft pas net een ‘expertgroep’ (vol lobbyisten) verzameld die gaat meedenken over Europees AI-beleid. Daarmee loopt de EU minstens vier jaar achter: Amazon begon al in 2014 met het recruitmentproject. Hoog tijd voor de vijfde versnelling. Met de ontwerpkeuzes van vandaag leggen wij de fundamenten voor de gezonde inzet van AI in de komende decennia.
Deze column stond in Het Financieele Dagblad van 1 november 2018. Volg deze link voor mijn eerdere FD columns.
Het is algemeen bekend dat je telefoon of laptop meteen gehackt en afgeluisterd wordt, zodra je in China aankomt. Recent onderzoek van het U.S. Naval War College en Tel Aviv University toont nu aan dat de Chinese overheid internetverkeer ook wegplukt uit het Westen, in China vliegensvlug kopieert, en de datastroom weer doorstuurt naar het Westen. Zo heeft China het internetverkeer van buitenlandse overheden, banken en journalisten afgeluisterd.
Illustratie: Hein de Kort voor het FD
Waarom geen wereldnieuws, geen oorverdovende veroordeling uit het Westen? Amerikaanse inlichtingendiensten doen het ook al jaren. En het oplossen van de fundamentele kwetsbaarheid van het internet die deze hack mogelijk maakt, betekent dat zij diezelfde truc niet meer kunnen uitvoeren. Ondertussen kunnen organisaties en individuen zichzelf niet compleet beschermen tegen deze hack. Met hun structurele politieke en economische spionage vormen overheden, China en de VS voorop, de grootste bedreiging voor een veilig internet. Continue reading 55e FD Column: Agressieve Chinese hacks kapen webverkeer bedrijven en overheden→
Deze column stond in Het Financieele Dagblad van 18 oktober 2018. Volg deze link voor mijn eerdere FD columns.
Het was even wereldnieuws en toen weer niet. Bloomberg Businessweek pakte op de voorpagina van 4 oktober groots uit met de claim dat Chinese spionnen de distributieketen van Amerikaanse servergigant Supermicro hadden geïnfiltreerd. Meer dan 30 grote Amerikaanse afnemers van Supermicro, waaronder Apple en de cloudreus Amazon, waren gehackt en af te luisteren door China. Kortom, China zou al jaren een groot deel van het Amerikaanse internet in haar macht hebben.
Illustratie: Hein de Kort voor het FD
Supermicro, Apple, andere bedrijven en Amerikaanse overheidsfunctionarissen ontkennen het nieuws hardnekkig. Daarmee is de mediastorm voorlopig gaan liggen. Technische experts duiden het nieuws als geloofwaardig, maar de hack als omslachtig en riskant – er zijn simpeler manieren om met een kleinere pakkans hetzelfde effect te sorteren.
Of de Supermicro hack nu (deels) klopt of niet, het nieuws herinnert ons aan het feit dat internetcommunicatie fundamenteel onveilig is door twee wederzijds afhankelijke krachten: prijsdruk, en de niet te stillen hackhonger van machtige inlichtingendiensten. Cyber security is immers niet zozeer een technisch, maar een economisch en politiek probleem. De hamvraag is dus, hoeveel geld en macht daadwerkelijke cybersecurity ons waard is. Continue reading 54e FD Column: Internet is fundamenteel onveilig en zal er ook na de Supermicro-hack niet veiliger op worden→
Deze column stond in Het Financieele Dagblad van 20 september 2018. Volg deze link voor mijn eerdere FD columns.
‘Klokkenluider Snowden heeft gelijk gekregen van de Europese rechter’. De internationale pers pakte vorige week eensgezind uit over de allereerste uitspraak van het Europees Hof van de Rechten van de Mens op basis van de Snowden-onthullingen, die vijf jaar geleden maandenlang het wereldwijde nieuws domineerden. Het Hof oordeelde op 13 september jl. dat de Britse wetgeving, waarop een aantal door Snowden onthulde spionageprogramma’s zijn gebaseerd, de toets van privacy en vrije meningsuiting niet doorstaat.
Illustratie: Hein de Kort
Ook al lieten alle Nederlandse kwaliteitsmedia het nieuws links liggen, vormt de uitspraak de graadmeter voor de Nederlandse Wet op de Inlichtingen- en Veiligheidsdiensten 2017. Deze wet is in de volksmond bekend geraakt als de ‘sleepwet’, die het Kabinet ondanks de negatieve uitslag van het referendum toch invoerde onder toezegging van een aantal slappe waarborgen, waar de Tweede Kamer binnenkort over debatteert. Toch vertellen de internationale koppen slechts de helft van het verhaal. Ondanks het verbod van de Britse sleepwet, toont de uitspraak namelijk de beperkte macht van het Hof om spionagedriften van natiestaten binnen de perken te houden.
Deze column stond in Het Financieele Dagblad van 6 september 2018. Volg deze link voor mijn eerdere FD columns.
Vandaag heeft China te dealen met ‘Westerse’ uitvindingen als het zeerecht, internet en de Wereldhandelsorganisatie. Morgen dreigt China de technologische realiteit voor het Westen te dicteren. Een verdeeld Westen dient zich nu met urgentie te bezinnen op de vraag wat een menswaardig bestaan is in een hypertechnologische wereld waarin Chinese technologie ons leven gaat beïnvloeden.
Deze column stond in Het Financieele Dagblad van 12 juli 2018. Volg deze link voor mijn eerdere FD columns.
Volgens premier Rutte was zijn bezoek aan president Trump vorige week een ‘huge success’. De media besteedden vooral aandacht aan financiële thema’s, uitgedragen door vijf meegereisde ceo’s. In de kantlijn signaleerde de Volkskrant dat Nederland daarnaast verdere samenwerking aangaat met de ‘Five Eyes’, het besloten militaire en inlichtingennetwerk van de VS, het VK, Canada, Australië en Nieuw-Zeeland. Nederland kan nu scherpere deals sluiten met Amerikaanse wapenhandelaren. Daarnaast krijgt Nederland allicht meer inlichtingen van de Five Eyes, bijvoorbeeld rondom politieke topconferenties en militaire operaties. Desondanks heeft Nederland veel te verliezen van te nauwe banden met het Amerika van president Trump.
In Amsterdam is het grootste mondiale kruispunt van internetverkeer, de AMS-IX, gehuisvest. Foto: Arie Kievit / Hollandse Hoogte
Deze column stond in Het Financieele Dagblad van 14 juni 2018. Volg deze link voor mijn eerdere FD columns.
Met veel tamtam zijn op 25 mei strenge Europese privacyregels van kracht geworden. Las u niet over de Algemene Verordening Gegevensbescherming (AVG) in de krant, dan stroomde uw inbox wel vol met smeekbedes om toestemming voor diensten waarvan u niet eens wist dat u daarop geabonneerd was.
Toch bieden de AVG en andere privacywetten nauwelijks antwoord op prangende digitale kwesties van vandaag en morgen, door vooral nadruk te leggen op transparantie en controle voor het individu. Die nadruk is historisch te verklaren, maar tegenwoordig vaak illusoir en leidt af van belangrijke vragen over de maatschappelijke impact van nieuwe technologieën als kunstmatige intelligentie. Hoog tijd voor een sterkere nadruk op de maatschappelijke waarde van privacy in recht en beleid.
Illustratie: Hein de Kort voor Het Financieele Dagblad
Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder omdat Hans daar altijd om zeurde. Volg deze link voor mijn eerdere FD columns.
Machtspositie Nederland belangrijke drijfveer voor controversiële internettap
Op 21 maart valt er wat te kiezen voor de burger. Niet alleen gaat Nederland dan naar de stembus voor de gemeenteraadsverkiezingen, ook het referendum over de nieuwe Wet op de inlichtingen- en veiligheidsdiensten staat dan op de agenda.
Illustratie: Hein de Kort
Het publieke debat over deze wet gaat vooral over de massale internettap zonder noemenswaardige waarborgen, die nodig zou zijn om terroristen te vangen. Dat is slechts het halve verhaal. De internettap dient ook ter versterking van de internationale machtspositie van Nederland. Deze machtsdimensie blijft onbesproken in het publieke debat en staat een weloverwogen keuze in de weg om de wet te steunen, of de wetgever naar de tekentafel te sturen voor een betere wet. Continue reading 44e FD Column: Machtspositie Nederland belangrijke drijfveer voor controversiële internettap→
Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder omdat Hans daar altijd om zeurt. Volg deze link voor mijn eerdere FD columns.
Massale cyberaanvallen aanpakken met regulering softwaremarkten
Nadat ziekenhuizen, fabrieken en ministeries wereldwijd dagenlang stokten door een mondiale cyberaanval, is het grootste gevaar van het WannaCry-virus geweken. Nu rijst natuurlijk de vraag hoe we de volgende cyberstorm voorkomen en wie verantwoordelijk is voor schade. In onze informatiesamenleving ontstaat in rap tempo een digitaal kerkhof van miljarden onveilige internetapparaten: niet alleen pc’s, maar ook webcams, fabrieksmachines, mri-scanners en andere internetdingen. Zo’n digitaal kerkhof is het doelwit én het instrument van cybercriminelen en poets je niet weg met spionagebevoegdheden en geld. Leveranciers moeten internetapparaten veilig op de markt brengen en houden. Tijd voor softwareregulering.
Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder omdat Hans daar altijd om zeurt. Volg deze link voor mijn eerdere FD columns.
Kamer mist visie en historisch besef om Grondwet internetproof te maken
Al ruim dertig jaar verandert het internet onze relatie met elkaar en met de overheid. Waar de Nederlandse Grondwet een afspiegeling hoort te zijn van onze samenleving en grenzen hoort te stellen aan overheidsmacht, vond de laatste belangrijke actualisering van de Grondwet ook ruim dertig jaar geleden plaats. In 1983 werd het briefgeheim uitgebreid met het ‘telefoon- en telegraafgeheim’. Afgelopen dinsdag stemde de Tweede Kamer eensgezind voor de beperkte uitbreiding van de Grondwet naar een ‘telecommunicatiegeheim’, dat door een nieuw parlement pas na volgende verkiezingen bevestigd kan worden.
Na ruim dertig jaar zou je denken dat de vlag uit mag, maar eigenlijk verandert de update niks, is het briefgeheim en passant stevig beperkt en zijn veel belangrijkere hiaten in de Grondwet niet gerepareerd. De champagne knalt dus alleen bij Binnenlandse Zaken, verantwoordelijk voor de Grondwet, het ministerie dat al sinds jaar en dag zand in de machine strooit bij iedere poging de Grondwet te wijzigen. Omringd door stormachtige technologische ontwikkelingen en wereldleiders met totalitaire trekjes, blijft de Nederlandse Grondwet hopeloos verouderd. Hang de vlag maar halfstok.
