Deze column staat in Het Financieele Dagblad van 22 augustus 2019. Volg deze link voor mijn eerdere FD columns.
Kinderen hebben de toekomst. Maar kunnen kinderen in onze hyperverbonden toekomst nog wel kind zijn? Datatoezichthouders maken zich grote zorgen om de staat van privacy en cybersecurity in kinderspeelgoed. De eerste hoge boetes op grond van privacywet AVG zijn aanstaande.
Illustratie: Hein de Kort voor Het Financieele Dagblad
Minder bekend, maar even zorgwekkend zijn incidenten over digitale manipulatie en problemen in de ontwikkeling van kinderen door blootstelling aan bizarre content. De Europese Commissie bezint zich momenteel op nieuwe wetgeving. Hoog tijd dat kinderen ook in de informatiesamenleving nog even kind mogen blijven en nog even niet bedolven worden onder digitale spionage en manipulatie. Continue reading 69e FD Column: Zorg over effect digitaal speelgoed op ontwikkeling kinderen is terecht→
Deze column staat in Het Financieele Dagblad van 21 maart 2019. Volg deze link voor mijn eerdere FD columns.
Na tests op vluchtelingen, gevangenen en soldaten, is het massaal de beurt aan de beroepsbevolking om door de baas aan geavanceerde surveillancetechnologie te worden onderworpen. Meestal zijn de motieven legitiem, soms zijn de methodes dat ook. Vaak genoeg is werknemersspionage niet alleen juridisch problematisch, maar lost het ook niks op. Net als in andere domeinen, zoals criminaliteitsbestrijding en online adverteren, biedt het opslaan van meer data en meer surveillance slechts een schijnoplossing voor dieper liggende kwesties.
Illustratie: Hein de Kort voor het FD
Sinds jaar en dag wordt technologie ingezet om werknemers te beheersen. In zijn meesterwerk Modern Times (1936) worden Charlie Chaplin en collega’s door de baas in de smiezen gehouden en vermanend toegesproken via een videoverbinding, overigens de inspiratie voor de beroemde telescreens en slogan ‘Big Brother is watching you’ in de beruchte roman ‘1984’ van George Orwell. Toegangspoortjes, camera’s en opzichters bespieden ons nog tenminste in ons gezicht. Maar naarmate technologie kleiner en krachtiger wordt, wordt haar inzet onopvallender en indringender. Iedere werknemer voelt soms wel dat de baas meekijkt, maar vrijwel niemand weet precies welke geraffineerde data-analyses en andere spionagetechnieken werkgevers kunnen loslaten op hun beroepsbevolking. Continue reading 65e FD Column: Ook op de werkplek staat privacy onder druk→
Deze column staat in Het Financieele Dagblad van 7 februari 2019. Volg deze link voor mijn eerdere FD columns.
Hoe succesvoller wetenschap en technologie voortschrijden, hoe ondoorzichtiger en obscuurder zij worden’. Naarmate de tijd vordert, lijkt deze diepzinnige uitspraak van de Franse filosoof Bruno Latour, uit 1999, onze hypertechnologische wereld alsmaar beter te beschrijven. De kunstmatige intelligentie (AI) van zelflerende computersystemen destilleert opzienbarende inzichten uit gigantische bergen inputdata. Tegelijkertijd lukt het ontwikkelaars van AI-systemen en wetenschappers vaak niet om vooraf te voorspellen of achteraf te verklaren hoe zelflerende systemen zulke bovenmenselijke prestaties leveren. Sterker nog: steeds vaker hoor je dat uitlegbaarheid van de werking van AI-systemen aan gewone stervelingen een rem zou vormen op de voorspellende kracht van AI.
Illustratie: Hein de Kort
Zwarte doos
Toch beginnen wetgevers en rechters het recht als werktuig te gebruiken om de ‘zwarte doos’ van technologie en wetenschap open te breken. De strenge Europese privacywet AVG en baanbrekende rechterlijke uitspraken verlangen transparantie van inputdata en uitlegbaarheid van besluiten die door machines worden genomen. Of het nu gaat om zelfrijdende auto’s, beleggingsbeslissingen of automatische gezichtsherkenning op straat, innovatie en recht liggen op ramkoers. In tegenstelling tot het veelgehoorde determinisme van ontwikkelaars en Latour – de technologie werkt nu eenmaal zo, dus vergeet het maar met je uitlegbaarheid – zal het recht uitlegbaarheid afdwingen. Althans, in Europa. Continue reading 62e FD Column: Recht en rechtspraak waarborg tegen oncontroleerbare kunstmatige intelligentie→
Deze column staat in Het Financieele Dagblad van 10 januari 2019. Volg deze link voor mijn eerdere FD columns.
Eens in de vijf jaar staat het hoogtepunt van de westerse democratische samenleving op de agenda. Eind mei 2019 bepalen circa 375 miljoen stemgerechtigde EU-burgers de koers van de Europese Unie tot 2024. De kiezer krijgt nogal existentiële kwesties voorgeschoteld, zoals klimaatverandering, immigratie en de toekomst van de EU, nu de Britten het schip verlaten en wij zijn omgeven door wereldmachten met tamelijk autocratische leiders aan het roer.
Illustratie: Hein de Kort
Op één existentieel dossier biedt de Europese politiek de kiezer geen keuze. In razendsnel tempo verandert kunstmatige intelligentie (AI) onze samenleving. Een menswaardig bestaan is in toenemende mate afhankelijk van zelflerende algoritmes en de keuzes die computers maken. Denk aan de kans op een baan, op een woning, wie in een oorlogssituatie een raket op zich krijgt afgevuurd en wie aan de grens überhaupt de Unie mag binnenkomen. Waar de Verenigde Staten, China en Rusland al jaren een geslepen industriepolitiek voeren rondom AI, heeft de EU pas afgelopen jaar met wat vage persberichten, plannen en geld van zich laten horen. Te laat, te weinig en met name te flets. Maar beter laat dan nooit. Europese politici moeten daarom van AI een centraal verkiezingsthema maken en hun visie hierop presenteren. Continue reading 60e FD Column: Maak kunstmatige intelligentie centraal thema bij de Europese verkiezingen→
Deze column staat in Het Financieele Dagblad van 29 november 2018. Volg deze link voor mijn eerdere FD columns.
Internetreuzen als Amazon, Google en Microsoft zetten al jarenlang in op kunstmatige intelligentie (AI). Toch gaat er veel mis als zelflerende algoritmes losgaan op de werknemers, foto’s of klanten. Vorige maand onthulde Reuters dat Amazon na vier jaar een hr-tool om door cv’s van sollicitanten te scannen weer in de ban doet, omdat die consequent vrouwen discrimineert. Google toonde Afro-Amerikanen als je zocht op ‘gorilla’ en chatbot TayTweets van Microsoft ontwikkelde zichzelf binnen een dag tot een racist en complotdenker (en Trumpfan). Blijkbaar kunnen zelfs de bestbetaalde geniën bij internetreuzen hun algoritmes niet opvoeden.
Illustratie: Hein de Kort voor Het Financieele Dagblad
Organisaties en beleidsmakers moeten lering trekken uit deze incidenten. Maak maatschappelijke waarden en heldere doeleinden onderdeel van trainingsdata en analysetools om AI succesvol en acceptabel te maken.
Kinderziekten horen bij technologische disruptie. Socioloog Manuel Castells sloeg in 1995 de spijker op zijn kop in zijn standaardwerk The Rise of the Network Society. Hij schreef dat elke technologische omwenteling gepaard gaat met ‘perverse effecten’. In de jaren ’80 en ’90 hebben geeks, bedrijven en overheden cruciale ontwerpkeuzes gemaakt die nog steeds het DNA van het internet bepalen: connectiviteit was prioriteit, iedereen moest kunnen aanhaken. Privacy en cybersecurity daarentegen werden uit de kernprotocollen van het internet gehouden. Bijkomend voordeel was dat de Amerikaanse overheid makkelijk kon meeluisteren. Maar nu zit de wereld opgescheept met de perverse effecten van 30 jaar oude ontwerpkeuzes: privacy staat onder druk, cybercrime tiert welig en iedereen bespioneert iedereen.
Gezonde verstand
Net als destijds met het internet, willen (vooral Amerikaanse) leveranciers ons weer doen geloven dat AI ‘een revolutie zal ontketenen in de wereld van x’, waarbij variabele x elke waarde aanneemt die bij een meeting, congres of pitch centraal staat. ‘Geen restricties op onze innovatie, u hoeft alleen bij het kruisje te tekenen.’ Tijdens diezelfde bijeenkomsten werd je jarenlang weggehoond als je wees op de perverse effecten van AI en regelgeving, gedragscodes of zelfs gezond verstand om de boel bij elkaar te houden.
Gelukkig lijkt het gezonde verstand langzaam terug te keren in het AI-debat. Niet alleen zorgen de incidenten voor groeiende scepsis bij afnemers. Ook de nieuwe Europese privacywet AVG vereist bij ‘geautomatiseerde besluitvorming’ altijd eerlijkheid, transparantie en uitlegbaarheid van de beslismodellen, en vaak voorafgaande expliciete toestemming van degene wiens data wordt geanalyseerd. Zonder verdere uitleg stellen dat een zelflerende hr-tool, zoekmachine of chatbot op hol is geslagen, volstaat niet langer en kan leiden tot serieuze AVG-boetes en reputatieschade.
Met de ontwerpkeuzes van vandaag leggen wij de fundamenten voor de gezonde inzet van AI in de komende decennia.
Maar hoe anticipeer je op perverse effecten bij een technologie die volop in ontwikkeling is? In zijn boek The Social Control of Technology van 1980 beschreef de Britse wetenschapper David Collingridge dit dilemma: ‘als ingrijpen op innovatie eenvoudig is, is de noodzaak nog niet duidelijk; als iedereen de noodzaak begrijpt, is ingrijpen duur, complex en langdurig.’ Hij nam onder meer benzine als voorbeeld. Bij de introductie van de auto was de milieuschade van loodhoudende benzine beperkt. Toen de auto eenmaal mainstream was, heeft het pijn en moeite gekost over te schakelen op loodvrije benzine. Het Collingridge dilemma overwin je door te investeren in kennisontwikkeling, afhankelijkheid van lobby-invloed uit te sluiten en transparant te zijn over voor- en nadelen van technologische omwentelingen.
Organisaties doen er dus verstandig aan te investeren in kennisontwikkeling, einddoelen helder te definiëren en de trainingsdata te checken op (juridische) bruikbaarheid, kwaliteit en vooringenomenheid. Zo kun je ook beter voldoen aan de AVG-vereisten. In mijn praktijk zie ik verstandige (vaak: kleine) AI-projecten razend succesvol worden en bij De Brauw helpt AI advocaten adviseren bij fusies- en overnames en in interne onderzoeken. Maar gooi je data over de schutting en hoop je op de magische saus van AI, dan stapelen incidenten zich vaak op tot teleurstellingen. Amazon, Google en Microsoft maakten de fout alleen te vertrouwen op hun briljante geeks, en sociale wetenschap, recht en diversiteit geen plek te geven aan de ontwerptafel. In hun projecten gold de nu bekende vuistregel: is de inputdata rommel, dan is de uitkomst ook rommel.
Tempo
Beleidsmakers in Nederland en Europa dienen vooral passende maatschappelijke kaders te scheppen voor AI. Waar de VS en China AI reguleren als handelspolitiek en machtsinstrument, kent Europa een sterke grondrechtentraditie. Niet geld of de Staat, maar de mens staat in principe centraal. Vermoeiend allicht, maar het zorgt voor een relatief harmonieuze, gezonde en vrije samenleving. Het verplicht namelijk perverse effecten als discriminatie en privacyschendingen vroegtijdig te voorkomen.
Tempo is een veel groter probleem in Europa en Nederland. Door een gebrek aan visie komt de noodzakelijke investering in kennis nu pas op gang en leunt het continent te veel op lobbyisten en technologie uit de VS – met cloud computing ging het tien jaar terug precies zo. De EU heeft pas net een ‘expertgroep’ (vol lobbyisten) verzameld die gaat meedenken over Europees AI-beleid. Daarmee loopt de EU minstens vier jaar achter: Amazon begon al in 2014 met het recruitmentproject. Hoog tijd voor de vijfde versnelling. Met de ontwerpkeuzes van vandaag leggen wij de fundamenten voor de gezonde inzet van AI in de komende decennia.
Deze column stond in Het Financieele Dagblad van 6 september 2018. Volg deze link voor mijn eerdere FD columns.
Vandaag heeft China te dealen met ‘Westerse’ uitvindingen als het zeerecht, internet en de Wereldhandelsorganisatie. Morgen dreigt China de technologische realiteit voor het Westen te dicteren. Een verdeeld Westen dient zich nu met urgentie te bezinnen op de vraag wat een menswaardig bestaan is in een hypertechnologische wereld waarin Chinese technologie ons leven gaat beïnvloeden.
Deze column stond in Het Financieele Dagblad van 14 juni 2018. Volg deze link voor mijn eerdere FD columns.
Met veel tamtam zijn op 25 mei strenge Europese privacyregels van kracht geworden. Las u niet over de Algemene Verordening Gegevensbescherming (AVG) in de krant, dan stroomde uw inbox wel vol met smeekbedes om toestemming voor diensten waarvan u niet eens wist dat u daarop geabonneerd was.
Toch bieden de AVG en andere privacywetten nauwelijks antwoord op prangende digitale kwesties van vandaag en morgen, door vooral nadruk te leggen op transparantie en controle voor het individu. Die nadruk is historisch te verklaren, maar tegenwoordig vaak illusoir en leidt af van belangrijke vragen over de maatschappelijke impact van nieuwe technologieën als kunstmatige intelligentie. Hoog tijd voor een sterkere nadruk op de maatschappelijke waarde van privacy in recht en beleid.
Illustratie: Hein de Kort voor Het Financieele Dagblad
Deze column stond in Het Financieele Dagblad van 19 april 2018. Volg deze link voor mijn eerdere FD columns.
Jarenlang liepen Europese opinieleiders te veel aan achter Amerikaanse techies, zoals de ceo van Sun Microsystems Scott McNealy. Zijn uitspraak ‘Privacy is dood, wen er maar aan’ uit 1999 heeft vooral in de top van de Europese politiek en bedrijfsleven te lang nagegalmd. Toch is het maatschappelijk debat over technologie voorgoed veranderd. Met de inlichtingenwet en de hoorzitting van Mark Zuckerberg vers in het geheugen, realiseren zelfs traditionele ceo’s en staatshoofden dat een verantwoorde respons op technologische vragen meeweegt in de beurskoers en bij verkiezingen. De Franse president gooide hier pas nog een schepje bovenop: Europa heeft een eigen toekomstvisie nodig om de datasamenleving een prettige samenleving te laten zijn.
Illustratie: Hein de Kort voor Het Financieele Dagblad
Emmanuel Macron ontvouwde eind maart eindelijk zijn digitale strategie voor Frankrijk en Europa, met de nadruk op kunstmatige intelligentie. Hij constateert terecht dat het 5 voor 12 is voor het Europese continent. De VS en China domineren het technologische landschap, vooral ten aanzien van softwareontwikkeling en ‘machine learning’. Maar Europese sociale waarden en grondrechten zijn niet geborgd als de Europese datasamenleving aan het infuus ligt van Amerikaanse en Chinese technologie. Continue reading 47e FD Column: Veranker Europese waarden in technologie van de toekomst→
Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder omdat Hans daar altijd om zeurde. Volg deze link voor mijn eerdere FD columns.
Bewuste digitale keuze is voor gebruiker belangrijker dan ooit
Wie heeft de sleutel tot jouw data in de wereldwijde cloud? En wie mag onder welke voorwaarden meekijken? Medio 2018 zal het Amerikaanse Hooggerechtshof de knoop doorhakken in een langslepende strijd tussen Microsoft en de Amerikaanse politie over toegang tot e-mails in de cloud, opgeslagen op servers buiten de VS.
Illustratie: Cyprian Koscielniak voor het FD
De zaak staat symbool voor een spanningveld op internet dat in het nieuwe jaar nog pijnlijker zichtbaar zal worden: innovatie en wetenschap globaliseren, politiek en bestuur regionaliseren. Door het achterblijven van internationale consensus over cruciale cybervraagstukken is maatschappelijk verantwoorde en democratisch gelegitimeerdeinternetinnovatie steeds lastiger te realiseren – of het nu gaat om broodnodig beleid rondom privacy, cybersecurity, nepnieuws of kunstmatige intelligentie. Soms kan een lokale rechter of toezichthouder iets bijsturen, maar gewone gebruikers rest meestal weinig anders dan de hoop dat buitenlandse opsporingsdiensten, ondernemingen en wetenschappers hun belangen respecteren. Continue reading 43e FD Column: Bewuste digitale keuze is voor gebruiker belangrijker dan ooit→
Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder omdat Hans daar altijd om zeurt. Volg deze link voor mijn eerdere FD columns.
Referendum ‘sleepwet’ voorbode digitale perikelen Rutte III
De inkt van het regeerakkoord was nog maar net opgedroogd, of CDA-leider Sybrand Buma zette coalitiecollega Alexander Pechtold (D66) behendig voor schut. Afgelopen zaterdag verklaarde Buma in De Volkskrant dat het CDA niet zal luisteren naar de uitkomst van het veelbesproken referendum over de controversiële ‘sleepwet’, die de Nederlandse inlichtingen- en veiligheidsdiensten Nederlands internetverkeer massaal laat afluisteren. Kort daarop moest coalitiecollega Pechtold publiekelijk erkennen dat D66 de privacyschendende sleepwet toch steunt en dat D66 dus niet zal luisteren naar de uitkomst van het raadgevende referendum. Buma 1 – Pechtold 0.
Illustratie: Hein de Kort
Al duurden de onderhandelingen nog nooit zo lang, toch bevat het regeerakkoord ‘Vertrouwen in de Toekomst’ nauwelijks een visie op de toekomst van de informatiesamenleving. Volgens velen een gemiste kans, maar in feite weinig verrassend en een bewuste keuze: de coalitiegenoten denken al jarenlang anders over de digitale wereld.
De VVD en CDA voeren steevast een conservatieve agenda en leggen hun oor meestal te luisteren bij multinationals en de veiligheidslobby. D66 moedigt juist disruptieve innovatie en digitale grondrechten aan, maar is in de minderheid in Rutte III. Buma laat zien dat D66 zich moet opmaken voor vier teleurstellende jaren op digitale dossiers. Continue reading 41e FD Column: Referendum ‘sleepwet’ voorbode digitale perikelen Rutte III→
Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder omdat Hans daar altijd om zeurt. Volg deze link voor mijn eerdere FD columns.
Cybersecurity struikelblok voor symbiose van lichaam en computer
Zweden beleefde een paar weken terug de wereldwijde primeur met een vrijwillig geplaatste onderhuidse ov-chipkaart. En onlangs startte visionair Elon Musk na Tesla en SpaceX zijn volgende baanbrekende initiatief, Neuralink. Dit bedrijf gaat hersencomputers ontwerpen. En produceren.
Illustratie: Hein de Kort
De grens tussen mens en computer vervaagt. Nu computers en internet niet meer zijn weg te denken uit auto’s, ziekenhuizen, fabrieken en andere infrastructuur, dringt de digitale wereld door in ons lichaam. Ov-implantaten en hersencomputers zullen tot verhitte privacy- en medisch-ethische debatten leiden. Maar zonder foutloze beveiliging kan lichaamseigen ICT niet bestaan en het is niet te verwachten dat 100% veilige en onkraakbare technologie ooit realiteit wordt. Als mensen echt cyborgs willen worden, is cybersecurity het grootste struikelblok.
On 25 January, the wonderful Dutch online magazine ‘De Correspondent’ published a long interview on my book ‘Securing Private Communications’. The interview digs in deep on several fundamental changes in the governance of the European Union with the (from a constitutional perspective) recent adoption of the EU Charter of Fundamental Rights and wider mandate of the EU Court of Justice. Even if politics are turbulent these days, I believe the EU is becoming a more complete Union, that is (finally) constitutionally designed to protect the privacy and cybersecurity of EU citizens. A strong judiciary is badly needed in times of populism. Read the entire interview, alas only in Dutch, here.
