Tag Archives: China

57e FD Column: Grondrechtentraditie moet perverse effecten van kunstmatige intelligentie helpen voorkomen

Deze column staat in Het Financieele Dagblad van 29 november 2018. Volg deze link voor mijn eerdere FD columns.

Internetreuzen als Amazon, Google en Microsoft zetten al jarenlang in op kunstmatige intelligentie (AI). Toch gaat er veel mis als zelflerende algoritmes losgaan op de werknemers, foto’s of klanten. Vorige maand onthulde Reuters dat Amazon na vier jaar een hr-tool om door cv’s van sollicitanten te scannen weer in de ban doet, omdat die consequent vrouwen discrimineert. Google toonde Afro-Amerikanen als je zocht op ‘gorilla’ en chatbot TayTweets van Microsoft ontwikkelde zichzelf binnen een dag tot een racist en complotdenker (en Trumpfan). Blijkbaar kunnen zelfs de bestbetaalde geniën bij internetreuzen hun algoritmes niet opvoeden.

 

Illustratie: Hein de Kort voor Het Financieele Dagblad

 

Organisaties en beleidsmakers moeten lering trekken uit deze incidenten. Maak maatschappelijke waarden en heldere doeleinden onderdeel van trainingsdata en analysetools om AI succesvol en acceptabel te maken.

Kinderziekten horen bij technologische disruptie. Socioloog Manuel Castells sloeg in 1995 de spijker op zijn kop in zijn standaardwerk The Rise of the Network Society. Hij schreef dat elke technologische omwenteling gepaard gaat met ‘perverse effecten’. In de jaren ’80 en ’90 hebben geeks, bedrijven en overheden cruciale ontwerpkeuzes gemaakt die nog steeds het DNA van het internet bepalen: connectiviteit was prioriteit, iedereen moest kunnen aanhaken. Privacy en cybersecurity daarentegen werden uit de kernprotocollen van het internet gehouden. Bijkomend voordeel was dat de Amerikaanse overheid makkelijk kon meeluisteren. Maar nu zit de wereld opgescheept met de perverse effecten van 30 jaar oude ontwerpkeuzes: privacy staat onder druk, cybercrime tiert welig en iedereen bespioneert iedereen.

Gezonde verstand

Net als destijds met het internet, willen (vooral Amerikaanse) leveranciers ons weer doen geloven dat AI ‘een revolutie zal ontketenen in de wereld van x’, waarbij variabele x elke waarde aanneemt die bij een meeting, congres of pitch centraal staat. ‘Geen restricties op onze innovatie, u hoeft alleen bij het kruisje te tekenen.’ Tijdens diezelfde bijeenkomsten werd je jarenlang weggehoond als je wees op de perverse effecten van AI en regelgeving, gedragscodes of zelfs gezond verstand om de boel bij elkaar te houden.

Gelukkig lijkt het gezonde verstand langzaam terug te keren in het AI-debat. Niet alleen zorgen de incidenten voor groeiende scepsis bij afnemers. Ook de nieuwe Europese privacywet AVG vereist bij ‘geautomatiseerde besluitvorming’ altijd eerlijkheid, transparantie en uitlegbaarheid van de beslismodellen, en vaak voorafgaande expliciete toestemming van degene wiens data wordt geanalyseerd. Zonder verdere uitleg stellen dat een zelflerende hr-tool, zoekmachine of chatbot op hol is geslagen, volstaat niet langer en kan leiden tot serieuze AVG-boetes en reputatieschade.

Met de ontwerpkeuzes van vandaag leggen wij de fundamenten voor de gezonde inzet van AI in de komende decennia.

Maar hoe anticipeer je op perverse effecten bij een technologie die volop in ontwikkeling is? In zijn boek The Social Control of Technology van 1980 beschreef de Britse wetenschapper David Collingridge dit dilemma: ‘als ingrijpen op innovatie eenvoudig is, is de noodzaak nog niet duidelijk; als iedereen de noodzaak begrijpt, is ingrijpen duur, complex en langdurig.’ Hij nam onder meer benzine als voorbeeld. Bij de introductie van de auto was de milieuschade van loodhoudende benzine beperkt. Toen de auto eenmaal mainstream was, heeft het pijn en moeite gekost over te schakelen op loodvrije benzine. Het Collingridge dilemma overwin je door te investeren in kennisontwikkeling, afhankelijkheid van lobby-invloed uit te sluiten en transparant te zijn over voor- en nadelen van technologische omwentelingen.

Organisaties doen er dus verstandig aan te investeren in kennisontwikkeling, einddoelen helder te definiëren en de trainingsdata te checken op (juridische) bruikbaarheid, kwaliteit en vooringenomenheid. Zo kun je ook beter voldoen aan de AVG-vereisten. In mijn praktijk zie ik verstandige (vaak: kleine) AI-projecten razend succesvol worden en bij De Brauw helpt AI advocaten adviseren bij fusies- en overnames en in interne onderzoeken. Maar gooi je data over de schutting en hoop je op de magische saus van AI, dan stapelen incidenten zich vaak op tot teleurstellingen. Amazon, Google en Microsoft maakten de fout alleen te vertrouwen op hun briljante geeks, en sociale wetenschap, recht en diversiteit geen plek te geven aan de ontwerptafel. In hun projecten gold de nu bekende vuistregel: is de inputdata rommel, dan is de uitkomst ook rommel.

Tempo

Beleidsmakers in Nederland en Europa dienen vooral passende maatschappelijke kaders te scheppen voor AI. Waar de VS en China AI reguleren als handelspolitiek en machtsinstrument, kent Europa een sterke grondrechtentraditie. Niet geld of de Staat, maar de mens staat in principe centraal. Vermoeiend allicht, maar het zorgt voor een relatief harmonieuze, gezonde en vrije samenleving. Het verplicht namelijk perverse effecten als discriminatie en privacyschendingen vroegtijdig te voorkomen.

Tempo is een veel groter probleem in Europa en Nederland. Door een gebrek aan visie komt de noodzakelijke investering in kennis nu pas op gang en leunt het continent te veel op lobbyisten en technologie uit de VS – met cloud computing ging het tien jaar terug precies zo. De EU heeft pas net een ‘expertgroep’ (vol lobbyisten) verzameld die gaat meedenken over Europees AI-beleid. Daarmee loopt de EU minstens vier jaar achter: Amazon begon al in 2014 met het recruitmentproject. Hoog tijd voor de vijfde versnelling. Met de ontwerpkeuzes van vandaag leggen wij de fundamenten voor de gezonde inzet van AI in de komende decennia.

55e FD Column: Agressieve Chinese hacks kapen webverkeer bedrijven en overheden

Deze column stond in Het Financieele Dagblad van 1 november 2018. Volg deze link voor mijn eerdere FD columns.

Het is algemeen bekend dat je telefoon of laptop meteen gehackt en afgeluisterd wordt, zodra je in China aankomt. Recent onderzoek van het U.S. Naval War College en Tel Aviv University toont nu aan dat de Chinese overheid internetverkeer ook wegplukt uit het Westen, in China vliegensvlug kopieert, en de datastroom weer doorstuurt naar het Westen. Zo heeft China het internetverkeer van buitenlandse overheden, banken en journalisten afgeluisterd.

 

Illustratie: Hein de Kort voor het FD

 

Waarom geen wereldnieuws, geen oorverdovende veroordeling uit het Westen? Amerikaanse inlichtingendiensten doen het ook al jaren. En het oplossen van de fundamentele kwetsbaarheid van het internet die deze hack mogelijk maakt, betekent dat zij diezelfde truc niet meer kunnen uitvoeren. Ondertussen kunnen organisaties en individuen zichzelf niet compleet beschermen tegen deze hack. Met hun structurele politieke en economische spionage vormen overheden, China en de VS voorop, de grootste bedreiging voor een veilig internet. Continue reading 55e FD Column: Agressieve Chinese hacks kapen webverkeer bedrijven en overheden

54e FD Column: Internet is fundamenteel onveilig en zal er ook na de Supermicro-hack niet veiliger op worden

Deze column stond in Het Financieele Dagblad van 18 oktober 2018. Volg deze link voor mijn eerdere FD columns.

Het was even wereldnieuws en toen weer niet. Bloomberg Businessweek pakte op de voorpagina van 4 oktober groots uit met de claim dat Chinese spionnen de distributieketen van Amerikaanse servergigant Supermicro hadden geïnfiltreerd. Meer dan 30 grote Amerikaanse afnemers van Supermicro, waaronder Apple en de cloudreus Amazon, waren gehackt en af te luisteren door China. Kortom, China zou al jaren een groot deel van het Amerikaanse internet in haar macht hebben.

 

Illustratie: Hein de Kort voor het FD
Illustratie: Hein de Kort voor het FD

 

Supermicro, Apple, andere bedrijven en Amerikaanse overheidsfunctionarissen ontkennen het nieuws hardnekkig. Daarmee is de mediastorm voorlopig gaan liggen. Technische experts duiden het nieuws als geloofwaardig, maar de hack als omslachtig en riskant – er zijn simpeler manieren om met een kleinere pakkans hetzelfde effect te sorteren.

Of de Supermicro hack nu (deels) klopt of niet, het nieuws herinnert ons aan het feit dat internetcommunicatie fundamenteel onveilig is door twee wederzijds afhankelijke krachten: prijsdruk, en de niet te stillen hackhonger van machtige inlichtingendiensten. Cyber security is immers niet zozeer een technisch, maar een economisch en politiek probleem. De hamvraag is dus, hoeveel geld en macht daadwerkelijke cybersecurity ons waard is.  Continue reading 54e FD Column: Internet is fundamenteel onveilig en zal er ook na de Supermicro-hack niet veiliger op worden

51e FD Column: In China’s cyberwereld is niet vrijheid, maar gehoorzaamheid de norm

Deze column stond in Het Financieele Dagblad van 6 september 2018. Volg deze link voor mijn eerdere FD columns.

Vandaag heeft China te dealen met ‘Westerse’ uitvindingen als het zeerecht, internet en de Wereldhandelsorganisatie. Morgen dreigt China de technologische realiteit voor het Westen te dicteren. Een verdeeld Westen dient zich nu met urgentie te bezinnen op de vraag wat een menswaardig bestaan is in een hypertechnologische wereld waarin Chinese technologie ons leven gaat beïnvloeden.

Illustratie: Hein de Kort

Continue reading 51e FD Column: In China’s cyberwereld is niet vrijheid, maar gehoorzaamheid de norm

45e FD Column: Geen Spelen of verkiezingen zonder digitale oorlogsvoering

Deze column stond in Het Financieele Dagblad van 22 februari 2018. Volg deze link voor mijn eerdere FD columns.

Sportief spektakel en geopolitiek theater gaan zoals altijd hand in hand bij de Olympische Spelen. Ook in Pyeongchang. Waar de historische toenadering voor de bühne tussen Zuid- en Noord-Korea niemand ontgaat, voltrekt zich achter de schermen een digitaal drama via cyberaanvallen aan het adres van Zuid-Korea en het IOC. In bredere zin is een mondiale neerwaartse spiraal van digitale oorlogsvoering tussen alles en iedereen een tragisch feit — of het nu het organiseren van nationale verkiezingen of vredelievende sportevenementen betreft. Vooral omdat het Westen momenteel geen enkel leiderschap toont, is continue digitale oorlogsvoering de nieuwe geopolitieke realiteit geworden.

Illustratie: Hein de Kort voor Het Financieele Dagblad

Continue reading 45e FD Column: Geen Spelen of verkiezingen zonder digitale oorlogsvoering

43e FD Column: Bewuste digitale keuze is voor gebruiker belangrijker dan ooit

Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder omdat Hans daar altijd om zeurde. Volg deze link voor mijn eerdere FD columns.

32e FD Column: Tijdperk Trump – Internetbeleid glipt het Westen door de vingers

Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder omdat Hans daar altijd om zeurt. Volg deze link voor mijn eerdere FD columns.

Tijdperk Trump – Internetbeleid glipt het Westen door de vingers

De globaliseringselite op het World Economic Forum in Davos en anarchisten op het hackerscongres 33c3 in Hamburg zijn opvallend eensgezind: Donald Trump is onvoorspelbaar (en dus eng). De internetagenda van de kersverse president was uiteraard in Hamburg en zelfs in Davos een hoofdthema, omdat de EU en de VS op korte termijn consensus moeten bereiken over brandende kwesties als privacy en cybersecurity. In feite laat Trump al na een paar dagen zien dat die noodzakelijke consensus onhaalbaar is. Door de steeds diepere breuk tussen de EU en de VS verliest het Westen de grip op de kernwaarden van het mondiale internet. Burgers, innovatie en vooral multinationals zijn het kind van de rekening. Continue reading 32e FD Column: Tijdperk Trump – Internetbeleid glipt het Westen door de vingers

31e FD Column: Krachtproef – Kan mensheid de kwantumcomputer aan?

Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder omdat Hans daar altijd om zeurt. Volg deze link voor mijn eerdere FD columns.

Krachtproef – Kan de mensheid de kwantumcomputer aan?

Na jaren van speculatie zullen wij over tien jaar terugkijken op 2016 als het jaar dat de kwantumcomputer zich van concept tot realiseerbare uitvinding ontwikkelde. Of het nu tien, twintig of misschien maar drie jaar duurt voordat deze computerexplosie een feit is, de mensheid heeft de consequenties nauwelijks doordacht. Het is goed denkbaar dat de kwantumcomputer huidige hardnekkige geopolitieke en juridische spanningen over gehackte verkiezingen en Snowden-onthullingen niet wegneemt, maar juist versterkt. Als wij niet nu al de economische en sociale gevolgen identificeren en bespreken, zal de verleiding groot zijn de kwantumcomputer eerst en vooral te ontwikkelen voor destructieve militaire doeleinden, in plaats van constructieve civiele toepassingen. Continue reading 31e FD Column: Krachtproef – Kan mensheid de kwantumcomputer aan?

30e FD Column: Glocalisering – De mondiale cybersecurity-reguleringsgolf

Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder. Volg deze link voor mijn eerdere FD columns.

Glocalisering – De mondiale cybersecurity-reguleringsgolf

Met de onuitputtelijke mediastorm aan ­cyberschandalen is 2016 het jaar van de nieuwe cybersecuritywet­geving wereldwijd. China publiceerde onlangs een draconische cyber­securitywet, waar multinationals zich grote zorgen om maken. Vooruitlopend op de eerste integrale Europese cybersecuritywet, medio 2018 van kracht, probeert Nederland nog voor de verkiezingen een nationale versie aan te ­nemen en zijn de handhavingsboetes voor ­datalekken alvast sterk verhoogd.

In de Verenigde Staten introduceerde president Barack Obama een federale cybersecuritywet, al is Donald Trump nu aan zet. Ondanks verschillende juridische systemen, spreekt cyber­securitywetgeving gek genoeg één globale taal. Machtsblokken schrijven slechts op details in verschillende accenten. Deze ‘glocalisatie’ van cybersecurity maakt de toekomst van een urgent rechtsgebied verrassend helder. Continue reading 30e FD Column: Glocalisering – De mondiale cybersecurity-reguleringsgolf