60e FD Column: Maak kunstmatige intelligentie centraal thema bij de Europese verkiezingen

Deze column staat in Het Financieele Dagblad van 10 januari 2019. Volg deze link voor mijn eerdere FD columns.

Eens in de vijf jaar staat het hoogtepunt van de westerse democratische samenleving op de agenda. Eind mei 2019 bepalen circa 375 miljoen stemgerechtigde EU-burgers de koers van de Europese Unie tot 2024. De kiezer krijgt nogal existentiële kwesties voorgeschoteld, zoals klimaatverandering, immigratie en de toekomst van de EU, nu de Britten het schip verlaten en wij zijn omgeven door wereldmachten met tamelijk autocratische leiders aan het roer.

Illustratie: Hein de Kort

 

Op één existentieel dossier biedt de Europese politiek de kiezer geen keuze. In razendsnel tempo verandert kunstmatige intelligentie (AI) onze samenleving. Een menswaardig bestaan is in toenemende mate afhankelijk van zelflerende algoritmes en de keuzes die computers maken. Denk aan de kans op een baan, op een woning, wie in een oorlogssituatie een raket op zich krijgt afgevuurd en wie aan de grens überhaupt de Unie mag binnenkomen. Waar de Verenigde Staten, China en Rusland al jaren een geslepen industriepolitiek voeren rondom AI, heeft de EU pas afgelopen jaar met wat vage persberichten, plannen en geld van zich laten horen. Te laat, te weinig en met name te flets. Maar beter laat dan nooit. Europese politici moeten daarom van AI een centraal verkiezingsthema maken en hun visie hierop presenteren.

Net als aan het ontwerp van ieder gebouw en iedere technologie, liggen ook aan het ontwerp van AI politieke keuzes ten grondslag

AI is voor de meeste burgers en politici een zwarte doos. Je stopt er data in, er gebeurt iets onverklaarbaars en er rolt een revolutionair antwoord uit. Maar net als aan het ontwerp van ieder gebouw en iedere technologie, liggen ook aan het ontwerp van AI politieke keuzes ten grondslag. Architect Pi de Bruijn won internationaal aanzien met de verbouwing van de Tweede Kamer in 1992 en later het Rijksdaggebouw in Berlijn, omdat de gebouwen uitstralen dat iedereen mag meekijken bij het parlementaire debat. Die transparantie is bij AI ver te zoeken. Zelflerende algoritmes van Amazon blijken vrouwen stelselmatig af te wijzen als zij solliciteren voor een hoge IT-functie. Met het Criminaliteit Anticipatie Systeem (CAS) voorspelt de Nationale Politie strafbare feiten op wijkniveau op grond van bevooroordeelde data. Op basis van het CAS volgt de politie zelfs burgers op sociale media. De EU subsidieert het AI-leugendetectiesysteem iBorderCtrl, dat via gezichtsexpressies bepaalt of reizigers na beantwoording van vragen van de douaneambtenaar mogen doorlopen. Iedere serieuze wetenschapper beaamt dat gezichtsexpressies helemaal niets zeggen over verdacht gedrag of leugens.

In alle gevallen waren de AI-toepassingen eerst geheim en maken AI-leveranciers na maatschappelijke kritiek hun algoritmes niet openbaar. Niemand weet wat de systemen doen of zichzelf leren. AI kent ook positieve toepassingen, meestal in voorspelbare en controleerbare omgevingen, zoals een productielijn in een fabriek. Maar waar AI wordt geconfronteerd met iets onvoorspelbaars als een maatschappij, kan AI vooral al bestaande vooroordelen en maatschappelijke ongelijkheid versterken.

Ethiek en regulering

Wat doet de EU? Tot 2018 vrijwel niets. Eind april was daar dan eindelijk een plan. Kort gezegd, te weinig geld voor onderzoek en te vage plannen voor het creëren van bewustzijn. Daarnaast zou een expertgroep rapporteren over AI-ethiek en -regulering. Drie weken geleden kwam het eerste, veelzeggende concept. Buiten het herhalen van verplichtingen op grond van het EU-verdrag, noteert de expertgroep bij de enige belangwekkende paragraaf over concrete toepassingen dat de leden geen consensus konden bereiken. Geen consensus over bijvoorbeeld verplichte toestemming voorafgaand aan gebruik van persoonlijke data in AI-systemen, terwijl de Europese privacyregels dat allang verplichten. Of over de wenselijkheid van zelflerende wapen- en scoringssystemen, die zonder tussenkomst van de mens kunnen gaan beslissen over uw kans op een baan, hypotheek en letterlijk over leven en dood. Alleen over autonome wapensystemen volgt de expertgroep een resolutie van het Europees Parlement van september, dat er altijd een mens aan de knoppen moet zitten.

Het beslechten van dilemma’s tussen techniek, economie en ethiek is een klassieke opdracht voor de politiek, zou je zeggen. Buiten de wapensystemen en wat algemene standpunten over innovatie en mensenrechten, blijft de Europese politiek angstvallig stil op het thema. Alleen D66 kwam in september met een kort actieplan en een pleidooi voor onafhankelijk toezicht op zelflerende algoritmes. Het is een begin, maar biedt nog weinig houvast aan de kiezer op concrete onderwerpen. Onlangs ging nota bene Microsoft verder met een lange lijst concrete voorstellen. Zo verzoekt de techgigant om specifieke regulering van gezichtsherkenning via AI. De problematiek van vooroordelen, privacy en massale surveillance zijn reëel en de huidige ‘race to the bottom’ moet worden doorbroken, omdat leveranciers nu eenmaal kiezen voor winstmaximalisatie en niet voor verantwoorde ontwikkelingen van de technologie, vindt Microsoft.

Zwarte doos

Vooral voor Nederland vergen de grotere vragen van onze tijd vaak Europese antwoorden. De Europese politiek heeft een cruciale taak om een grensverleggende technologie als AI goed te laten landen in het Europa van nu tot 2024. Anders dan in China en de VS, vormen mensenrechten en menselijke waardigheid de kern van ons relatief prettige bestaan. Refererend aan de geniale maar dystopische roman ‘1984’ van George Orwell, stelt uitgerekend Microsoft dat de politiek ervoor moet zorgen dat 2024 er niet uitziet als een pagina uit Orwell’s 1984. Kortom, open de zwarte doos en geef ons wat te kiezen.

Leave a Reply

Your email address will not be published.