29e FD Column: Slimme software – Computer kan werk rechter verbeteren, maar niet vervangen

Klik op het plaatje om de column uit de krant te lezen. De tekst staat ook hieronder. Volg deze link voor mijn eerdere FD columns.

Slimme software – Computer kan werk rechter verbeteren, maar niet vervangen

Het is wetenschappers gelukt slimme software te schrijven die de uitspraken in zaken bij Europese Hof voor de Rechten van de Mens kan voorspellen. In 79% van de circa 600 onderzochte procedures had de software het bij het juiste eind. De publicatie van dit onderzoek voedt de hype dat software sterker zal worden dan het menselijk lichaam en slimmer dan de geest. Maar in feite laat het baanbrekende onderzoek zien dat de intelligentie van software kunstmatig is en dus anders dan menselijke intelligentie. Slimme software zal het werk van de rechter, dokter of politicus verbeteren, maar nooit vervangen.

Nadat de Britse wetenschapper Alan Turing tijdens de Tweede Wereldoorlog de Nazi-encryptiemachine Enigma kraakte met zijn geniale uitvinding, een computer, formuleerde hij in 1950 zijn beroemde vraag: ‘kunnen machines denken?’ Volgens Turing was hiervan sprake als wij na vijf minuten tekstuele communicatie tussen een mens en een computer het verschil niet meer zouden herkennen. De ‘Turing test’ was zestig jaar lang een obsessie voor wetenschappers, maar nu verslaan slimme computers schaakgrootmeesters en slagen chatbots elke vijf minuten met gemak voor Turings examen. Stilaan lijken machines te kunnen denken, soms zelfs beter dan ons mensen.

Wij kunnen software inmiddels instrueren zich te ontwikkelen op basis van ervaringen en feedback. De zelflerende software van de onderzoekers leverde behalve robuuste voorspellingen van de uitspraken van het Europese Hof voor de Rechten van de Mens, ook interessante correlaties op. Zo blijken de feiten veel relevanter om de uitkomst te voorspellen dan de procedurele paragrafen. Die conclusie bewijst dat de mensenrechters geen procedurele zeurpieten zijn. De software gaf ook rare, onmenselijke feedback. Zo zouden generieke woorden als ‘relative’ en ‘town’ in processtukken vrijwel altijd tot privacyschending leiden. Vandaar de 21% foutmarge.

Jaap van den Herik, hoogleraar Recht en Informatica aan de Universiteit Leiden, denkt nu dat computers tussen 2030 en 2040 de meerderheid van alle vonnissen kunnen wijzen. Zo’n vaart zal het niet lopen en het is maar de vraag of het ooit zover komt. Uitspraken zijn meestal niet in de computerlogica van binaire opposities — 1 of 0 — te vatten, zoals wel/geen schending van één mensenrechten-artikel in het onderzoek. Een eis in een gangbare procedure is complexer en vaak gebaseerd op veel wetsartikelen. En advocaten beroepen zich ook nog op open normen als redelijkheid en billijkheid, waarvan de invulling per artikel en geval verschilt.

Om de rechter te vervangen, moeten wij ons juridisch systeem omvormen tot een binaire beslisboom. Wat computergeniën vaak niet bevatten, is dat de mens en zijn samenleving geen perfect systeem zijn, geen computers. Tussen ‘ja’ of ‘1’ en ‘nee’ en ‘0’ zitten vijftig tinten grijs. Daarom antwoordt uw advocaat op uw juridische vraag altijd onbevredigend: ‘dat hangt ervan af’. Als de softwareparameters bovendien bekend zijn, zullen advocaten de kunstmatige intelligentie van de digitale rechter foppen met de generieke woorden uit het onderzoek. Dat is geen prettig vooruitzicht.

Zelflerende software zal de rechter, arts of politicus niet vervangen, maar zal toch een enorme impact hebben. Zelflerende software kan op basis van onze continue feedback bijvoorbeeld alle beschikbare informatie wereldwijd scannen, direct drie diagnoses, memo’s of kamervragen schrijven en ons laten kiezen. Routineklussen en het ontsluiten van informatie zijn kinderspel voor slimme software, die na instructie door uitstekende artsen, advocaten en ambtenaren efficiënter en nauwkeuriger zou moeten kunnen werken dan mensen. En een stuk goedkoper, gezonder en maatschappelijk gewenst. Een vrij logische stap na de personal computer, het internet en de zoekmachine.

De bottleneck van slimme software is nu niet langer de output, maar de input: veel betrouwbare data. Dat brengt privacy- en beveiligingsdilemma’s met zich. Geven wij al onze medische dossiers aan Google? Daarnaast moeten mensen de software instrueren, wat tijd en dus geld kost. Afscheid nemen van je softwareaanbieder zal dus nog lastiger zijn dan wisselen van cloudprovider: je dure instructies krijg je niet meer terug. Waar politici en advocaten de messen zullen slijpen over zulke dilemma’s, zie ik een extreem efficiënte computerbutler best zitten. Zo lang wij ons laatste oordeel maar niet overlaten aan kunstmatige intelligentie.

6 thoughts on “29e FD Column: Slimme software – Computer kan werk rechter verbeteren, maar niet vervangen”

  1. You could certainly see your enthusiasm within the paintings you write. The arena hopes for more passionate writers like you who aren’t afraid to say how they believe. Always go after your heart.

  2. question to the forum:We know we have a concern at PG. Fish is getting old, Farmar regressed this year, and SB is a free agent and a wildcard shot at starting PG at best. The Lakers have a MLE. Obviously they’re prioritizing LO and TA. What are the fan’s thoughts about the possibility of persuing Jason Kidd for a 1 year deal (either in addition to these two guys, or in lieu of re-signing them).

  3. Aw, I completely agree. Even though she might not fit today’s crazy beauty and skinny standards, she is truly an icon, and fashion icon, as much as Audrey Hepburn (with whom she also shares talent as an actress, incredible charisma, softness and feminity and inspiration from her beliefs and values in life.)Great blog by the way, have a look at mine sometime!Alizé x

  4. Iann – cine esti?Revin cu raspunsul Ancai – ce ai facut in SRR cat ai tranzitat intre TVR si Lagrder? (imediat ce revin din concediu)Totusi, Iann, care sunt celelalte lucruri mai spumoase? Pune intrebarea si eu promit sa o toc pe Anca pentru raspuns.

  5. Olá Camila..Eu adoro assistir seus vídeos..Mas eu sempre reparo que vc não passa base ou outros produtos de preparação de pele na testa?é melhor não usar? Fica alguma diferença de cor no resto do rosto ?Parabéns pelos tutoriais,,Beeeeijooo []

Leave a Reply

Your email address will not be published.