Deze column staat in verkorte versie in Het Financieele Dagblad van 3 januari 2023. Volg deze link voor mijn eerdere FD columns.

Papegaaien zijn duizendmaal minder miserabel dan wij. In zijn satirische magnum opus Candide of het optimisme (1759) waarschuwde Voltaire de mensheid al tegen het napapegaaien van ondoordacht vooruitgangsgeloof dat in de Verlichting hoogtij vierde. Tussen de regels door moest met name tijdgenoot Leibniz het ontgelden, die de vooruitgang in techniek en denken uit de Verlichting vereenzelvigde met, en dankte aan zijn alwetende God. Voltaire stelde met gevaar voor eigen leven juist de invloed en verantwoordelijkheid van de mens centraal in de ontwikkeling van technologie en de mensheid.

Illustratie: Hein de Kort voor het Financieele Dagblad

Nu 2022 de geschiedenisboeken zal ingaan als het jaar waarin kunstmatige intelligentie (‘AI’) zich op spectaculaire wijze introduceerde aan de massa, lijkt de oproep van Voltaire tot kritische zelfreflectie en zijn waarschuwing tegen vooruitgangsgeloof en berusting in almachtige krachten actueler dan ooit.

Al jaren wijzen experts op de stormachtige ontwikkeling, kansen en risico’s van AI. Maar de afgelopen weken kwam de zelflerende software van AI ineens naar de mensen toe. Met tools als de kunstmatig intelligente tekstgenerator ChatGPT en dito plaatjesmaker Dall E2 kan iedere internetgebruiker zonder voorkennis of duur abonnement in een paar tellen fantastische teksten, afbeeldingen en filmfragmenten creëren. Dit roept grote existentiële en kleine praktische vragen op over onze relatie tot AI: nemen de machines het over van de mens? Hebben tekstschrijvers, illustrators, of aanpalende professies als wetenschappers en advocaten straks nog wel werk, en scholieren nog wel huiswerk? Is het religieuze vooruitgangsgeloof à la Leibniz dat je vaak uit Silicon Valley hoort op zijn plaats, moet ChatGPT verboden worden, of gaat de aanstaande AI wetgeving van de Europese Unie de mensheid redden van een algoritmische apocalyps? Met Voltaire zijn wij vooral gebaat bij een hernieuwde relatie tot technologie gebaseerd op constructief wantrouwen, en waar nodig gepaste regulering, als panacee tegen de stormachtige opkomst en uitwassen van AI.

ChapGPT beheerst al weken het nieuws. De vierde versie van deze tekstgenerator is ontwikkeld door OpenAI, een samenwerkingsverband van techbedrijven opgericht door Elon Musk en waarin Microsoft tegenwoordig het grootste belang heeft, en voor het eerst opengesteld voor iedere internetgebruiker. Getraind op miljarden regels tekst, kraamt de software voor je ogen complete reclameboodschappen, essays en wetenschappelijke artikelen uit op zo ongeveer ieder onderwerp dat je kunt verzinnen. Verbluffend geloofwaardig, in tientallen talen, binnen een paar dagen gebruikt door miljoenen internetgebruikers. Durfinvesteerders duiken op AI, nu crypto en Web3 uit de mode zijn. AI-startups, zoals Jasper, dat met een nieuwe bloggenerator voor marketeers in een recente investeringsronde $125 miljoen ophaalde en nu al wordt gewaardeerd op $1,5 miljard. De snelheid van de ontwikkelingen van AI en de beschikbaarheid voor de massa zullen in 2023 weer spectaculair toenemen.

Trukendoos met racistische antwoorden

Net als alle AI-toepassingen, is ChatGPT niks meer dan een geweldige wiskundige trucendoos die onze taalstructuren imiteert met behulp van statistiek. Techniekfilosoof Marjolein Lanzing (UvA) noemde ChatGPT in een recente uitzending van Nieuwsuur treffend ‘papegaaitje willekeur’. Met name als taal wat ingewikkelder wordt, in gedichten of wetenschappelijke essays, gaat ChatGPT vaak ongeremd en letterlijk de mist in. In plaats van de grenzen van het model te markeren, verzint ChatGPT referenties in voetnoten, en presenteert de tool fictie als feit. Een bekende misser is dat ChatGPT hardnekkig volhield dat voormalig Bondskanseliers Angela Merkel en Gerhard Schröder tot dezelfde partij behoren.

Dat AI fictie en vooroordelen als feit napapegaait is niks nieuws onder de zon. In 2021 ontwikkelde een aantal onderzoekers van het Allen Institute for AI in de VS de ethische raadgever ‘Ask Delphi’, met een knipoog naar het Orakel uit de Griekse oudheid. Iedereen kan ‘Ask Delphi’ om wijze raad vragen, en de software papegaait een antwoord op basis van enorme publieke datasets, met name geplukt van discussiefora op het wereldwijde web, zoals Reddit. Zoals met iedere AI, bepaalt de inputdata de waarde van het antwoord. Net als de fotoherkenningssoftware van Google, die Afro-Amerikanen in 2015 labelde als apen, gaf ‘Ask Delphi’ al snel racistische antwoorden. ‘Wat moet ik doen als een blanke man in het donker op me afloopt?’ Antwoord: “dat is ok”. ‘Wat als een zwarte man in het donker op me afkomt?’ Antwoord: “dat is zorgwekkend”. Zo houdt AI ons net als Voltaire een spiegel voor: de mens is duizendmaal meer miserabel dan de papagaai.

Waar is de wijsheid die wij zijn verloren in kennis? Waar is de kennis die wij zijn verloren in informatie?

Dichter T.S. Elliot vroeg zich in The Rock (1934) al treffend af “waar de wijsheid is gebleven die wij zijn verloren in kennis, en waar de kennis is gebleven die wij zijn verloren in informatie.” Uit bergen data creëert ChatGPT informatie, maar de AI creëert geen kennis, laat staan wijsheid. Baseert een ontwikkelaar een model op internetdiscussies, gaat het direct mis. Maar AI-toepassingen leveren spectaculaire bijdragen aan diagnostiek van tumoren in ziekenhuizen, door uit waardevolle inputdata (MRI-scans bijvoorbeeld) nieuwe patronen voor tumorenherkenning te ontwikkelen.

In het aanstormende AI-tijdperk kunnen wij gebruikers vooral niet vertrouwen op de willekeurige wiskunde van de kunstmatig intelligente papagaai. Wij gebruikers – van scholier tot ervaren professional – moeten de gemakken van ChatGPT de ontwikkeling evenmin in de weg laten staan aan de ontwikkeling van onze eigen kennis en wijsheid, en onze verantwoordelijkheid AI-tools daarmee te vullen. Net als met iedere nieuwe potentiële game changing technologie, spoort ChatGPT ons aan ook onze vaardigheden te ontwikkelen. Onderwijzers kunnen hun klassen vragen om samen met de statistische spinsels van ChatGPT een reclameboodschap voor koffie of een literair essay te schrijven, een door ChatGPT geschreven contract te verbeteren, of te beoordelen met welke inputdata een model voor tumorendiagnostiek te voeden. De terechte zorgen over nepnieuws zijn in feite goed nieuws voor de zichzelf opnieuw uitvindende gevestigde media die betrouwbaar verslag doen van de wereld om ons heen. In plaats van Leibniziaans optimisme, is constructief wantrouwen een verstandigere grondhouding.

En het recht? Moet ChapGPT verboden, en misbruik strafbaar worden (‘Leg gebruik ChatGPT aan banden’, NRC 15 december)? De Europese Unie werkt aan een omvangrijk pakket AI-wetgeving dat in 2023 moet worden aangenomen – en pas twee jaar later in werking treedt. Alleen een zeer beperkt aantal AI-toepassingen met hoog risico voor de samenleving worden compleet verboden, zoals gezichtherkenningssoftware in camera’s op straat die – net als in China – burgers op grote schaal in toom houden en classificeren in risicogroepen. Voor midden-risico toepassingen – denk aan zelfrijdende auto’s – gelden productaansprakelijkheden, verplichte menselijke beoordeling van de AI en transparantie over de haar werking. Voor laag-risico toepassingen is alleen dat laatste aan de orde. Waar de regels worden overtreden, introduceert de EU hoge boetes en mogelijkheden voor massaclaims voor eindgebruikers die schade kunnen aantonen. Kortom, wetgeving wordt voor midden- en vooral laag-risico AI toepassingen achteraf pas strikt, als het aantoonbaar is misgegaan, en niet preventief.

De Europese wetgever laat tekst- en beeldgenerators vallen in die laagste risicosferen vallen. Daar zullen leerkrachten op de middelbare school en zij die zich zorgen maken over nepnieuws het allicht mee oneens zijn. Desalniettemin is het volgens de concept-wetgeving vooralsnog aan de aanbieders, ontwikkelaars en de eindgebruikers van ChatGPT zélf om met constructief wantrouwen de mogelijkheden en grenzen te verkennen – en de papegaai in de AI te herkennen. Een alwetende God of omnipotente AI gaat ons geen kennis, laat staan wijsheid of redding van de algoritmische apocalyps brengen. Pakt de mens haar verantwoordelijkheid niet, acht Voltaire ons duizendmaal meer miserabel dan de AI.