Algoritme-expert Hannah Fry: “Een volstrekt zelfrijdende auto zal er nooit komen”

China wil de komende drie jaar een netwerk van 400 miljoen nieuwe camera’s uitbouwen om door middel van gezichtsherkenning de bevolking in het oog te houden. De camera’s zullen over het hele land verspreid staan, op straathoeken en in kleine steegjes, waardoor de positie van de 1,3 miljard Chinezen altijd en overal bekend zal zijn.

Sesame Credit heet dit systeem, waarbij voorbeeldige burgers punten zullen krijgen en niet zo voorbeeldige die zullen moeten inleveren. Wie meer dan 600 punten heeft, krijgt een speciale creditcard. Met 650 punten mag je gebruikmaken van een vip-rij in de luchthaven; 750 punten geven je het recht op een spoedvisum naar Europa. Wat er gebeurt met iemand die onder nul gaat, weten we in feite liever niet. En voor wie het toch wil weten, hebben we een goede raad: sla er George Orwells 1984 maar eens op na.

“Voor Europeanen is dit inderdaad een bijzonder dystopische toekomstvisie”, zegt Hannah Fry, “maar ik heb er met een paar Chinezen over gesproken en die waren eerder positief. In China wil je juist heel graag gezien worden als een gehoorzame en voorbeeldige burger.

“Zelf sta ik natuurlijk helemaal aan de Europese kant. Wij Britten hebben geweigerd identiteitskaarten in te voeren omdat deze een inbreuk zouden vormen op onze privacy. Wij vinden het een fundamenteel recht dat we anoniem over straat kunnen lopen.”

Hannah Fry is een Londense wiskundige en auteur van het felgeprezen boek Algoritmes aan de macht, hoe blijf je menselijk in een geautomatiseerde wereld? Algoritmes zijn in feite niet meer dan procedures om een probleem op te lossen. Ik vertrek van A, wil in B aankomen en de weg ertussen noemen we een algoritme. Een recept zou je ook een algoritme kunnen noemen. Het beschrijft hoe je van losse ingrediënten tot een lekkere maaltijd komt. De succesvolste algoritmes zijn natuurlijk computerprogramma’s en het is daar dat ze iets sinisters krijgen, want dan kunnen ze niet alleen gebruikt worden om muziek te componeren, zoals David Cope doet, of om seriemoordenaars te arresteren aan de hand van alle mogelijke sporen die ze op alle mogelijke plaatsen achterlieten, maar dan kunnen ze ook uitgroeien tot een Sesame Credit.

“Ik weet het, Sesame Credit is een schrikbarend toekomstbeeld”, vervolgt Fry, “maar toch blijf ik optimistisch. Er is geen enkele reden om bang te zijn voor algoritmes. We moeten beducht zijn voor mensen die er misbruik van willen maken, dat zeker, maar onze toekomst ziet er ook een stuk beter uit door algoritmes. De wereld is een rommeltje en het grootste deel van onze activiteiten bestaat uit het bestrijden van dat rommeltje. Daar kunnen algoritmes ons echt bij helpen. Zolang we maar niet vergeten dat ze niet perfect zijn, natuurlijk.”

Wij hebben onze eigen Sesame Credit, zouden sommigen opmerken: Facebook, waarop onze privacy te grabbel wordt gegooid.

“Welke privacy? Die hebben we toch al lang niet meer?”

Komt dat niet doordat we zo paranoïde zijn over privacy? Heel veel zaken zijn toch gewoon onschuldig, terwijl de echt belangrijke dingen daardoor ondergesneeuwd dreigen te raken?

“Inderdaad, waar trek je de grens? Kan het mij iets schelen dat mijn boodschappenlijstje bij Amazon publiek gemaakt wordt? Niet echt. Misschien staat er wel een Introductie in de statistiek op waarvan ik niet per se wil dat iedereen weet dat ik die gekocht heb, maar hé, we moeten inderdaad niet overdrijven. Wil ik daarmee ook dat iedereen weet welke rare hersenkronkels ik heb en welke bizarre zaken ik daardoor zit te googelen wanneer ik ’s nachts niet kan slapen? Misschien niet. En dan heb ik het nog niet eens over porno of zo, maar gewoon over privézaken zoals mijn gevoelens en gedachten.”

Maar waarom zou iemand die publiek willen maken? En wie zou er aandacht aan besteden?

“Het probleem ontstaat pas wanneer bedrijven aan de haal gaan met de informatie die je in feite niet met anderen wilt delen en die dan gebruiken om je gedrag te manipuleren. Dat is wat Cambridge Analytica deed, net als veel andere gelijkaardige firma’s. In opdracht van de wapenlobby ging Cambridge Analytica op zoek naar neurotische alleenstaande moeders. Die werden dan bestookt met boodschappen als: ‘Iemand dringt je huis binnen, wil je je dan niet kunnen verdedigen?’ Met een beeld daarbij van een jonge vrouw die een inbreker onder schot houdt. Het kan niet de bedoeling zijn dat firma’s onze angsten uitbuiten voor eigen gewin. Dit type microtargeting is echt wel zorgwekkend.”

Dit is inderdaad een verfoeilijke daad, maar microtargeting wordt over het algemeen toch gewoon gebruikt om ons iets te verkopen? Wanneer ik op Google op zoek ga naar een nieuwe computer, krijg ik geheid allerlei aanbiedingen van onlinewinkels die me stevige kortingen aanbieden. Dat kan toch voordelig zijn? Is microtargeting daarom niet iets als een mes dat aan twee kanten snijdt? Je kunt er iemand mee vermoorden, maar je kunt er ook je boterhammen mee smeren.

“Sorry, maar die ga ik dus van je stelen. (lacht luidop) Je slaat de spijker op de kop.

“Maar ergens moet je een lijn trekken wat wel en wat niet kan, en dat kun je niet aan het grote publiek overlaten. Dat weet immers niet wat er gaande is. Je kunt het ook niet overlaten aan de firma’s die aan microtargeting doen, omdat je niet mag verwachten dat zij een eerlijke keuze zullen maken tussen winst en fatsoen. De overheid moet dus regels opleggen. Met een voluntaristische ethische code zullen we er niet komen.

“Ik denk dat de geneeskunde hier een mooi voorbeeld is. Nog niet zo lang geleden kon je om het even welk vloeistofje in een flesje gieten, het als medicijn verkopen en er nog eens een fortuin aan overhouden ook. Dat kan nu niet meer, omdat we een orgaan als de FDA in het leven hebben geroepen, de Food and Drug Administration, die tussen de firma’s en de gebruikers staat. Enerzijds bewaakt zij het intellectuele eigendom van de firma’s, maar anderzijds controleert zij ook of de voordelen van wat er op de markt komt wel opwegen tegen de nadelen. Zo’n FDA hebben we ook nodig voor het internet.”

Deed Cambridge Analytica meer dan gericht adverteren? Die firma ging op zoek naar een goede doelgroep om deze met de juiste reclame te bewerken. Zij gebruikten het juiste net om de juiste vissen te vangen, zou je kunnen zeggen. Maar dat doet toch iedere adverteerder? Je gaat toch ook geen vlees proberen te verkopen aan een vegetariër?

“Daar heb je helemaal gelijk in. Tot op zekere hoogte deed Cambridge Analytica inderdaad niets anders dan wat iedere politieke campagnevoerder ooit deed: op zoek gaan naar de zwevende kiezers en proberen die binnen te halen.

“Barack Obama gebruikte in 2012 tijdens zijn campagne A/B testing. Hij was de eerste presidentskandidaat die meer dan een miljard dollar aan donaties wist op te halen, waarvan 690 miljoen via het internet. Aan zijn internetcampagne ging een heel onderzoek vooraf, waarbij getest werd hoe mensen reageerden op verschillende kleuren en groottes van foto’s en doneerknoppen op het scherm. Deze A/B testing was ook een vorm van microtargeting. Cambridge Analytica ging echter in de fout zodra ze er ook nog eens fake news bovenop deden. Op dat moment stopten ze met het gebruiken van een net en gingen ze over op dieptebommen. Wat Cambridge Analytica vooral aantoonde was dat Facebook het Wilde Westen was. Voor andere media bestonden regels, voor sociale media niet.”

Heeft Trump zijn presidentschap aan een paar computeralgoritmes te danken?

“Wellicht niet. We mogen de invloed ervan ook niet overschatten. Het maakte 0,1 procent verschil, denkt men. Maar dat Facebook in de nasleep ervan verplicht werd de algoritmes van de news feeds te veranderen, waardoor je meer te zien krijgt van wat je vrienden posten en minder informatie van buitenstaanders, is natuurlijk positief. Net zoals het invoeren van een hiërarchie wat nieuwsbronnen betreft. The New York Times stond vroeger op Facebook op dezelfde hoogte als de Angryville Gazette, om maar iets te verzinnen. Dat is nu niet langer zo.”

En wat met die andere grote bedreiging, artificiële intelligentie? Zullen computeralgoritmes ooit de macht overnemen?

“AI is heel lang veelbelovend geweest en dat is het tot op zekere hoogte nog steeds, al komt er stilaan toch wel wat schot in de zaak. In 2012 zagen we een grote doorbraak. Geoffrey Hinton en zijn team namen deel aan een wedstrijd waarin de deelnemers een algoritme dienden te schrijven dat in staat was het verschil te zien tussen een hond en een kat. Fluitje van een cent, denk je, maar voor een computer is dat heel moeilijk. Het was zelfs heel lang de maatstaf waaraan AI afgemeten werd.

“Hinton kwam met iets op de proppen dat dit werkelijk kon en dat veranderde alles. We hebben vandaag meer data over en een veel gedetailleerder beeld van de wereld dan pakweg een decennium geleden. En dat door de laptops en smartphones die we gebruiken en de informatie die ze verzamelen over hoe we ons gedragen.

“We hebben nu ook veel meer rekenkracht dan in het verleden. En, misschien ook niet onbelangrijk: we hebben onze kijk op AI bijgesteld. Het idee dat we een superintelligent computersysteem kunnen maken dat alle problemen zal oplossen, is verder weg dan ooit. We zetten nu veel meer in op kleine projecten die onderzoek doen naar echt nuttige AI.

“Het bedrijf Deep Mind heeft bijvoorbeeld een AI-systeem ontworpen dat de koeling van een datacenter regelt. Servers wekken enorm veel hitte op. Om alle servers van de hele wereld af te koelen, heb je ongeveer net zoveel energie nodig als een gemiddeld land verbruikt. Die koeling zo rationeel mogelijk laten verlopen, is dus geen slecht idee. Deep Mind verving de mensen die dat vroeger deden door een AI-systeem, en het verbruik daalde meteen met een derde. Gewoon omdat zo’n systeem in korte tijd met heel veel data rekening kan houden.”

En leert dat systeem ook bij?

“Dat is inderdaad het kernwoord wanneer het over AI gaat: bijleren. Heel veel algoritmes in onze wereld, en dus ook in mijn boek, veranderen nooit. AI doet dat wel. Die leert bij. In dit specifieke geval kreeg het systeem historische data ingevoerd, en heeft het ook de mogelijkheid om te leren uit zijn eigen activiteiten. Na iedere kleine wijziging worden de gevolgen daarvan in rekening gebracht, waarna weer wordt bijgestuurd en dat tot in het oneindige. Het systeem wordt dus steeds beter.”

In welke sector ziet u de mooiste toekomst weggelegd voor AI?

“Ongetwijfeld in de geneeskunde. AI is niet in staat de plek van een arts in te nemen. Zo ver zijn we nog lang niet, maar waar artificiële intelligentie wel degelijk een grote toegevoegde waarde heeft, is in de beeldvorming, het interpreteren van longscans of borstbiopsieën, bijvoorbeeld. Er bestaat zelfs een computersysteem dat een camera bestuurt die bij een colonoscopie gebruikt wordt en actief op zoek gaat naar darmpoliepen en -tumoren. Het doel is minder fouten en betere diagnoses, maar wel samen met een arts. AI moet artsen niet overbodig maken, maar wel hun efficiëntie vergroten.”

In feite is dat toch de boodschap van je boek, dat we niet moeten kiezen tussen mensen of algoritmes, maar daarentegen voor een combinatie van beide?

“Ja, en ik denk dat dit in de toekomst ook steeds meer zal gebeuren. Ik geloof niet in doemscenario’s over computers die de macht overnemen. Ik denk liever in termen van partnerschap. Neem bijvoorbeeld de automatische piloot van een vliegtuig. Die bestaat al decennialang en wordt steeds beter. In feite zouden vliegtuigen best zonder piloten kunnen vliegen, maar toch is het aantal piloten in een cockpit niet afgenomen. We laten het ook niet toe dat het vliegtuig alles zelf doet, want daardoor zou de piloot niet langer zijn bekwaamheid kunnen oefenen.

“Een cockpit is dus nog steeds volledig op mensenmaat gemaakt, ook al speelt de computer een grote rol bij het vliegen.”

En wat met de zelfrijdende auto, zal die ook altijd een ‘piloot’ nodig hebben? Of komt er ooit een die volledig autonoom zal rijden?

“Iedere firma die zich bezighoudt met het ontwikkelen van zelfrijdende auto’s zal je vertellen dat je op bepaalde trajecten zonder chauffeur kunt rijden, maar op de meeste niet. Dat zelf rijden is nog niet veel meer dan een chique cruisecontrol, een dure gimmick die auto’s doet verkopen.

“Een volstrekt zelfrijdende auto zal er trouwens nooit komen. Zo’n auto moet immers 100 procent betrouwbaar zijn, altijd en overal, en dat kan niemand garanderen. Daarom zal er altijd een mens nodig zijn, en als dat zo is moet die mens de laatste beslissingsmacht krijgen.

“Als je veronderstelt dat die mens in de auto zal zitten zonder iets te doen, gewoon om in het geval van een probleem het stuur over te nemen, maak je een denkfout. Niet alleen zal die mens binnen de kortste keren niet meer opletten, als er een probleem optreedt zal hij ook tijd nodig hebben om een overzicht te krijgen van wat er aan de hand is. Zo’n probleem zal immers altijd complex zijn, anders zou de zelfrijdende auto het zelf wel kunnen oplossen. Uit tests is gebleken dat een mens gemiddeld veertig seconden nodig heeft om te snappen wat er aan de hand is. Veel te lang om nog in te grijpen, natuurlijk.

“Een bijkomende reden waarom de zelfrijdende auto er nooit zal komen, is dat zo’n auto in de stad meer zou stilstaan dan rijden. Hij moet immers altijd en voor iedereen kunnen stoppen, ook voor een fietser die geen voorrang geeft of voor een voetganger die zomaar zonder te kijken de weg opstapt. Zodra dat bekend is, zou niemand nog enig respect hebben voor zo’n auto. Niemand zou hem voorrang verlenen.

“Logisch gezien kunnen zelfrijdende auto’s dus alleen autonoom rijden op plekken waar ze niet in contact kunnen komen met andere weggebruikers. Op hun eigen wegen dus. Maar in feite hebben we al zoiets. We noemen dat een trein.”

Is het probleem niet dat de wereld zich moeilijk laat reduceren tot algoritmes?

“Natuurlijk. We willen de wereld terugbrengen tot een wiskundige beschrijving ervan en dat is toch altijd zoiets als een ronde pin in een vierkant gat steken. Soms lukt het te laten uitschijnen dat het gat gedicht is, maar er zullen in de hoeken altijd kleine spleetjes overblijven waar de realiteit naar buiten lekt. Daarom zullen er nooit zelfrijdende auto’s komen en moeten we er altijd op toezien dat de mens het overwicht behoudt tijdens zijn samenwerking met algoritmes. Wanneer Sesame Credit zelf de lakens begint uit te delen, zijn we verloren.”