Wat de duistere techsatire ons vertelt over het heden

De meest gebruikte spiegel van onze tijd: het mobieltje waar je naar staart als je het eindelijk uitschakelt. Het zwarte scherm toont je holle blik, net zoals de tv dat doet. Of een iPad. Misschien wel nadat je net de laatste aflevering van de serie Black Mirror hebt gezien. Waar de roman 1984 van George Orwell decennialang de standaardwaarschuwing was tegen de gevaren van totalitaire regimes, daar is deze serie voor de huidige generatie de referentie voor te ver doorgeschoten technologie. Niet die in een abstracte, verre toekomst, maar angstig dichtbij. De inmiddels vier seizoenen laten zien wat ons te wachten staat als we niet opletten. In een bonte stoet trekken gewelddadige hommel-robots, op hol geslagen algoritmen en kunstmatige intelligentie en apparaatjes met geüpload bewustzijn voorbij.

Dat levert gegarandeerd kijkspektakel op, maar de serie dient ook een  ander doel: ze houdt ons een spiegel voor en vertelt ons iets over het huidige tijdsgewricht. Peter-Paul Verbeek, techniekfilosoof aan de TU Twente, is groot liefhebber van Black Mirror. "Vaak is sciencefiction vergezocht, maar dit is dichtbij. Dat maakt het zo interessant." Verbeek noemt de serie een vorm van experimentele filosofie. "Black Mirror lijkt systematisch alle grote vragen af te gaan die de huidige technologische ontwikkelingen ons stellen." Wat doen sociale media met ons, wat is de invloed van de grote techbedrijven op de democratie, willen we een samenleving waarin robots zelfstandig op zoek gaan naar een slachtoffer? Volgens Verbeek gaat het niet zozeer om het schetsen van horrorscenario’s maar om het stellen van de juiste ethische vragen. "Het moeilijke aan het denken over techniek is dat techniek niet iets is dat buiten ons staat. We zijn ermee verweven. Techniek heeft invloed op onze moraal. De ethiek waarmee we techniek beoordelen, wordt beïnvloed door die techniek zelf." En dat verandert in de tijd, stelt Verbeek. "De mogelijkheid om iemand te verdoven tijdens een operatie heeft bijvoorbeeld onze mening veranderd over hoeveel pijn aanvaardbaar is, en daardoor klinkt de aanvankelijke weerstand tegen deze techniek ons nu bizar in de oren. Black Mirror leert ons anticiperen op veranderingen die er aan komen. Dat kun je doen door droge studies te schrijven, maar je kunt het ook doen door middel van de kracht van de verbeelding."

Dat is wat de serie zo relevant maakt voor Verbeek: "Om als burger goed te kunnen leven, moet je kritisch kunnen denken over hoe we ons verhouden tot technologie en hoe technologie vormgeeft aan ons bestaan. Het kijken naar Black Mirror kan daar  bij helpen." Want: zinniger dan blijven hangen in angstvisioenen is het om na te denken hoe we techniek op een goede manier kunnen integreren in ons bestaan. Zoals Verbeek in een van zijn boeken beschrijft: niets mis met de wassen vleugels van Icarus, maar wel hoe deze mythologische figuur ze gebruikte. Niet wars van hybris vloog hij te dicht bij de zon, waardoor zijn vleugels smolten. Hoewel vele mensen Black Mirror zien als een bewijs van techno-paranoia, benadrukken de makers zelf herhaaldelijk dat ze niet anti-technologie zijn. "Sterker nog, we houden allemaal van technologie en daarom maken we er juist een serie over", zei Annabel Jones, een van de producers van de serie, vorig jaar in een interview met entertainmentblad The Hollywood Reporter. Ze ziet de serie als een uitvergroting van ontwikkelingen waarvan de kiem nu al zichtbaar is.

Dat de scenario’s van Black Mirror echt niet altijd vergezocht zijn, bewijst volgens Verbeek bijvoorbeeld de aflevering Nosedive, waar alles draait om het geven en ontvangen van waarderingen.

Nosedive (seizoen 3, oktober 2016)

Hoofdpersoon is de behaagzieke jonge vrouw Lacie. Net als iedereen in haar omgeving is ze obsessief bezig met haar mobieltje, waarop constant een puntensysteem wordt bijgehouden. Iedereen geeft elkaar punten. Die punten hebben ook praktische implicaties. Weinig punten? Dan kun je even niet die moderne auto huren.

Nosedive in de praktijk

Die puntensystemen bestaan natuurlijk nu al. Internet is vergeven van duimpjes, hartjes en sterren. Of het nu gaat om onlinewinkels, dating-apps, sites met restaurants, vakantieparken of film- en muziekrecensies: sterren, cijfers en waarderingen vieren hoogtij. Soms zelfs twee kanten op: klanten en chauffeurs beoordelen elkaar op de Uber-app. China gaat al een stap verder. Hier wordt geëxperimenteerd met een veelbesproken sociaalkredietsysteem. Een snelheidsboete niet betaald? Het kan zomaar gevolgen hebben. Die mensen kunnen bijvoorbeeld niet meer eersteklas reizen met de trein. Of helemaal niet meer op vakantie naar het buitenland. Zelfs de toelating van kinderen op privéscholen is daar tegenwoordig gekoppeld aan een zwarte lijst van wanbetalers.

Arkangel (seizoen 4, december 2017)

Het is een van de grote worstelingen van iedere ouder: het precaire evenwicht tussen loslaten en je kind in de gaten houden om het te behoeden voor alle grote gevaren. Door schade en schande wijs geworden besluit hoofdpersoon Marie haar dochter Sara te laten implanteren met een systeem dat haar gangen altijd nagaat. Maar ook of ze gezond is. En als Sara die enge blaffende hond van de buren passeert op weg naar school, signaleert het systeem Sara’s angst en legt automatisch een censuurfilter aan zodat Sara zonder angst voorbij kan stappen. Op latere leeftijd is het systeem er natuurlijk als de kippen bij om Marie een seintje te geven als Sara drugs gebruikt.

Arkangel in de praktijk

Deze aflevering kan gezien worden als één grote illustratie en uitvergroting van wat de Israëlische historicus en schrijver Yuval Noah Harari dataïsme noemt: een wereld waarin data een allesoverheersende rol spelen, maar waarin de mens tegelijkertijd controle begint te verliezen. De Wit-Russische filosoof Jevgeni Morozov had het al eerder over zogenoemde dataseksuelen die hun doen en laten monitoren, ook tijdens de slaap. En die nooit meer rust kennen. Kijk naar alle fitnesstrackers en gezondheidsapps die voortdurend de gezondheid van de eigenaren bewaken. Die eigenaren stellen zichzelf met dit blinde geloof in meten en data gerust en denken dat ze over alles controle hebben. Op de fora van website Reddit wisselen twintigers zelfs hun ervaringen uit met het dragen van de alles metende armbandjes van Fitbit in combinatie met cokegebruik. Zo’n fitnesstracker laat feilloos zien of de hartslag nog wat hoger kan met een snuifje extra. Ouders gebruiken de trackers weer voor andere doeleinden: om hun jongste kroost in de gaten te houden. De wat oudere kinderen moeten bezorgde ouders houvast geven door bijvoorbeeld ‘Zoek mijn iPhone’ aan te zetten. Zo is ieder uitstapje live te volgen van achter het scherm.

Hated in the Nation (Seizoen 3, oktober 2016)

Mensen krijgen op sociale media de volle laag na een ongelukkig publiek optreden. De hashtag #DeathTo wordt in combinatie met hun naam trending, gevolgd door hun daadwerkelijke dood. Uiteindelijk blijken killer-hommels de boosdoener te zijn, kleine vliegende robotjes die vastbesloten hun vooraf geprogrammeerde doel zoeken en dit uitschakelen. Het thema van de killer-robots komt overigens ook in seizoen 4 voor: in de nogal kille aflevering Metalhead is het een al even vastberaden robothond die zijn sinistere opdracht uitvoert en gedurende veertig lange minuten de vrouwelijke hoofdpersoon opjaagt.

Hated in the Nation in de praktijk

Zogenoemde killerbots staan al op de drempel. Niet voor niets waarschuwen denktanks als het Future of Life-instituut keer op keer voor de gevaren van wapens die op eigen houtje, zonder menselijke interventie, hun doel kunnen uitschakelen. Prominente denkers en leiders uit de techindustrie hebben zich inmiddels expliciet uitgesproken voor een verbod op autonome wapens die op basis van beeldherkenning zelf op zoek gaan naar slachtoffers. Ook de Verenigde Naties kwamen al in Genève bij elkaar om te praten over zo’n verbod. Los van deze militaire toepassingen is een bedrijf als Boston Dynamics voortvarend in de ontwikkeling van steeds leniger en natuurlijk uitziende robots. Robots die achterwaartse salto’s maken zien er nog onschuldig uit, maar een filmpje waarin enkele van die robots soepeltjes een deur openmaken en naar binnen stormen, joeg veel internetters de stuipen op het lijf.

Be Right Back (Seizoen 2, februari 2013)

Wanneer haar man Ash komt te overlijden als gevolg van een verkeersongeluk besluit Martha gebruik te maken van een technologie waarmee ze weer met hem kan communiceren. Die technologie maakt gebruik van alle digitale sporen die Ash via sociale media heeft achtergelaten. Uit deze gigantische databerg zijn de persoonlijkheid en stem van Ash gecreëerd. Martha gaat stapje voor stapje verder om uiteindelijk bij een fysieke Ash uit te komen. Het moment dat Ash naast Martha met wijd open ogen ligt omdat hij geen slaap nodig heeft, markeert de onvermijdelijke omslag. Martha beseft dat de siliconen-Ash de leegte niet kan vullen.

Be Right Back in de praktijk

Van alle Icarus-achtige pogingen is het streven naar onsterfelijkheid waarschijnlijk wel de meest ambitieuze. Maar misschien juist wel daarom is onsterfelijkheid een geliefd thema in het van hyperoptimisme vergeven Silicon Valley. Een start-up als Kernel heeft de ambitie om het brein te kraken en uiteindelijk zelfs na te maken, zonder dat deze nog gebonden is aan de lichamelijke beperkingen van het (sterfelijke) lichaam. Ook onderzoekers van het Amerikaanse Lifenaut-project werken aan een digitaal bewustzijn waarmee mensen na hun dood kunnen voortleven als intelligente robot. Concreter is de Dadbot van de Amerikaanse journalist en programmeur James Vlahos. Toen bleek dat zijn vader ongeneeslijk ziek was, nam hij urenlange sessies met hem op over zijn leven. Al dit materiaal resulteerde in een chatbot (intelligente software die als chatpartner kan functioneren) waarin de inmiddels overleden vader de hoofdfiguur is. Dadbot antwoordt zoals zijn vader dat zou doen, met zijn eigen stem.

Hang the DJ (Seizoen 4, december 2017)

Centraal staan de twintigers Frank en Amy, die een geavanceerde dating-app gebruiken, genaamd ‘het Systeem’. Deze door kunstmatige intelligentie aangedreven dienst zoekt de kandidaten bij elkaar op basis van een matchingspercentage. Maar bovenal vertelt het Systeem ook hoe lang de tortelduifjes bij elkaar blijven. Vooraf: in het Systeem gebeurt alles met een reden. Frank en Amy passen goed bij elkaar, maar mogen toch maar een paar uurtjes bij elkaar blijven.Na de nodige omzwervingen breken Frank en Amy op een Matrix-achtige manier uit het Systeem en boeken de romantiek en het onvoorspelbare een overwinning op de koude berekende algoritmen.

Hang the DJ in de praktijk

Deze aflevering – de titel is een verwijzing naar een liedje van de Britse band the Smiths – laat perfect zien waar het de makers om te doen is: de interne logica van huidige technologische ontwikkelingen doortrekken. Als de mens deze ontwikkelingen niet constant kritisch tegen het licht houdt, dreigt zelfvernietiging. De hoofdpersonen in Hang the DJ doen dat wél. Nu al spelen slimme algoritmen natuurlijk  een grote rol bij datingdiensten als Tinder. Gebruikers van de populaire dienst krijgen alleen die mensen te zien van wie Tinder denkt dat ze goed bij hen passen. Alles om het toeval uit te sluiten en een zo hoog mogelijk slagingspercentage te behalen.

Dat niet alles zo realistisch is, bewijst een van de leukste en beste afleveringen in de vier seizoenen: USS Calister. In deze Star Trek-parodie gebruikt de sukkelige technisch directeur van een gamebedrijf het dna van zijn collega’s om hiermee hun bewustzijn te uploaden. De digitale equivalenten spelen vervolgens een onderdanige rol op het ruimteschip, waar de sukkel ineens de charismatische leider is. Maar misschien moeten we ook wel over dit scenario nadenken.