Het valt niet te verdedigen dat Google meeluistert naar mijn intiemste momenten

Mensen zijn heerlijk. Zeker als ze denken dat niemand meeluistert, zoals die man die in de auto al rijdend aan Google vraagt: "Stuur een sms: 'Schatteke, ich liebe dich!". Met de nodige liefde en beleving geroepen naar zijn smartphone. Mooi, maar er luistert dus wel iemand mee. Het fragment stond tussen de opnames die ik beluisterde, verzameld op een platform van Google en bestemd voor een medewerker dat dat soort fragmenten voor Google beluistert. Ik noem hem Peter. Ik luisterde naar meer dan duizenden opnames en ontdekte ook veel onterecht opgenomen privé-gesprekken.

Veel mensen praten met hun telefoon. Met Siri van Apple bijvoorbeeld. Maar ook met de Google Assistent. Je kan daar alles aan vragen: het laatste nieuwsbericht, boodschappen bestellen, berichtjes versturen en nog oneindig veel meer. Sinds kort is er ook de Belgische versie van de Google Home, de slimme speaker van Google. Dat toestel kan je in de woonkamer zetten en kan je nog veel meer voor je laten doen; de verwarming aan- en uitzetten, de lichten dimmen, reizen boeken... 

Opdrachten aan Google geven, doe je met de stem via de Google Assistent, een app voor de telefoon. Of via de Google Home. Google slaat die commando's op. Die optie staat standaard aan. Google zegt in de privacyvoorwaarden dat het die opnames gebruikt om de Artificiële Intelligentie achter Google slimmer te maken. Dat willen wij toch allemaal: een snel antwoord op onze zoekopdracht of meteen de weg vinden via de navigatie-app Waze (ook van Google). Daarvoor geven we een deel van onze privacy op.

Wat Google niet vertelt in die voorwaarden, is dat mensen zoals Peter meeluisteren naar stukjes van die opnames. Peter voor de Nederlandse taal, maar verspreid over de hele wereld heeft Peter honderden collega's. De computers achter Google schrijven letterlijk uit wat wij zeggen. Peter krijgt daar een stukje van te horen en te lezen. Hij moet controleren of de uitgeschreven tekst klopt en al dan niet bijsturen waar een fout staat. Of aanduiden dat iets onverstaanbaar is of foutief is opgenomen.

Peter weet niet wie achter de stem zit, de fragmenten zijn anoniem. Al is het soms niet moeilijk om te achterhalen wie er achter een stem zit. Tijdens de beluistering van enkele opnames, herkent een collega een oude vriend van bij de jeugdbeweging. Het valt op dat fragmenten die Peter hoort niet onherkenbaar zijn gemaakt en bovendien helder uitgesproken zinnen zijn. Bovendien zitten tussen de fragmenten herkenbare namen van bedrijven en mensen. 

Die herkenbaarheid roept vragen op: voerde de smartphone van de betrokkenen niet de juiste opdracht uit na een helder ingegeven commando? Of volgde een onduidelijk zoekresultaat na een heldere vraag? Waarom schrijft Peter geen dialecten uit in Algemeen Nederlands? Of is het gewoon een extra controle? Daarnaast zijn Peter en velen van zijn collega's ongetwijfeld ook erg eerlijk en integer van inborst, maar wat als een minder nobele collega herkenbare informatie als rekeningnummers of medische informatie van mensen die terug te vinden zijn, doorspeelt naar anderen buiten Google?

Ongetwijfeld heeft Google hierover nagedacht. Maar die relevante vragen zijn niet terug te vinden in de privacyvoorwaarden bij Google. Ook al omdat Google daarin niet vertelt dat mensen luisteren naar wat wij zeggen en vragen aan onze smartphone of slimme speaker. Er staat enkel in dat "audio geanalyseerd kan worden".

Ondanks zijn geheimhoudingscontract wou Peter met me praten over zijn werk. Omdat hij het belangrijk vindt dat mensen weten wat er gebeurt als we een stemopdracht geven aan Google. Maar ook omdat -zeker- de Belgische versie van Google Home nog veel fouten maakt. Tussen die meer dan duizend fragmenten die ik hoorde, zaten 153 gesprekken die niet moesten worden opgenomen. Waarbij duidelijk niet het commando "Ok Google" werd gegeven. Alledaagse gesprekken in de woonkamer. Zo vroeg een vrouw aan haar man "waar Frans bleef die om tien uur zou komen en het was al elf uur". Of een moeder die onderaan de trap naar haar dochter roep: "Noortje, kom dat eens beneden vertellen". Of een gesprek tussen twee vrouwen die het eens waren "dat jongens trager zijn dan meisjes". En zo zijn er nog tientallen voorbeelden.

"Ik vind het nogal frappant dat ik een hele waslijst aan geheimhoudingsvoorwaarden moest tekenen. Dat er absoluut niet naar buiten mag worden getreden over al die dingen. Dat is vaak wel de norm als je met dat soort bedrijven werkt. En dat ze tegelijkertijd dan op een redelijk verhulde manier zelf wel heel veel persoonlijke conversaties of persoonlijke geluidsfragmenten verzamelen en door andere mensen laten beluisteren", vertelt Peter me.

De meeste fragmenten die ik hoorde zijn alledaagse, redelijk onschuldige fragmenten. Maar wat als Google een intiem en gevoelig gesprek registreert in de woonkamer? Zoals een moeder die ik haar zoon hoorde vragen hoe het met zijn wonde gaat of een koppel dat kort snauwt. Wilt u, als u dat thuis meemaakt, dat een buitenstaander het hoort? 

En wat als u een delicaat gesprek voert met uw arts die toevallig gebruikmaakt van Google-diensten? En wat als de "transcriber" van Google uw buurman is of uw achternicht die uw stem herkent? Dit is voor alle duidelijkheid een fictief voorbeeld, maar het kan.

Het is niet duidelijk wat ertoe heeft geleid dat de eerste voorbeelden werden opgenomen door de slimme speaker van Google, maar het mag niet gebeuren. Ik woon in een vrij open appartement. Als de televisie speelt in de woonkamer, is dat perfect te volgen in de slaapkamer. De Google Home die ik kocht zou ik met plezier thuis willen installeren, omdat ik houd van dat soort "gadgeterij". Maar het ding komt er niet in. Ik wil niet dat iemand bij Google mogelijk een fragment hoort van wat ik doe in mijn slaapkamer. Of de gesprekken die ik thuis voer. 

"Google heeft naar mijn aanvoelen geen slechte bedoelingen", vertelt Peter. "Maar het systeem en, opnieuw, zeker de Google Home maakt veel fouten. Dat systeem is heel gevoelig: van zodra iemand in de buurt een woord uitspreekt dat nog maar op "Google" lijkt, begint het op te nemen. Ik schat dat 30 procent van de fragmenten conversaties zijn die zo, onbewust, worden opgenomen. Heel vaak zijn dat heel gewone gesprekken, maar er zitten ook soms pijnlijke dingen tussen, zoals gesprekken over relatieproblemen die besproken worden of ronduit ruzies."

Daarnaast vangen de professionele luisteraars vaak medische zoekopdrachten op, want mensen gebruiken Google vaak voor medische klachten. En ook de ijzeren wet van het internet wordt bevestigd: mannen blijken opvallend vaak op zoek te gaan naar porno, ook via een Google Home.

"De nieuwe privacywetten zijn zeer duidelijk", zegt onderzoeker Jef Ausloos. "Medische gegevens mogen onder geen enkel beding op die manier beluisterd worden. Maar ook de andere voorbeelden zijn ontoelaatbaar. Google zou te werk moeten gaan zoals wetenschappers bij medische proeven doen: in een gecontroleerde omgeving de systemen testen met mensen die bewust deelnemen. Of op zijn minst alleen al testen doen om de artificiële intelligentie te verbeteren met mensen die weten waaraan ze meewerken. Google is nu niet transparant over wat er met de audio-opnames gebeurt. We weten niet wat er wordt opgenomen, hoeveel seconden er worden beluisterd of hoe lang die opnames bewaard blijven."

De wet zegt dat er een verbod is op afluisteren van gesprekken, maar geen verbod op het opnemen van een gesprek waaraan je deelneemt. Maar als Google gesprekken opneemt tussen mensen in een woonkamer, dan is er wel een probleem. Maar nog meer dan het juridische is het psychologische belangrijk. Willen we dat andere mensen meeluisteren naar wat wij aan onze telefoon of slimme speaker toevertrouwen? Daarom hebben we beslist om een deel van die fragmenten die we hoorden ook te gebruiken op radio en televisie. We hebben ze wel een beetje vervormd en onherkenbaar gemaakt. 

Dit is geen pleidooi voor een leven zonder technologie. Technologie maakt zoveel facetten van het leven aangenamer. Technologie is een wezenlijk onderdeel van onze maatschappij: onze smartphones, in onze auto's, op het werk, technologie redt levens in ziekenhuizen... Het is onzinnig om nog maar te proberen op te sommen wat technologie doet voor ons. Beeld je een wereld in zonder die technologie. Alsjeblieft neen. En spraaktechnologie zal daar ook een prominente rol in spelen. Er moeten wel analyses van onze stem gebeuren in alle mogelijk talen die de mens vandaag wereldwijd spreekt.

Maar een techgigant als Google neemt zo een prominente plaats in ons leven in, dat er nog veel meer duidelijkheid moet zijn over hoe er elke dag wordt meegekeken en -geluisterd over onze schouder. En als we om de oren worden geslagen met slimme speakers, dan moeten we niet alleen zwichten voor de evidentie van 't gemak en de coole snufjes die ze met zich meebrengt, dan mogen we ons ook letterlijk afvragen wat we in huis halen. Meer nog, daar zijn onlangs nog nieuwe wetten voor gemaakt. Dus, Ok Google: privacy, daar moeten we het toch nog eens over hebben.