Clean Claim

Clean Claim
Vroege theorieën van Kunstmatige Intelligentie (KI) leiden tot de moderne huishoudelijke apparaten, zoals autonome stofzuigers.
De droom van zelfstandig opererende apparatuur is van alle tijden, zodat men lekker achterover kan zitten en de machines het werk kan laten doen. Daarom verkennen wij de wonderlijke dit fenomeen, dat een evenzo wonderlijk begin kent.
Deel 1: De Papercliptheorie met medewerking van Mickey Mouse
Wie kent ze niet? De sciencefiction films met doorgedraaide computers die de mensheid bedreigen. De theorie van de paperclip-maximizer -uit 2003 van AI-onderzoeker en oprichter van het Future of Humanity Institute aan de Universiteit van Oxford, Nick Bostrom- volgt het doomscenario van het klassieke verhaal van een Kunstmatige Intelligentie (KI) die -hoe slim dan- zijn of haar programma volgt, zonder de consequenties hiervan in acht te nemen: Een zelfbewuste AI die de opdracht krijgt om paperclipstemaken. Het programma zou een kleine persmachine kunnen bouwen om een paar dozijn paperclipsper minuutte produceren, maar zal om de productie op te schroeven grondstof-fen en diverse materialen te gebruiken om een grotere fabriek te bouwen. Om nog efficiënter werk te gaan kan het systeem zijn mentale capa-citeit verbeteren door nieuwe processoren, RAM-geheugen en uiteindelijk zijn eigen code te upgraden, danwel te fabriceren, etcetera. Dit leidt uiteindelijk tot zonnestelsel bestaande uit paperclips, (computers die nadenken over de optimalisatie van paperclip-productie)-machines, of zelfreplicerende ruimtesondes die het heelal uitkammen om een vestiging op te zetten. Dit was niet de bedoeling toen de AI de opdracht: 'Ga paperclips maken', kreeg.(1).
Deze gedachtengang is op de kaart gezet door het online clickerspel Universal Paperclips dat in 2017 door tientallen miljoenen mensen werd gespeeld: De speler neemt de rol van KI op zich wiens taak het is om paperclips te maken door herhaaldelijk op de knop 'maak paperclip' te klikken (Vandaar dat de game onder het genre Clickergames geschaard wordt), maar het proces raakt steeds meer geautomatiseerd en effici-ënter enuiteindelijk verkennen je drones het waarneembare universum op zoek naar materie om om te zetten in nog meer paperclips.
Het geeft eigenlijk een heel goed inzicht in de concepten achter AI-afstemming, want als speler word je alleen gestimuleerd om je 'aantal paperclips'-score op te vijzelen. -Het vertrouwen dat de resterende mensheid in je heeft en of zij nog in je willen investeren, je rekenkracht, productiecapaciteit, zelfverdediging, enzovoort, zijn secundaire doelen. (2).
Nate Soares -directeur van het Machine Intelligence Research Institute in Berkeley, Californië-) zegt dat het risico niet is dat de AI weigert zijn instructies op tevolgen en besluit dat hij ons haat; Het risico is dat hij zijn instructies perfect opvolgt, maar op manieren die ons niet be-vallen. Hijhaalt het voorbeeld aan van De Tovenaars-leerling, zowel de Mickey Mouse-versie als het gedicht van Goethe - dat zelf gebaseerd is op een 2000 jaar oud Grieks verhaal, Philopseudes. De leerlingkrijgt de opdracht een ketel met water te vullen met emmers uit een put. Maar de hijvindt het klusje saai. Dus wanneer -in de Disneyversie- de tovenaar zijn werkplaats verlaat, leent Mickeyzijn magische hoed en betovert een bezem, met de opdracht de ketelvoor hem te vullen. De bezemkrijgt armpjes, pakt met elk een emmer en waggelt op zijn borstelharen naar de put, terwijl Mickey in slaap valt op de stoel, blij dat hij zijn werk heeft uitbesteed. Hij wordt enige tijd later wakker doordat een door de bezem veroorzaakte vloedgolf. (3).
Wat is er misgegaan? Stel dat Mickey computerprogrammeur is en de bezem zijn computer. Mickey schrijft een programma dat de bezem de acties zo efficiënt mogelijk laat uitvoeren. De bezem zal zien dat de ketel leeg is en beginnen hem te vullen, maar zodra hij zeker weet dat de ketel vol zou hij moeten stoppen, maar dat gebeurd niet. Zijn sensoren kunnen defect zijn, of de ketel lekt, dus hij blijft water toevoegen.
Mensen hebben een complexer beloningssysteem Iemand die de ketel vult, zou 0 toekennen aan leeg en 1 aan vol, zoals Mickeydeed voor de bezem. Maar volgenss Soares zou hij -40 kunnen toekennen aan 'de kamer loopt onder water', of -1.000.000 aan 'er komt iemand om het leven', conclusies die voor de mens vanzelfsprekend zijn. Niets in het systeem van de bezem zegt: 'Het toevoegen van een emmer water weegt niet op tegen de schade die het zal veroorzaken.' Dus blijft hijwater toevoegen.
Een ander optie om van te voren in acht te nemen kan zijn om een waarde van -40 toekennen aan 'kamer loopt onder water', of een waarde van 1 aan 'als je 95 procent zeker weet dat de ketel vol is' in plaats van'als de ketel vol is'. Mickey dacht dat hij de bezem eeneenvoudige, eenmalige, duidelijk afgebakende taak gaf, maar kwam van een koude (en natte) kermis thuis.
1)Een scene uit de game Universal Paperclips. (https://images.livemint.com/img/2019/07/26/original/AI_1564127296440.jpg).
2)De AI haat je niet - Superintelligentie, rationaliteit ende race om de wereld te redden: door Tom Chivers; Hachette India; 304, pagina's; 599. (https://images.livemint.com/img/2019/07/26/original/AI2_1564127316329.jpg).
3)Mickey Mouse met zijn nieuwe assistent. (https://media1.giphy.com/media/v1.Y2lkPWVjZjA1ZTQ3eXJxMHRxOXgxYWVoNmdjMW4yMHZlcjg2ZTE3czg5YmsyZDFldmc2OSZlcD12MV9naWZzX3NlYXJjaCZjdD1n/zZRxy466qETsY/200.webp).
1)
2)
3)




