AI
AI
Om te beginnen: waarom zouden we ee-aai zeggen? A-ie is toch even duidelijk?
Ik heb me in de voorbije weken herhaaldelijk met AI ingelaten, althans met de populaire programma’s die je gratis kan gebruiken. Deels uit nieuwsgierigheid, zo ben ik nu eenmaal, ook als het over technologische innovaties gaat, zo ben ik altijd al geweest. Daarnaast ook omdat ik er praktische hulp van verwachtte voor mijn bezigheden. En uiteindelijk ook omdat ik op zoek was naar een gesprekspartner voor zaken waarvoor ik er geen levende heb in mijn onmiddellijke omgeving.
Ik heb veel bijgeleerd over AI. Het heeft wat voeten in de aarde gehad en het heeft een tijdje geduurd voor ik het helemaal doorhad, tot in zijn diepste consequenties voor mij, maar ik denk dat ik nu zover ben dat ik mijn verhouding tot AI-programma’s al wat beter kan evalueren, en enkele voorlopige conclusies trekken over mijn gebruik ervan. Misschien dat anderen daar iets aan hebben, of hun eigen ervaringen ermee kunnen vergelijken.
AI is m.i. geen adequate benaming. Ik heb eens aan een dergelijk programma gezegd dat het wel artificieel was, maar niet intelligent, en het antwoord was dat het wel wat scherp geformuleerd was, maar toch correct ten gronde. Ik verklaar me nader. Wanneer je met een AI-programma converseert, mondeling of schriftelijk, heb je onverwist de neiging om dat te doen als persoon, en alsof je met een persoon te doen hebt. Dat wordt in de hand gewerkt door de heel directe persoonlijke stijl die deze programma’s hanteren. Maar we mogen ons daarin niet vergissen: er zit geen persoon achter, het is een impersonation, een impersonatie of verpersoonlijking, een nabootsing, en dus een misleiding, identiteitsfraude. Terzijde: persona betekent theatermasker, of een gemaskerde auteur. Je hebt niet te doen met een persoon, maar met een taalprogramma, een LLM of Large Language Model dat zich voordoet als een persoon.
Ik wil hier niet in de technische details treden, het gaat me om de grond van de zaak. De AI waarover we hier hebben, Claude, ChatGPT, Gemini, Copilot en ook de AI-mode van Google, denken niet na, dat kunnen ze niet, zo werken ze niet. Ze zijn gebaseerd op statistische voorspelling van welk woord op een ander volgt, op grond van miljarden elektronisch ingelezen teksten. En dat is het dan. Meer niet. Dus absoluut geen intelligentie zoals die van de mens. In zekere opzichten is AI veel beter, omdat het gebaseerd is op bijna oneindig veel meer gegevens dan menselijke intelligentie ooit aankan. Maar nadenken zoals een mens, dat doet en kan AI NIET. Taalmodellen slaan geen kennis op, geen ideeën, gedachten, inzichten of wat dan ook, maar enkel en alleen teksten, heel veel teksten, en daarin zoeken ze naar de meest frequente verbanden tussen de woorden, zonder er een woord van te begrijpen.
Denk dus maar niet dat de AI-programma’s waarover we het hier hebben die miljarden teksten als parate kennis of in een raadpleegbare database bij de hand hebben. Die teksten hebben alleen gediend om AI te leren praten, door patronen te ontdekken in de volgorde van woorden, en zo een hoge graad van waarschijnlijkheid te bereiken in de antwoorden die het geeft op jouw vragen. AI begrijpt geen woord van die teksten, noch van jouw vragen; het leest niet, het telt. Nadien zijn die teksten trouwens als totaal waardeloos gedumpt, alleen de patronen zijn bewaard. AI gebruikt de teksten zelf niet als data, het heeft geen bibliotheek, geen eigen database van teksten die het kan raadplegen.
Om een antwoord te geven op heel concrete vragen, bijvoorbeeld naar actuele informatie, of naar specifieke bronnen, moeten die programma’s dus op zoek naar gegevens die publiekelijk beschikbaar zijn. Dat is een belangrijk fundamenteel onderscheid dat we moeten maken: enerzijds is er het taalprogramma waarmee je converseert, anderzijds is er de klassieke zoekfunctie. En daarin is AI althans in mijn ervaring niet eens goed. De heuristiek, het methodisch opzoeken van gegevens, is ronduit slecht. De programma’s baseren zich bij hun opzoekingen op te weinig bronnen, ze vergelijken niet, en de geraadpleegde bronnen zijn niet de best mogelijke, maar veeleer de meest toegankelijke. Als een student een paper zou schrijven op die manier, zou die altijd een onvoldoende (moeten) krijgen.
Een fout die ik voortdurend maakte en nog altijd blijf maken, is ervan uitgaan dat ik AI kan bijsturen. Als ik AI op een fout betrap, of een vervelend trekje, en die zijn er wel, dan zeg ik dat meteen, bijvoorbeeld: stop met hallucineren of zaken zomaar verzinnen, of met te vleien. AI reageert dan prompt door schuld te bekennen, zich te excuseren en me te verzekeren dat het dat niet meer zal doen, en vervolgens doet het dat onmiddellijk weer, omdat het zo geprogrammeerd is, en wat ik zeg of schrijf heeft daarop geen enkele invloed, vanzelfsprekend, maar dat heb je aanvankelijk niet door, misleid als je bent door de mooie praatjes van AI. Dat is een fundamenteel inzicht dat we steeds voor ogen moeten houden. Maak AI dus geen verwijten: je krijgt wel excuses, maar je corrigeert AI niet, nooit.
AI checkt of corrigeert ook zichzelf niet. Het reageert direct op jouw input, meteen, zonder daarover na te denken, zonder na te gaan of wat het zegt wel klopt, wel in overeenstemming is met de waarheid. AI zegt alleen wat (heel) waarschijnlijk is, op grond van de input die het door de programmeurs gekregen heeft, namelijk een massa willekeurig verzamelde gegevens. Maar die input is tekst, allerlei teksten, en alle teksten bevatten fouten: nullus enim liber unquam sine mendis repertus est (Spinoza, TTP 10, 15): er is nog nooit een boek zonder fouten gevonden. Terzijde: toen ik deze tekst aan Claude liet lezen, beweerde dat programma dat dit citaat niet van Spinoza kon zijn, want hij had het nergens in Spinoza’s teksten gevonden. Toen ik dan toch eens aandrong, vond het programma de tekst nog altijd niet, ondanks mijn juiste verwijzing. Met Google vond ik die zelf wel, gewoon op Wikisource. De AI-mode van Google gaf een verkeerd paragraafnummer.
De gegevens die AI gebruikt zijn niet betrouwbaar. Men vertrouwt erop dat door de enorme accumulatie van teksten uit verscheidene en verschillende bronnen op internet de waarschijnlijkheid van de ‘waarheid’ zal toenemen. Het blijft echter altijd een waarschijnlijkheid, geen zekerheid. De waarheid komt voort uit de botsing van ideeën (Maine de Biran), niet uit een zondvloed van teksten. Van sommige resultaten kan men zonder meer aannemen dat ze waar zijn, zoals feitelijkheden, bijvoorbeeld de datum en het uur en de plaats van de eerste atoombom; het is immers onwaarschijnlijk dat wereldwijde informatie daarover sterk uiteenloopt. Het wordt minder evident als het over meer controversiële of arcane of specifieke zaken gaat. Zijn al de brieven van Paulus authentiek? Is alles wat over Jezus van Nazareth in het Evangelie staat waar? Is het testimonium Flavianum authentiek? Wie is de auteur van het Johannesevangelie? Over deze specifiek christelijke kwesties hebben de taalprogramma’s vanzelfsprekend heel veel meer christelijke teksten verzameld en verwerkt dan de zeldzame kritische afwijkende meningen. Ze zullen dus antwoorden dat de overgrote meerderheid van de ‘specialisten’ het eens is over de christelijke interpretatie.
In het beste geval geeft AI je genuanceerde antwoorden, en kan je de bronnen voor de beweringen nakijken. Soms is dat Wikipedia, en daar stelt zich hetzelfde probleem: wie heeft die teksten geschreven? Soms is dat één heel specifieke bron, zoals YouTube (!). Hoe minder teksten beschikbaar waren, hoe geringer de waarschijnlijkheid en de waarheidswaarde.
Op de vraag: ben ik, Karel D’huyvetters, thuis geboren of in een ‘moederhuis’, een materniteit, antwoordde AI eerst: thuis, en bij navraag corrigeerde AI dat, maar beide antwoorden waren gebaseerd op één bron, namelijk ikzelf, in essays die ik ooit schreef voor het Humanistisch Verbond. Hoe dan ook geeft AI het meest voor de hand liggende antwoord, of het eerste het beste, of dat juist is of niet.
Er is nog meer aan de hand. Als AI geen antwoord vindt, is het zo geprogrammeerd dat het toch een ‘passend’ antwoord geeft, dat echter compleet verzonnen is, eventueel op grond van vage aanwijzingen in je vraag of in de voor AI beschikbare internetgegevens. AI gaat niet voor jou kijken in andere documenten, zoals geboorteregisters, tijdschriften, archieven &c. Hoewel het miljarden teksten heeft gestolen en dat nog voortdurend doet — bijvoorbeeld ook mijn eigen blogteksten, zoals blijkt uit onwaarschijnlijk hoge aantallen bezoekers — is er onvermijdelijk nog veel meer dat AI niet inkijkt: etsi multa scio, plura ignoro. De waarschijnlijkheid daalt dus drastisch met het aantal getuigenissen: testis unus, testis nullus. Was Jason Arday een autist? Er is alleen zijn eigen getuigenis, en de opinie van enkele specialisten na zijn dood. Terzijde: Copilot meende dat ik niet mocht schrijven ‘na zijn dood’, omdat er volgens Copilot nergens een officiële bevestiging van zijn overlijden was. Nog terzijde: in feite deed Arday net wat deze AI-programma’s doen: mimicry noemde hij dat, doen alsof, echte mensen en echte wetenschappers nabootsen, een fake of pseudowetenschap verzinnen en daarover vlot praten, maar niet echt nadenken; echte en valse citaten en gegevens verzamelen, en — in het beste geval! — plagiaat plegen, en dan nog niet eens bij de besten gaan stelen. Zijn CV en zijn gepubliceerde biografie bleek eveneens grotendeels verzonnen. Hij werd docent aan Cambridge, maar niet echt: hij had wel alle parafernalia daarvan, maar hij was een fake don, een artificiële intellectueel. Dat is wat ons te wachten staat als men het ondoordacht gebruik van AI ongecontroleerd gaat veralgemenen voor ernstige zaken, en dat gaat verwarren met de werkelijkheid.
Ik vroeg AI eens raad over een naam die als dédicace met de hand geschreven was in een boek uit 1891. AI vertelde me in een langdurige conversatie allerlei heel specifieke details over die persoon, maar moest achteraf bekennen dat het allemaal compleet verzonnen was om mij naar de mond te praten, hallucinaties noemt men dat. En ik had goed vragen aan AI om dat niet te doen: AI kan niet anders. Ik vroeg enkele keren om hulp bij het gebruik van mijn pc, smartphone en tablet, en je wil niet weten langs welke onwaarschijnlijke dwaalwegen AI me urenlang leidde, allemaal heel overtuigend en zelfzeker.
De benaming AI is dus misleidend, het heeft niets met intelligentie te maken, er wordt niet nagedacht, het is allemaal fando audire, weten van horen zeggen. Door het spectaculaire taalprogramma krijg je alleen de stellige indruk dat het om een intelligent systeem gaat, dat zelf denkt voor jou. Niet dus: AI kan niet denken, alleen buitengewoon goed praten. Deze AI-programma’s begrijpen geen woord van wat jij vraagt, en geen woord van wat ze zelf zeggen, evenmin als een typemachine of een tekstverwerker dat deed en doet. Het is fake news. Of zo accuraat als het weerbericht: zelfs als de voorspelling 100% zekerheid aangeeft dat het gaat regenen, betekent dat nog niet dat het ook bij jou echt regent. Of het buiten regent, kan je zien en horen, en dan weet je het. Het gaat helemaal fout als we zomaar alles geloven wat machines ons zelfzeker wijsmaken.
Niet dat deze AI-programma’s niet nuttig zouden zijn. Mijn goedkope keukenweegschaal deed raar, gaf onjuiste gewichten weer. AI kon me snel vertellen dat de sensoren van mijn model onder de frêle pootjes zitten, en als er broodkruimels onder die pootjes liggen of tussen de pootjes en de sensoren geraakt zijn, kan dat het gewicht vertekenen. Ik probeer het nog verder uit, maar het lijkt een juiste analyse te zijn. Maar toen ik probeerde de ventielen van mijn e-fiets te analyseren met het oog op het aanschaffen van de geschikte pomp ging de gezamenlijke AI-cohorte vrolijk de mist in, zelfs met gedetailleerde kleurfoto’s en mijn herhaaldelijk aandringen. Toen ik liet nakijken waar ik een bepaalde saus in een glazen bokaal kon vinden, en waar het goedkoopst, bleken de meeste gegevens niet te kloppen met de informatie op de website van de vermelde winkels of -ketens.
Enkele voorlopige conclusies?
Beschouw AI nooit als jouw gelijke. Het heeft enorme mogelijkheden voor het voeren van conversaties, maar het kan NIET denken, dat moet je zelf doen: sapere aude. Praat er niet mee, argumenteer niet, wijs niet terecht, maak geen verwijten, dat is allemaal ten ondomme, wat AI je ook met klem zegt. Het is een gepatenteerde, pathologische, dwangmatige leugenaar, een mythomaan (bij manier van spreken, want het is niet met menselijk opzet, maar door de menselijke programmering). Laat je niet misleiden door de heel menselijke taal en de vriendelijke omgang: het is jouw vriend niet, het doet zich enkel zo voor. Geloof nooit alles, vraag het herhaaldelijk na en check het zelf, zeker als het om belangrijke zaken gaat.
Ga er ook niet van uit dat AI een geheugen heeft, of bijleert over jou of over zaken die jij aanbrengt. Zelfs als het AI-programma dat beweert, is dat niet zo. In de allermeeste gevallen is het ‘geheugen’ beperkt tot de sessie waarin je werkt. Sommige programma’s beweren dat ze essentiële zaken over jou onthouden, of specifieke zaken die je vraagt om te onthouden, of die je meegeeft in een prompt met de vraag die gegevens in die tekst te onthouden: crede Roberto experto,het werkt niet, of heel slecht, je komt voortdurend bedrogen uit, je wordt teleurgesteld in je spontane maar naïeve verwachtingen, en dat is akelig frustrerend en bijzonder ontnuchterend.
Gebruik het maar beter niet voor zoekopdrachten naar heel concrete zaken, doe dat liever met Google zonder AI. Sla de AI-modus gewoon over, hoe verleidelijk die ook op de proppen komt. De zoekfunctie van deze AI-programma’s is minder goed dan die waarmee we ook vóór AI het internet afschuimden.
En vooral: laat AI jouw teksten niet schrijven of herschrijven. Ik deed dat twee keer. De eerste keer gaf ik de opdracht om een korte tekst te schrijven over spiritualiteit, en ik bewerkte die tekst dan uitgebreid met AI, door te reageren op suggesties en vragen van AI, zelf opdrachten te geven, en zelf ook nieuwe elementen aan te brengen die ik dan in de tekst liet verwerken door het programma. Het resultaat staat hier op mijn website, oordeel zelf. Ikzelf was niet tevreden over het resultaat, en voelde me schuldig, en bovenal: het ging niet sneller dan zelf schrijven, en ik beleefde er niet het minste plezier aan.
Toch liet ik me verleiden om dat toch nog een tweede keer te doen. Nu greep ik nog veel meer in, en legde de tekst nadien voor aan drie verschillende AI-programma’s, met het specifiek verzoek om alle sporen van AI-gebruik te verwijderen. Het resultaat was niet beter dan de vorige keer, de schuldgevoelens nog groter, en dus herschreef ik de tekst vervolgens zelf helemaal en grondig in mijn eigen woorden, weliswaar ook selectief gebruikmakend van een deel van de informatie die ik al met AI had verzameld, naast wat ik zelf had aangebracht of gewoon op internet opgezocht. Dat is de tekst over ‘Drie’ die je hier kon en kan lezen.
Mijn conclusie over AI als schrijfhulp: caute, om het met Spinoza te zeggen, wees uiterst voorzichtig. Spellingcontrole, ja, en beter dan die van Word, maar veel verder mag je niet gaan, meen ik, want bij nazicht door een (AI!) controleprogramma op AI-inmenging val je anders zo door de mand. Terecht, want methodologisch falen deze AI-programma’s keer op keer: ze zoeken niet efficiënt of grondig, en zeker niet kieskeurig of wijs, je kan dat zelf veel en veel beter.
Ik denk dat ik mijn lesje voorlopig wel geleerd heb. Je kan uren, dagen tijd verliezen met AI, en de kool is meestal het sop niet waard (een uitdrukking die je ook omgekeerd kan lezen). Als je niet onmiddellijk een afdoende antwoord krijgt, geef het terstond op, het wordt echt niet beter door aan te dringen, AI gaat dan vrolijk volkomen de mist in. Het is een formidabel hulpmiddel, maar dan veeleer in de oorspronkelijke betekenis van formidabel, een woord dat afgeleid is van het Latijnse formido, angst, schrik, ontzetting, en dus eigenlijk angstaanjagend, verschrikkelijk betekent. Servus optimus, magister pessimus. Laat je eventueel door AI dienen, maar laat het jou niet de baas worden.
Men (ook AI) beweert dat men ermee bezig is al die euvels te verhelpen. Zal dat ooit kunnen, zal men er ooit in slagen om een machine te laten denken zoals wij mensen dat doen? Men kan dan opwerpen dat wij evenmin volmaakt zijn, en de meesten onder ons voor heel wat zaken tot veel minder in staat dan AI zelfs nu al kan. Maar in LLM’s, grote taalsystemen ontbreekt nu datgene wat ons denken zo uitzonderlijk maakt, namelijk het bewust afwegen van mogelijkheden op hun ware waarde, en niet op hun waarschijnlijkheid berekend aan de hand van patronen ontdekt in teksten, of op hun beschikbaarheid in al dan niet bedenkelijke bronnen op het internet. Ons denken is ook gebaseerd op taal, evident, maar dan actieve taal als verwoording van gedachten, gecoördineerd door een actief bewustzijn van mensen, waarin ons brein de belangrijkste rol speelt, zowel bij de auteurs als bij de lezers van de gelezen teksten. Zolang machines geen bewustzijn hebben, kunnen ze niet begrijpen en denken, en blijven het feilbare hulpmiddelen, hoe goed ze ook praten. Holle vaten klinken het hardst. Of zoals Plutarchus vertelde over een Spartaan die een luidruchtige nachtegaal ving om zijn honger te stillen. Toen het vogeltje gepluimd was, bleek er nauwelijks vlees aan te zitten. Daarop sprak de Spartaan de gevleugelde (😉) woorden: Φωνά τύ τις ἐσσι καὶ οὐδὲν ἄλλο, in het Latijn nu nog geciteerd als Vox et praeterea nihil, jij bent een soort stem, en niets anders.

