Harari is een veel gelezen en geciteerd auteur. Hij schrijft en spreekt in duidelijke taal over de mogelijke ontwikkeling van de mensheid op basis van de geschiedenis. Hierbij komt vooral de voortgang van de techniek aan de orde. Als geschiedkundige begeeft hij zich op glad ijs, zoals hij zelf weet en er ook voor waarschuwt. Ten onrechte wordt hij, tot zijn spijt, regelmatig aangehaald als expert, bijvoorbeeld op het gebied van de kunstmatige intelligentie. Omdat hij helder en boeiend schrijft, een groot publiek heeft en vaak wordt aangehaald is het van belang hem te volgen als je de rol van de techniek in de cultuur wilt begrijpen.
We hebben eerder een persoonlijke impressie gegeven van een vorig boek, Homo Deus over computer intelligentie. Zijn nieuwste boek, Nexus, gaat over hetzelfde onderwerp, maar geactualiseerd naar de meeste recente ontwikkelingen. Dit is terecht, omdat er tussen 2016 en 2024 een revolutionaire ontwikkeling heeft plaatsgevonden. Met behulp van kunstmatige intelligentie (AI, artificial intelligence) kunnen er nu binnen enkele seconden geavanceerde vragen worden beantwoord, puzzels opgelost, computer programma’s geschreven of gedichten worden gemaakt. Ter illustratie hierbij een antwoord van ChatGPT, een op AI gebaseerde chatbox, naar aanleiding van de vraag: “Hoe verschilt het nieuwste boek van Harari, Nexus, van zijn vorig boek, Homo Deus?“
In Homo Deus verkent Yuval Noah Harari de toekomst van de mensheid, waarbij hij zich richt op opkomende technologieën, de evolutie van menselijke waarden en de mogelijke richting van de beschaving. Het boek biedt een toekomstvisie, waarbij vragen over kunstmatige intelligentie, biotechnologie en de betekenis van leven centraal staan.
In Nexus, zijn nieuwste boek, verschuift de focus naar de verbindingen tussen mensen, technologie en het milieu. Harari behandelt actuele thema’s zoals sociale netwerken, ecologische uitdagingen en de impact van technologie op menselijke relaties.
De belangrijkste verschillen zijn dus de focus en thematiek: terwijl Homo Deus vooral een toekomstverkenning biedt, legt Nexus meer nadruk op de interconnecties en de gevolgen van deze ontwikkelingen voor de samenleving en de wereld om ons heen. Beide boeken zijn echter doordrenkt met Harari’s kenmerkende analytische stijl en zijn vermogen om grote ideeën toegankelijk te maken.
Ogenschijnlijk lijkt het dat ChatGPT op intelligente wijze beide boeken heeft bestudeerd en op grond daarvan bovenstaande analyse presenteert. Dit is onjuist, zoals hieronder zal worden uiteengezet. In Nexus en in de publiciteit er om heen wordt niet goed duidelijk gemaakt waarop de vermeende intelligentie is gebaseerd. Op grond van reacties als hierboven heeft het er alle schijn van dat een op kunstmatige intelligentie gebaseerde chatbox het vermogen heeft complexe problemen zelfstandig te doorgronden. Hij schijnt een mening te hebben, kan adviezen geven, en lijkt zelfs creatief te zijn. Als we de nuttige of goede kanten van dergelijke, in wezen mechanische, stukken gereedschap willen gebruiken, moeten we proberen te begrijpen waarop de werking in principe is gebaseerd. Hieronder een korte uitleg van een aspect dat vaak wordt genegeerd.
Intelligentie is het vermogen om vanuit feiten begrippen af te leiden en vervolgens de relatie tussen verschillende begrippen te analyseren. Het eerste kan ontstaan uit een veralgemenisering of abstractie van gelijksoortige waarnemingen. Het tweede kan leiden tot een structuur in de verzameling begrippen, bijvoorbeeld tot een logisch schema.
In kunstmatige intelligentie zijn begrippen gereduceerd tot op basis van statistiek gevonden patronen. Relaties worden teruggebracht tot op dezelfde manier gevonden correlaties. Hierbij kunnen gemakkelijk fouten ontstaan omdat de basiskennis van de context ontbreekt: de beruchte hallucinaties, gebrek aan fysische en fysiologische kennis in afbeeldingen e.d. Dit moet expliciet met door mensen ontwikkelde algoritmen worden gecorrigeerd, zoals bijvoorbeeld dat een stoel t.g.v. de zwaartekracht op de grond staat en dat een menselijke hand geen zes vingers heeft.
Harari lijkt te suggereren dat AI werkelijk begrippen kan creëren en hun samenhang kan analyseren. Dit is onjuist. AI is volledig gebaseerd op een statistiek van gevonden feiten: de inhoud van internet sites. Correlaties tussen teksten of tussen geannoteerde afbeeldingen leiden tot patronen die weer aan een waarschijnlijke tekst worden gekoppeld als een samenvatting. Talen hebben een structuur, een consistente wijze waarop begrippen worden gekoppeld. Deze structuur wordt afgebeeld op de statistiek van bestaande teksten en die wordt door AI benut om een nieuwe tekst te genereren.
De stap van correlatie naar bijvoorbeeld de vaststelling van oorzaak en gevolg is verre van triviaal. Hiervoor moeten de bekende relaties tussen de beide onderzochte waarnemingen en andere, in de context relevante fenomenen in kaart zijn gebracht en worden doorzien. De structuur van de taal kan hierbij helpen. Ogenschijnlijk kan een met een chatbox gecreëerde tekst daardoor intelligent lijken, het is echter geheel gegenereerd op basis van statistiek in bestaande teksten.
Het bovenstaande antwoord van ChatGPT is niet gebaseerd op een eigen ‘intelligente’ analyse van de beide boeken, maar op een statistische analyse van op het internet gevonden besprekingen hiervan. De vermeende intelligentie is niet kunstmatig ontstaan in een computer, maar het resultaat van gevonden menselijke redeneringen en de structuur van de taal.
De eerste versies van de AI chatboxen leden aan veel mankementen, zoals de hallucinaties. Deze moesten via een nabewerking van het antwoord worden verwijderd. Onvolkomenheden blijven echter optreden omdat mensen altijd vragen kunnen stellen over onderwerpen die slecht of niet gedocumenteerd zijn op het internet. hierbij een voorbeeld. Ik stelde ChatGPT de volgende strikvraag: Is de roman van Vestdijk: “Bericht uit het hiernamaals” gebaseerd op die van Mulisch: “De ontdekking van de hemel?”. Dit is het verkregen antwoord:
“Bericht uit het hiernamaals” van Simon Vestdijk en “De ontdekking van de hemel” van Harry Mulisch zijn beide belangrijke werken in de Nederlandse literatuur, maar ze zijn niet direct gebaseerd op elkaar. Vestdijk’s roman, gepubliceerd in 1950, behandelt thema’s als de dood en het hiernamaals, en biedt een psychologisch en filosofisch perspectief op het leven na de dood.
Mulisch’s “De ontdekking van de hemel,” gepubliceerd in 1992, verkent thema’s als religie, de mensheid en de verbinding tussen het aardse en het goddelijke, met een complex verhaal dat zich over verschillende tijdperken uitstrekt.
Hoewel beide romans zich bezighouden met grote existentiële vragen, zijn ze op hun eigen manier uniek en weerspiegelen ze verschillende schrijfstijlen en thematische benaderingen. Er zijn geen directe invloeden of een basis voor een vergelijking die zou suggereren dat de ene roman op de andere is gebaseerd.
We krijgen mooie, korte karakteristieken, samengesteld uit wat er op het internet te vinden is. De jaren van verschijning worden gegeven, maar de conclusie dat het vroeger verschenen boek van Vestdijk onmogelijk gebaseerd kan zijn op dat van Mulisch wordt niet getrokken. Hiervoor is een zelfstandige redenering nodig die niet direct uit beschikbare internet teksten volgt.
Een dergelijk defect kan worden hersteld door aan ChatGPT een extra algoritme toe te voegen, dat eerst nagaat of de vraag een tijdsrelatie bevat en vervolgens expliciet naar het antwoord zoekt. Op die manier wordt er menselijke kennis aan de chatbox toegevoegd. Dit gebeurt in de diverse chatboxen voortdurend n.a.v. tekortkomingen als deze. Het resultaat is daardoor een vergaarbak van op incidenten gebaseerde “verbeteringen” die op een gegeven moment met elkaar kunnen conflicteren. Het zijn afzonderlijke stukjes menselijke kennis die niet geworteld kunnen zijn in een centrale entiteit die de consistentie moet bewaken. Hoe zou die ook kunnen ontstaan?
AI houdt ons daardoor een gescatterde spiegeling voor van wat de mensheid op het internet van zichzelf laat zien. Er is geen mening, analyse of bewustzijn, anders dan wat de mens in de ondernatuur achterlaat. Wat wij daar met zijn allen aan positiviteit, inzichten, kennis, misvattingen en negativiteit achterlaten, vindt de enkeling. misvormd, mede afhankelijk van zijn vraagstelling, via een chatbox terug.
Uit de geraadpleegde teksten van, en interviews met Harari blijkt dat hij de werking van AI niet op de hier geschetste wijze waardeert. Veelvuldig vinden we frasen als “… de computer denkt …”, “… het netwerk besluit …”. computers zouden “instrumenten kunnen creëren …. die alleen door andere computers begrepen kunnen worden”. Computers denken niet, besluiten niet, creëren niet en begrijpen al helemaal niet. Het zijn de resultaten van door mensen gecreëerde algoritmen gevoed met door mensen ter beschikking gestelde afbeeldingen en teksten die ten onrechte als zodanig worden geïnterpreteerd.
Omdat Harari een veelgelezen auteur en frequent uitgenodigde spreker is, in feite een influencer, is het ernstig te betreuren dat hij een volstrekt verkeerd beeld van AI verspreidt. Hij suggereert dat AI tegenover de mensheid kan gaan staan, terwijl het een slechts door menselijke tekortkomingen vertekend en eenzijdig beeld van onze eigen inzichten en vermogens laat zien. Het gelijk van Harari is dat het een harde noodzaak is dat wij ons op een door AI gedomineerde toekomst moeten voorbereiden. Zijn ongelijk is dat hij niet lijkt in te zien dat AI geen zelfstandige entiteit is die kan begrijpen en besluiten, maar uitsluitend een uitvergrootte en door onszelf misvormde kant van de mensheid toont. Van wat getoond wordt kunnen wij leren en onszelf verbeteren. Wij kunnen AI gaan benutten als we hierin voldoende zijn geslaagd en de werking hebben begrepen. Tot die tijd moeten wij er zeer voorzichtig mee omgaan.
