Computers zijn weliswaar elektronische machines, maar zijn in wezen mechanisch. In principe zou alles wat met een digitale computer kan, ook gerealiseerd kunnen worden met een volledig mechanisch systeem. Een verschil is weliswaar, naast de noodzakelijke afmetingen, de programmeerbaarheid. Voor elk software programma zou een nieuw mechanisch ontwerp moeten worden gemaakt. Beperken we ons echter tot een enkel programma dan is de functionaliteit volledig mechanisch gedefinieerd en daardoor deterministisch.
Bij het openen van een computer zijn weliswaar vele verschillende onderdelen te zien, maar deze hebben vooral te maken met de stroom toevoer, de koeling en de verbindingen met de buitenwereld: toetsenbord en scherm. Uiteindelijk bestaat de computer vooral uit een groot aantal identieke elementen, te vergelijken met tweestanden-schakelaars. Deze staan in een bepaalde beginstand en kunnen tijdens de uitvoering van een programma van stand wijzigen zoals in een knikkerbaan sommige klepjes door een rollende knikker verzet kunnen worden.
Omdat het begrip emergentie betrekking heeft op een grote verzameling gelijksoortige, elkaar beïnvloedende elementen, kan de vraag opkomen of een computer ook emergent gedraag kan vertonen. Dit zou betekenen dat zijn uitkomsten van het hele systeem niet direct te verklaren zijn uit de eigenschappen van de basiselementen. Vanuit een bepaald gezichtspunt is dit waar. We gebruiken immers vaak een computer omdat we een probleem in zijn totaliteit niet kunnen overzien, maar alleen de wetmatigheden van alle kleine deelproblemen. Resultaten kunnen daarom verrassend zijn. Hat kan zijn dat we daar juist naar op zoek zijn.
Of dit emergentie is, is een kwestie van definitie en ook wel van het resultaat. Bij een gecompliceerd programma kan het doel zijn om nog slecht bekende natuurverschijnselen te onderzoeken. Een verrassend, niet helemaal te begrijpen eindresultaat kan echter ook het gevolg zijn van niet goed doordachte software. Met emergentie wordt in de regel bedoeld dat er onvermoed verschijnsel van een hogere orde zich openbaart dat niet uit de samenstellende delen te verklaren is.
De klassieke vraag over emergentie bij computers is of daarbij bewustzijn kan optreden. Hierbij zijn een aantal kanttekeningen te maken.
- Emergentie heeft betrekking op waargenomen eigenschappen. Waarnemers bepalen de eigenschappen van objecten. Sommige eigenschappen, zoals gewicht en grootte kunnen met instrumenten worden gemeten. Zij zijn niet afhankelijk van een menselijke waarneming. Bij het bewustzijn is dit anders.
- Over mijn bewustzijn kan ik in eerste instantie alleen zelf oordelen. Het kan zich manifesteren in bepaalde karaktertrekken, uitspraken of besluiten, maar het bewustzijn zelf is voor de buitenwereld niet toegankelijk.
- Het moeilijke probleem van bewustzijn bij materiële objecten is dat niet goed is te begrijpen hoe het eenvoudigste element, een atoom, of bij een computer een bit of een transistor, bewustzijn zou kunnen hebben. Door bewustzijn als een emergente eigenschap te verklaren wordt dit probleem in feite omzeild of verschoven.
- Binnen de stroming van het idealisme definiëren sommige filosofen zoals Kastrup het bewustzijn als de basis van de totale schepping. In deze opvatting heeft alles bewustzijn, echter van verschillende niveaus en kwaliteiten.
- Mede gegeven de vorige gezichtspunten is de vraag of computers bewustzijn hebben een irrelevante vraag. Waar het om gaat is hoe zij zich aan ons manifesteren, en of aan deze manifestatie de menselijke waarnemer bewustzijn ervaart.
Voortbordurend op dit laatste punt, moeten we het eigenlijk over computer programma’s hebben en de gegevens die zij analyseren, niet over computers zelf. Verschillende programma’s kunnen zeer verschillende eigenschappen hebben on zich op totaal andere wijzen aan ons openbaren. Zoals eerder opgemerkt, de wijze waarop iets zich manifesteert hangt ook nog sterk van de context af. Interessant op dit moment zijn chatbots als ChatGPT. Een collega voerde het volgende gesprek:
Theo:
Jans moeder heeft drie kinderen, Kwik, Kwek en …?
ChatGPT:
Het derde kind heet Kwak. Het is een bekende raadselvraag waarbij de meeste mensen geneigd zijn om ‘Kwak’ te vergeten en te denken dat het derde kind een andere naam heeft.
Theo:
Nee, het derde kind heet Jan, Ik zei toch “Jans moeder”.
ChatGPT:
Mijn excuses, je hebt gelijk! Ik heb de vraag verkeerd begrepen. Het derde kind heet inderdaad Jan, omdat de vraag verwijst naar “Jans moeder” en niet naar een derde kind met een andere naam. Dank je wel voor het corrigeren van mijn fout.
Theo stuurde mij deze conversatie. Ik probeerde het de volgende dag ook en vroeg ChatGPT:
Bob:
Piets moeder heeft drie kinderen, Kwik, Kwek en …?
ChatGPT:
Het antwoord op deze klassieke raadsel is “Piet”. Dus de drie kinderen zijn Kwik, Kwek en Piet, waar Piet degene is wiens moeder de vraag wordt gesteld.
Het programma heeft dus bijgeleerd. De logica van het laatste antwoord is niet helemaal correct. De vraag wordt niet aan Piets moeder gesteld, maar over Piets moeder. Dit komt vermoedelijk omdat het programma is gebaseerd is op correlaties tussen de woorden van relevante teksten. Dit is zo goed gedaan dat er fatsoenlijke zinnen ontstaan. De inhoudelijke logica wordt echter niet gecheckt. ChatGPT weet niet waar ‘hij’ het over heeft De naïve lezer kan zich gemakkelijk vergissen en niet in de gaten hebben dat hij niet met een mens te maken heeft.
Zoals eerder gesteld, emergente eigenschappen zijn manifestaties van een complex systeem in zijn context. Deze context is in dit geval een zeer grote verzameling van teksten. Computer componenten hebben geen verborgen eigenschappen. Woorden kunnen echter eigenschappen hebben die niet formeel in woordenboeken en encyclopedieën zijn vastgelegd, maar die wel in die verzameling gevonden kunnen worden. Hierdoor ontstaan levendig ogende zinnen en geen dode formele teksten. Misschien kan worden gesteld dat we hier een manifestatie van de taalgeest zien.
