Kan een machine die au zegt ook pijn voelen?
Deze vraag stelt Rudy Kousbroek in de jaren tachtig in een
essay dat in 1990 werd gepubliceerd in de bundel ‘Einsteins poppenhuis’.
Het is jammer dat Rudy Kousbroek niet meer leeft (hij stierf
in 2010) maar het zou interessant zijn
hoe hij nu na bijna veertig jaar die vraag zou beantwoorden, Rudy Kousbroek
stond erom bekend dat hij een speelse geest had, die de meest krankzinnige vragen
met humor beantwoordde in een doorwrocht essay en dat hij de strijd aanbond met
verspreiders van desinformatie en kunstmatige domheid. Hij had dit gemeen met
een aantal schrijvende generatiegenoten: Henk Hofland -Tegels lichten- W.F. Hermans:
Kan de tijd tekens geven? en Jaap van Heerden - Kan een gelovige machine paus
worden? Al in de jaren tachtig was kunstmatige intelligentie een onderwerp dat kritische
schrijvers bezig hield.
Nu ongeveer 40 jaar wordt de vraag of machines bewustzijn kunnen
hebben nog interessanter omdat de makers van Kunstmatige Intelligentie beweren
dat het niet lang meer zal duren of er is zo’n computergestuurde machine die
bewustzijn heeft. De vraag is dus nu of zo’n machine kan bestaan.
De eerste kwestie is waarom men denkt dat dit met KI
mogelijk is. KI wordt door Wikipedia gedefinieerd als ‘’het nabootsen van
menselijke vaardigheden zoals het aanleren (van iets), redeneren, anticiperen
en plannen om zichzelf automatisch (aan en) bij te sturen. ’En: ‘een superintelligent computersysteem
zou in staat zijn de mens op elk vlak te verslaan met inbegrip van wetenschappelijke
creativiteit, algemene kennis en sociale vaardigheden.’ Dat is nogal wat. Omdat dit vooral
vaardigheden zijn die op het gebied van de taal liggen (kennis verwerven,
redeneren) is het ontwikkelen van een taalmodel van groot belang.
Voor het 'trainen' van AI-systemen worden miljarden
tekstfragmenten en afbeeldingen uit het internet gebruikt en
zonder bronvermelding in de resultaten verwerkt. Hier past even een
persoonlijke noot. Toen ik zeven jaar geleden druk bezig was met het schrijven
van een boek kreeg ik via het correctievenster van Google of Microsoft het
verzoek of ze mijn teksten mochten gebruiken voor onderzoek (welk onderzoek
vermeldden ze niet). Dit was dus voor
wat nu LLM heet: Large Language Model. Dit is ‘een specifieke techniek binnen
kunstmatige intelligentie. Die enorme hoeveelheid tekstdata stelt het model in
staat om allerlei soorten teksten te ‘begrijpen, vragen te beantwoorden, zinnen
af te maken, en nieuwe teksten te generen die menselijk overkomen.’
Door het voortdurend trainen van deze AI modellen (machine learning)
en door de enorme toename van geheugenopslag is Chat GPT de laatste jaren snel
opgekomen; vandaar de hoogmoed van sommige ontwikkelaars dat zij uiteindelijk
een computersysteem kunnen maken dat zich van zichzelf bewust is, dat pijn kan
voelen.
Dat brengt ons bij de tweede kwestie. Wat is bewustzijn?
Daarvoor bekijk ik een op You Tube een opname van twee
colleges van Jacob Jolij. Jolij is cognitief neurowetenschaper aan de Groningse
universiteit en doet onderzoek naar bewustzijn. Het antwoord in eerste instantie is simpel:
mind (geest/bewustzijn) is wat het brein doet; bewustzijn is een product van
onze hersenen, is wat ons tot mens maakt. Jolij vindt dit een beperkte
definitie en wil daarom verder onderzoek doen. Hoe werkt dat met die zenuwcellen en synapsen (wat
het brein doet) en zelfs wat doen dan al die kwantumdeeltjes in ons brein,
wanneer we een bewuste ervaring hebben. Is er een verband tussen wat in ons
brein gebeurt en de toestand van deeltjes in het universum?
In het tweede college probeert Jolij hierop een antwoord te
vinden; hoe bewustzijnservaringen passen in een natuurkundig model. Wat is de
koppeling tussen ons denkvermogen en de kwantummechanica?
Omdat in ons brein allerlei ervaringsdeeltjes (qualia) rondzwerven maken die deel
uit van het universum. Een bepaalde kwantumdeeltjestoestand hoort bij een
bepaalde bewustzijnstoestand, Jolij heeft geprobeerd of een collectieve bewustzijnstoestand
m.n. op festivals (omdat festivalbezoekers een collectieve ervaring delen) invloed
hebben op meetapparatuur door het plaatsen van nummergeneratoren op het
festivalterrein van Lowlands. Heeft de collectieve denkkracht invloed op die gegenereerde getallenreeksen? Er gebeurde wel iets met die
nummergeneratoren, maar de uitkomst van het onderzoek is moeilijk te duiden;
want in een vergelijkbaar onderzoek gebeurde er niets. En: ‘Op scans is dat
bewustzijn niet zichtbaar. Je ziet hersenactiviteit die je kunt relateren aan
wat een onderzoekdeelnemer doet of rapporteert. Maar het is niet de bewuste
ervaring zelf. Die kun je niet meten, die blijft ongrijpbaar.’ Anders gezegd:
Jolij heeft niets aangetoond, dus hadden we onze tijd maar niet verspild aan You
tube filmpjes, maar een boek gelezen, zoals De Maniac van Benjamin Labatut.
Hoewel op de titelpagina staat dat dit een roman is, gaat het over een bestaand
persoon en over een machine (vandaar de c ook in de vertaalde versie) die hij
gebouwd heeft; respectievelijk John von Neumann en de computer, allebei De
MANIAC
Neumann was als geniaal wiskundige al betrokken bij de bij
de bouw van de eerste atoombommen die tegen Japan gebruikt werden ofwel het
Manhattan project in Los Alamos. Gek genoeg komt von Neumann in de film
Oppenheimer niet voor.
‘Een algoritme-technologie zoals het menselijk brein is nog
niet voor vandaag of in de verre toekomst. De kracht van de menselijke
intelligentie is dat mensen razendsnel van gedachten kunnen wisselen en
inspelen op onverwachte situaties. De basishandelingen van een mens worden
automatisch aangestuurd door de hersenen. Zodra iemand een bepaalde
vaardigheid niet bezit, gaat hij nadenken [-] wat leidt tot nieuwe beslissingen
en leervermogen.' Maar ‘Een kunstmatig neuraal netwerk is niet hetzelfde als een
biologisch neuraal netwerk. Een kunstmatig neuraal netwerk wordt met
een technologie gerealiseerd,
terwijl een biologisch neuraal netwerk (zenuwcellen en synapsen) bepaalt hoe
mensen kunnen denken.’ En dan is er nog intuïtie: een ingeving, een vorm
van direct weten zonder dat dit beredeneerd is. Hoe je dat in een logisch
model moet inbouwen is een raadsel.
Het is zoals Rudy Kousbroek is al veertig jaar geleden
schrijft: ‘Van de belangrijkste en karakteristiekste der bewuste mentale
verschijnselen begrijpen wij vrijwel niets. [… ]Kortom, er is geen model voor
het bewustzijn. [i]’
[i] Rudy Kousboek: Einsteins
poppenhuis. In de gelijknamige bundel, Meulenhoff, 1990. De overige citaten
komen van Wikipedia.
