De Chinese Kamer

Je hoort het links en rechts: AI weet niet echt wat het zegt. Maar wat betekent dat nou eigenlijk?

Stel je voor dat je opgesloten zit in een kamertje met een gigantisch Chinees woordenboek. Via een luikje komen er briefjes binnen met vragen in het Chinees. Met het woordenboek weet jij elke keer een perfect antwoord terug te geven.

Voor de buitenwereld spreek je vloeiend Chinees. Maar jij hebt geen idee wat er op die briefjes staat.

Dit is de Chinese Kamer, een gedachte-experiment van filosoof John Searle. En het is een goede beschrijving van wat er gebeurt als je ChatGPT een vraag stelt.

Het model verwerkt symbolen. Het herkent patronen in miljarden zinnen en geeft een statistisch waarschijnlijk antwoord terug. De antwoorden zijn indrukwekkend en zitten vaak vol wijsheid. Maar begrip?

Nee joh. Er is niemand thuis.

Waarom maakt dat uit?

Omdat een systeem dat niet begrijpt ook niet merkt wanneer het fout zit. Het heeft geen alarmbel. Het geeft je een verkeerd antwoord met precies hetzelfde vertrouwen als een goed antwoord.

Dat betekent niet dat AI waardeloos is. Zeker niet. Maar het betekent wel dat jij degene bent die moet begrijpen wat je ermee doet.

De persoon in het kamertje is ijzersterk in het opzoeken. Controleren wat er op het briefje staat, dat moet jij doen.