Het verankeringsprobleem

Een klant zegt “we willen een dashboard.” Je bouwt een dashboard. Ze zien het en zeggen: “Ja, maar niet zo.”

Dat is het verankeringsprobleem.

Woorden zijn symbolen. Ze verwijzen naar iets, maar dat iets is voor iedereen anders. “Dashboard” betekent voor mij één ding, voor jou iets anders, en voor een klant weer iets anders. We gebruikten hetzelfde woord en bedoelden drie verschillende dingen.

AI heeft hetzelfde probleem, maar erger. Een taalmodel verwerkt symbolen zonder ze ooit te verankeren aan de werkelijkheid. Het weet wat “pijn” betekent in de context van miljoenen zinnen. Maar het heeft nooit pijn gehad.

Een model dat nooit iets heeft meegemaakt, kan alleen maar gissen wat woorden betekenen. Wij ook trouwens. Maar wij kunnen tenminste doorvragen.