Een Context Window is het 'werkgeheugen' van een AI-taalmodel zoals GPT-4, Claude of andere Large Language Models (LLMs). Het verwijst naar de maximale hoeveelheid tekst die het model tegelijkertijd kan verwerken, begrijpen en gebruiken om antwoorden te genereren. Deze capaciteit wordt gemeten in tokens - kleine teksteenheden die woorden, woorddelen of karakters kunnen zijn.
Stel je het voor als het korte termijn geheugen van een persoon: alles wat binnen het context window valt, kan het model 'onthouden' en gebruiken. Zodra de conversatie of tekst langer wordt dan het context window, 'vergeet' het model de oudste informatie.
Hoe werkt een Context Window?
Wanneer je met een AI-model communiceert, bestaat de context uit:
- Systeem instructies: De basisregels en rol die het model moet aannemen
- Conversatiegeschiedenis: Alle eerdere berichten in het gesprek
- Huidige prompt: Je actuele vraag of opdracht
- Gegenereerde output: Het antwoord dat het model creëert
Al deze elementen samen mogen niet groter zijn dan het maximale context window. Moderne AI-modellen hebben context windows variërend van enkele duizenden tot honderden duizenden tokens. GPT-4 heeft bijvoorbeeld varianten met 8K, 32K of 128K tokens, terwijl Claude 3 tot 200K tokens aankan.
Tokens vs. Woorden
Een belangrijke nuance is dat tokens niet gelijk zijn aan woorden. Gemiddeld komt één token overeen met ongeveer 0,75 woord in het Nederlands. Een context window van 8.000 tokens kan dus ongeveer 6.000 Nederlandse woorden bevatten - vergelijkbaar met een kort rapport of 10-15 pagina's tekst.
Waarom is de grootte belangrijk?
De grootte van het context window bepaalt direct wat je met een AI-model kunt doen:
- Lange documenten analyseren: Grotere windows maken het mogelijk om complete rapporten, artikelen of zelfs boeken in één keer te verwerken
- Uitgebreide gesprekken: Meer context betekent dat het model zich langer details uit het gesprek herinnert
- Complexe taken: Bij code generatie, vertaling of contentcreatie kan meer context leiden tot consistentere en nauwkeurigere resultaten
- Kosten: Grotere context windows kosten vaak meer per API-aanroep
