Context (finestra de)
La finestra de context és el límit de tokens (text) que un model pot processar d'una vegada: prompt, historial i documents recuperats inclosos.
Actualitzat: 17/11/2026
Definició
La finestra de context és el límit de tokens (text) que un model pot processar d'una vegada: prompt, historial i documents recuperats inclosos.
Explicació
Si intentes enganxar un PDF de 200 pàgines sencer, o es trunca o el cost es dispara. Per això RAG recupera només trossos rellevants. Una finestra gran ajuda, però no substitueix una bona recuperació: el model pot «perdre» el detall al mig del prompt (efecte d'atenció desigual).
En disseny de producte contem tokens de sistema, d'eines i de conversa. Resumir historial, citar pàgines i prioritzar fragments amb score alt manté la qualitat. També afecta latència i preu per inferència.
Quan el client exigeix privacitat on-prem, el model open source triat pot tenir finestra menor: cal adaptar l'arquitectura, no fingir que «hi cap tot».
Exemple en empresa
Un assistent de plecs no carrega el plec sencer: indexa per seccions, recupera les clàusules de terminis i garanties i respon citant aquestes pàgines dins de la finestra disponible.
Termes relacionats
Com ho treballem a Ship Shift
No publiquem definicions aïllades: cada terme del glossari encaixa amb un servei o una solució que ja despleguem. Si el teu equip està avaluant Context (finestra de), partim del procés real (dades, canals, ERP) i només després triem el model o l'eina. Pots continuar a Assistent IA amb els teus documents o explicar-nos el cas a contacte.
Assistent IA amb els teus documents · ← Tornar al glossari A–Z