Ship Shift · Glosario

Context (finestra de)

La finestra de context és el límit de tokens (text) que un model pot processar d'una vegada: prompt, historial i documents recuperats inclosos.

Actualitzat: 17/11/2026

Consultoría de IA aplicada

Definició

La finestra de context és el límit de tokens (text) que un model pot processar d'una vegada: prompt, historial i documents recuperats inclosos.

Explicació

Si intentes enganxar un PDF de 200 pàgines sencer, o es trunca o el cost es dispara. Per això RAG recupera només trossos rellevants. Una finestra gran ajuda, però no substitueix una bona recuperació: el model pot «perdre» el detall al mig del prompt (efecte d'atenció desigual).

En disseny de producte contem tokens de sistema, d'eines i de conversa. Resumir historial, citar pàgines i prioritzar fragments amb score alt manté la qualitat. També afecta latència i preu per inferència.

Quan el client exigeix privacitat on-prem, el model open source triat pot tenir finestra menor: cal adaptar l'arquitectura, no fingir que «hi cap tot».

Exemple en empresa

Un assistent de plecs no carrega el plec sencer: indexa per seccions, recupera les clàusules de terminis i garanties i respon citant aquestes pàgines dins de la finestra disponible.

Termes relacionats

Com ho treballem a Ship Shift

No publiquem definicions aïllades: cada terme del glossari encaixa amb un servei o una solució que ja despleguem. Si el teu equip està avaluant Context (finestra de), partim del procés real (dades, canals, ERP) i només després triem el model o l'eina. Pots continuar a Assistent IA amb els teus documents o explicar-nos el cas a contacte.

Assistent IA amb els teus documents · ← Tornar al glossari A–Z