Particulièrement pour le traitement du langage naturel & l’apprentissage automatique, elle fait référence à un nombre de tokens entourant un mot que le modèle d’IA concidère lorsqu’il tente de traiter le mot.
Analogue à une petite fenêtre ou cadre à traavers lequel le modèle d’IA observe afin de vois les mots voisins.
Le but du contextz et de mieux comprendre la significatio et utilisation du mot en rapport à ceux autour.
La taille de la fenêtre contextuelle est ajustable pour la tâche et le performances (e.g. 2 mots avant et aprés). Si elle est trop grande fournie plus d’info, de bruit et détails inutiles. Une petite peu ne pas capturer assez de contexte pour une précise compréhension.
C’est crucial pour la traduction automatique, l’analyse de sentiments, le résumé de texte.