Kontekst w AI

Kontekst to taka pamięć podręczna modelu AI - ilość informacji, którą może przechowywać i analizować w trakcie jednej sesji rozmowy. Obecne modele AI mają ograniczone okna kontekstu (np. GPT-4 ma około 32k tokenów), dlatego czasami zapominają wcześniejsze części długiej rozmowy lub nie potrafią przetworzyć bardzo dużych dokumentów. Większy kontekst oznacza lepsze zrozumienie i spójność odpowiedzi.