Kontekst w AI

Kontekst to taka pamięć podręczna modelu AI - ilość informacji, którą może przechowywać i analizować w trakcie jednej rozmowy. Obecne modele AI mają ograniczone okna kontekstu (około 200k tokenów), dlatego czasami zapominają wcześniejsze części długiej rozmowy lub nie potrafią przetworzyć bardzo dużych dokumentów. Większy kontekst oznacza lepsze zrozumienie i spójność odpowiedzi.