Po co dzielimy dokument na fragmenty?

Cały dokument może być za długi, żeby wygodnie go wyszukać i przekazać modelowi. Dlatego dzielimy go na mniejsze fragmenty. Dobrze wybrany fragment powinien zachować sens, np. całą zasadę razem z wyjątkiem, a nie losowe pół zdania.

Przykład: w dużym regulaminie urlopowym pytanie dotyczy jednego rodzaju wolnego. Lepiej dostarczyć właściwą sekcję niż kilkadziesiąt niepowiązanych stron. Zbyt małe fragmenty gubią kontekst, a zbyt duże dodają niepotrzebny tekst. Czasem sąsiednie fragmenty częściowo się pokrywają, żeby nie zgubić informacji na granicy. To także zwiększa koszt i liczbę podobnych wyników.