BM25 vs embeddings vs rerankery: stack wyszukiwania w 2026 roku
Tłumaczenie automatyczne Ten artykuł został automatycznie przetłumaczony z angielskiego oryginału.
Dobry stack wyszukiwania działa jak lejek. Tanie metody najpierw zbierają szeroki zestaw kandydatów, a droższe metody później dopracowują znacznie mniejszy zbiór. Problemy często zaczynają się wtedy, gdy zespoły zastępują wyszukiwanie dokładnego tekstu embeddings, zamiast łączyć oba podejścia.
Zacznij od filtrów i BM25 — skutecznej metody rankingu dokładnego tekstu. Dodaj dense retrieval, aby znajdować dopasowania semantyczne, a następnie połącz obie listy wyników za pomocą Reciprocal Rank Fusion (RRF) lub podobnej metody. Wykonaj reranking krótkiej listy za pomocą cross-encodera. Używaj LLM tylko dla niewielkiego końcowego zbioru, w przypadkach, w których wzrost jakości uzasadnia dodatkowe opóźnienie i koszt.
Ostatni przegląd: 2026-08-10. Stack jest oceniany na podstawie recall, wzrostu jakości rankingu, poprawności względem zasad, p95 latency oraz kosztu dla rzeczywistych wycinków zapytań, a nie na podstawie jednej uniwersalnej liczby kandydatów.
Zalecany stack
| Etap | Domyślne rozwiązanie | Zadanie |
|---|---|---|
| Filtrowanie | Filtry ustrukturyzowane | Egzekwowanie tenantów, uprawnień, produktu, języka, czasu i dostępności. |
| Wyszukiwanie leksykalne | BM25 | Dokładne nazwy, identyfikatory, kody błędów, terminy prawne i tokeny o wysokiej precyzji. |
| Dense retrieval | Embeddings | Synonimy, parafrazy, nieprecyzyjne intencje i recall semantyczny. |
| Fuzja | Reciprocal Rank Fusion lub kompozycja retrieverów z wagami | Łączenie kandydatów sparse i dense bez założenia, że ich score’y są porównywalne. |
| Reranking | Cross-encoder | Zmiana kolejności krótkiej listy z ograniczeniem latency, z uwzględnieniem interakcji zapytanie–dokument. |
| Końcowa precyzja | Reranker LLM lub model odpowiedzi | Rozstrzyganie subtelnych kwestii trafności dopiero po znacznym zmniejszeniu listy. |
| Ewaluacja | Recall@k, nDCG, MRR, etykiety kliknięć, etykiety nadane przez ludzi | Udowodnienie, że każdy etap poprawia wynik poprzedniego. |
Domyślne rozwiązania dla przypadków użycia
| Powierzchnia produktu | Dobre rozwiązanie domyślne | Dlaczego |
|---|---|---|
| Wyszukiwanie w dokumentacji | BM25 plus embeddings plus cross-encoder | Znaczenie mają zarówno dokładne nazwy API, jak i pytania semantyczne. |
| Pobieranie dla RAG | Hybrid retrieval plus reranker plus kontrole cytowań | Brak dowodów jest zwykle gorszy niż wolniejsze generowanie. |
| Wyszukiwanie produktów | Filtry leksykalne plus hybrid retrieval plus cechy biznesowe | Znaczenie mają dostępność, cena, popularność i dokładne facety. |
| Wyszukiwanie zgłoszeń | Hybrid retrieval plus świeżość i metadane zgłoszeń | Znaczenie mają zarówno podobne sformułowania, jak i aktualna polityka. |
| Wewnętrzna baza wiedzy | Baseline BM25, a następnie dense retrieval na podstawie logów zapytań | Najpierw uzyskaj mierzalność, zanim dodasz koszt modelu. |
| Wyszukiwanie prawne lub compliance | Baseline leksykalny plus ścisłe filtry, a następnie ostrożne rozszerzanie semantyczne | Zarówno false positives, jak i false negatives są kosztowne. |
Dlaczego BM25 nadal należy do stacku
Embeddings znajdują tekst o podobnym znaczeniu, ale nie zastępują niezawodnie dokładnego dopasowania. Kody błędów, nazwy funkcji, SKU produktów, sformułowania prawne i imiona często przekazują intencję właśnie dzięki dokładnej pisowni. BM25 pozostaje mocnym baseline’em, ponieważ premiuje terminy rzeczywiście wpisane przez użytkownika.
Dense retrieval zwiększa recall, gdy użytkownicy nie znają dokładnego słownictwa. Wybór nie sprowadza się do BM25 albo embeddings. Używaj BM25 do recall leksykalnego, embeddings do recall semantycznego, a fuzji do ich połączenia.
Kiedy dodać reranker
Dodaj cross-encoder, gdy trafne dokumenty trafiają do zestawu kandydatów, ale zajmują w nim zbyt niskie pozycje. Liczbę kandydatów dobierz na podstawie zmierzonego recall i latency; top 50 to przydatny eksperyment, a nie uniwersalny próg.
Nie dodawaj rerankera LLM przed cross-encoderem, chyba że zestaw kandydatów jest bardzo mały. Ocena trafności musi być również wystarczająco subtelna, aby uzasadniać koszt. Reranking LLM może pomóc, ale jest droższy i wolniejszy. Porównuj go z tańszym rerankerem.
Sekwencja ewaluacji
- Oznacz rzeczywiste zapytania obejmujące istotne intencje, języki, uprawnienia i koszty błędów. Zacznij od małego zbioru, a następnie rozszerzaj go, dopóki wycinki i niepewność nie będą wystarczające do podjęcia decyzji.
- Zmierz BM25 w izolacji.
- Dodaj dense retrieval i zmierz zmianę recall.
- Dodaj fuzję i zmierz nDCG oraz Recall@k.
- Dodaj reranking cross-encoderem i zmierz Precision@1 oraz nDCG.
- Dodaj reranking LLM tylko wtedy, gdy poprawia jakość po uwzględnieniu kosztu i latency.
- Monitoruj metryki produkcyjne: odsetek wyników zerowych, odsetek reformulacji, click-through rate, korekty odpowiedzi, p95 latency i koszt.
Dalsza lektura
- Search Ranking Stack zawiera pełny przewodnik po implementacji.
- RAG Evaluation Metrics wyjaśnia ewaluację retrieval i cytowań.