Retrieval Augmented Generation (RAG) pozwala modelowi LLM odpowiadać na pytania w oparciu o Twoje własne, prywatne dane (pliki PDF, notatki, e-maile).
Jak to działa
- Wczytanie: Twoje dokumenty tekstowe są dzielone na małe fragmenty (chunki).
- Embedding: każdy fragment jest zamieniany na wektor (listę liczb) reprezentujący jego znaczenie.
- Wyszukiwanie: gdy zadajesz pytanie, system znajduje najbardziej podobne fragmenty.
- Generowanie: fragmenty są wysyłane do LLM wraz z Twoim pytaniem.
Po co używać RAG?
- Dokładność: ogranicza halucynacje, osadzając AI w faktach.
- Prywatność: Twoje dane pozostają lokalnie.
- Kontekst: AI zna rzeczy, których nie było w danych treningowych (np. szczegóły Twojego konkretnego projektu).
Co dalej
Ta strona wyjaśnia, czym jest RAG. Aby użyć go na własnych plikach: przepis Chat with your PDFs privately (po angielsku) konfiguruje go w aplikacji, bez kodu; Kompletny lokalny pipeline RAG pokazuje, jak zbudować to samo samodzielnie w Pythonie.