RAG, czyli asystent, który zna dokumenty Twojej firmy

Wyobraź sobie pracownika, który przeczytał wszystkie dokumenty w Twojej firmie. Procedury, umowy, instrukcje, regulaminy, historię zgłoszeń serwisowych, archiwalne oferty, protokoły z ustaleń. Pamięta każdy z nich i na każde pytanie odpowiada w kilka sekund — zawsze podając, skąd wziął odpowiedź. Taki pracownik nie istnieje, ale dokładnie to robi asystent wiedzy oparty o technologię RAG, czyli Retrieval-Augmented Generation.

Problem, który RAG rozwiązuje, zna każdy, kto próbował użyć publicznego chatbota do pracy z firmową wiedzą. Model językowy zna internet, ale nie zna Twojej firmy. Nie wie, jakie obowiązują procedury, co napisano w umowie z kluczowym klientem ani jak rozwiązano podobne zgłoszenie pół roku temu. Co gorsza — gdy nie zna odpowiedzi, chętnie ją zmyśli. Brzmi przekonująco, ale jest bezwartościowe, a czasem szkodliwe.

RAG działa inaczej i mechanizm jest prostszy, niż brzmi nazwa. Zamiast trenować model na firmowych danych — co jest drogie, powolne i ryzykowne — system robi dwie rzeczy. Najpierw wyszukuje w Twoich dokumentach fragmenty, które pasują do zadanego pytania. Potem przekazuje te fragmenty modelowi językowemu z prostym poleceniem: odpowiedz, opierając się wyłącznie na tych materiałach. Efekt? Odpowiedzi oparte na faktach z Twojej firmy, z cytowaniem źródeł, bez halucynacji. A gdy dokument się zmieni, wystarczy go zaktualizować w repozytorium — żadnego ponownego trenowania, żadnych kosztów aktualizacji modelu.

Żeby to uczynić bardziej namacalnym, prześledźmy jedno zapytanie od początku do końca. Pracownik pyta: „Jaka jest procedura zwrotu towaru dla klienta instytucjonalnego?”. System zamienia pytanie na reprezentację semantyczną i równolegle szuka fraz kluczowych. W ułamku sekundy znajduje dziesięć najbardziej pasujących fragmentów z regulaminu, procedury działu handlowego i dwóch historycznych zgłoszeń. Re-ranker wybiera z nich trzy najtrafniejsze. Model językowy dostaje te trzy fragmenty i układa zwięzłą odpowiedź krok po kroku, z odnośnikami do konkretnych dokumentów i paragrafów. Pracownik klika źródło i widzi oryginał. Całość trwa krócej, niż zajęłoby otwarcie pierwszego pliku z dysku sieciowego.

Taka konstrukcja ma jeszcze jedną zaletę, którą doceniają działy prawne i audytorzy: odpowiedź asystenta da się zawsze rozbić na czynniki pierwsze. Widać, które dokumenty zostały użyte, w jakiej wersji i kiedy. Gdy okaże się, że procedura była nieaktualna, wiesz dokładnie, co poprawić — i poprawiasz to w dokumencie źródłowym, a nie w czarnej skrzynce modelu. To zasadnicza różnica względem systemów, które „jakoś” odpowiadają, ale nikt nie potrafi wyjaśnić, skąd wzięła się konkretna odpowiedź.

Kluczowym elementem takiego systemu jest wyszukiwarka, i to ona w dużej mierze decyduje o jakości odpowiedzi. W praktyce wdrażamy asystentów m.in. na Apache SOLR, łącząc dwa podejścia: klasyczne wyszukiwanie słów kluczowych (BM25), które świetnie radzi sobie z dokładnymi frazami, numerami umów czy nazwami własnymi, oraz wyszukiwanie semantyczne na wektorach, które rozumie sens pytania nawet wtedy, gdy użytkownik używa innych słów niż autor dokumentu. Połączenie obu daje wyniki, których żadne z nich osobno nie osiąga. Na końcu łańcucha pracuje jeszcze re-ranker, który porządkuje znalezione fragmenty od najbardziej trafnych.

Dlaczego akurat SOLR? Bo to dojrzała, otwarta technologia, którą wiele firm już ma w swojej infrastrukturze — i to ważna informacja: jeśli używasz SOLR-a do wyszukiwania, nie musisz kupować nowej bazy wektorowej, żeby zbudować asystenta. Dodajemy warstwę semantyczną do tego, co już działa. Gdy SOLR-a nie ma, dobieramy narzędzie do skali i wymagań — Qdrant, pgvector albo Elasticsearch. Zasada jest jedna: technologia ma pasować do Twojego środowiska, a nie odwrotnie.

W firmowym środowisku równie ważne co jakość są uprawnienia. Asystent wiedzy musi szanować strukturę dostępu: pracownik działu sprzedaży nie powinien zobaczyć fragmentów dokumentów personalnych, a menedżer niekoniecznie musi mieć dostęp do wszystkiego. Dlatego wdrażamy RAG z integracją z firmowym logowaniem (SSO) i uprawnieniami na poziomie pojedynczego dokumentu. System odpowiada każdemu użytkownikowi wyłącznie na podstawie dokumentów, do których ten użytkownik ma dostęp. Całość może działać w pełni na Twojej infrastrukturze, z kompletnym logiem zapytań i odpowiedzi — co przy audytach i wymogach compliance jest bezcenne.

Gdzie taki asystent sprawdza się najlepiej? Z naszych wdrożeń wynika, że najszybszy zwrot dają trzy zastosowania. Pierwsze to wsparcie helpdesku i obsługi klienta — konsultant zamiast przeszukiwać bazę wiedzy, pyta asystenta i dostaje gotowy szkielet odpowiedzi ze źródłem. Drugie to onboarding: nowy pracownik zamiast wypytywać kolegów, pyta system o procedury, narzędzia i ustalenia. Trzecie to przeszukiwanie umów, ofert i dokumentacji projektowej — zadania, na których dziś toną godziny pracy prawników, handlowców i inżynierów.

Konkretny przykład z praktyki: dział serwisu z kilkudziesięcioma konsultantami i bazą kilku tysięcy artykułów wiedzy, instrukcji i historycznych zgłoszeń. Przed wdrożeniem średni czas znalezienia odpowiedzi na nietypowe pytanie klienta wynosił kilkanaście minut — i to pod warunkiem, że konsultant wiedział, gdzie szukać. Po wdrożeniu asystenta RAG zintegrowanego z systemem ticketowym odpowiedź wraz z odnośnikiem do źródła pojawia się w kilkanaście sekund. Ale najciekawszy efekt był inny: nowi konsultanci osiągnęli pełną skuteczność po kilku tygodniach zamiast po kilku miesiącach, bo nie musieli już „połykać” całej bazy wiedzy na pamięć.

Jak zmierzyć, czy asystent naprawdę działa? Ustalamy to przed wdrożeniem i mierzymy na żywych użytkownikach: odsetek odpowiedzi ocenionych jako pomocne, czas znalezienia informacji przed i po, liczba eskalacji do ekspertów. Dobry system RAG osiąga po kilku tygodniach kalibracji ponad osiemdziesiąt procent trafnych odpowiedzi na pytania z zakresu dokumentów. Pozostałe dwadzieścia procent to sygnał, czego w bazie wiedzy brakuje — i to jest kolejny prezent: asystent pokazuje Ci dokładnie, które luki w dokumentacji warto uzupełnić.

Na koniec praktyczna wskazówka dla firm, które chcą zacząć: nie indeksuj wszystkiego naraz. Wybierz jeden dział, jeden typ dokumentów i jedną grupę użytkowników. Lepiej, żeby asystent genialnie odpowiadał na pytania z jednego obszaru, niż przeciętnie na wszystkie. Sukces w małej skali buduje zaufanie użytkowników — a to ono decyduje, czy system będzie używany, czy umrze po miesiącu entuzjazmu.

Warto też powiedzieć wprost, czego RAG nie załatwi. Nie zastąpi porządku w dokumentach — jeśli wiedza jest rozproszona, nieaktualna i sprzeczna, asystent uczciwie pokaże te sprzeczności (co zresztą bywa pierwszą, nieplanowaną korzyścią z wdrożenia). Nie zastąpi też ekspertyzy w decyzjach krytycznych — dlatego projektujemy te systemy z człowiekiem w pętli: asystent przygotowuje, człowiek zatwierdza.

Słowo o językach, bo to częste pytanie w polskich firmach pracujących międzynarodowo. Dobry asystent RAG radzi sobie z dokumentami wielojęzycznymi: pytanie zadane po polsku może trafić na fragment instrukcji napisanej po angielsku, a odpowiedź przyjdzie w języku pytania, z odnośnikiem do oryginału. W praktyce indeksujemy dokumenty tak, jak leżą — bez tłumaczenia całej bazy — a model językowy tłumaczy w locie tylko te fragmenty, które są potrzebne do odpowiedzi. To oszczędza tygodnie pracy przy starcie projektu.

Jak wygląda wdrożenie takiego asystenta krok po kroku? Zaczynamy od inwentaryzacji źródeł wiedzy: gdzie leżą dokumenty, w jakich formatach, kto ma do nich dostęp i jak często się zmieniają. Potem budujemy pipeline indeksowania — dokumenty są dzielone na sensowne fragmenty, opisywane metadanymi (dział, typ, data, uprawnienia) i trafiają do wyszukiwarki. Następnie podpinamy model językowy i projektujemy tzw. prompt systemowy, czyli zasady, według których asystent odpowiada: ton, język, obowiązek cytowania źródeł, zachowanie gdy odpowiedzi nie ma w dokumentach. Na końcu testy z realnymi użytkownikami i kalibracja — bo diabeł tkwi w detalach, na przykład w tym, jak system radzi sobie z pytaniami dwuznacznymi.

Częste pytanie: czym to się różni od fine-tuningu modelu na naszych danych? Różni się zasadniczo. Fine-tuning uczy model stylu, żargonu i sposobu odpowiadania, ale kiepsko sprawdza się jako magazyn wiedzy — wiedza „zamraża się” w modelu w momencie treningu i trudno ją aktualizować. RAG trzyma wiedzę na zewnątrz, w dokumentach, które możesz edytować w każdej chwili. W praktyce oba podejścia często łączymy: RAG dostarcza fakty, a dostrojony model dba o język i konwencję odpowiedzi. Ale jeśli masz wybierać jedno — zacznij od RAG, bo jest tańszy, szybszy i łatwiejszy do audytu.

Drugie częste pytanie dotyczy bezpieczeństwa. Czy asystent nie wycieknie danymi? Dobrze zaprojektowany — nie. Całość może działać na Twojej infrastrukturze, bez wysyłania czegokolwiek do zewnętrznych API. Do tego dochodzą zabezpieczenia typu guardrails: filtrowanie danych osobowych przed wysłaniem do modelu, ochrona przed prompt injection (czyli próbami wymuszenia na asystencie zachowań niezgodnych z jego rolą) i pełny log zapytań. Dla działów compliance to często pierwszy system AI w firmie, który przechodzi audyt bez zastrzeżeń.

Ile to trwa? Typowy pilot asystenta wiedzy zamykamy w 4–8 tygodni, w zależności od stanu dokumentów i liczby integracji. Najdłużej trwa zwykle nie technologia, tylko uporządkowanie dostępu do źródeł — i to jest kolejna ukryta korzyść: firmy kończą projekt z lepiej zorganizowaną wiedzą, niż zaczynały.

Jeśli chcesz zobaczyć, jak taki asystent działa na dokumentach podobnych do Twoich, napisz do nas. Przygotujemy działające demo na warsztacie z Twoim zespołem — bez zobowiązań, za to z konkretem.