Najczęstsze rozczarowanie po pierwszym kontakcie z AI: system pięknie mówi, ale nie ma pojęcia o naszej instrukcji kancelaryjnej. To nie jest wada modelu, tylko brak dostępu do danych.
Jak to działa krok po kroku
1. Podział
Dokumenty dzielone są na fragmenty wielkości kilku akapitów, żeby dało się je precyzyjnie odnaleźć.
2. Indeks
Każdy fragment dostaje reprezentację liczbową, dzięki której można szukać po znaczeniu, nie po dokładnym słowie.
3. Wyszukanie
Pytanie użytkownika trafia do tego samego indeksu; system wybiera kilka najbardziej pasujących fragmentów.
4. Odpowiedź
Model dostaje pytanie razem z tymi fragmentami i odpowiada na ich podstawie, wskazując źródło.
Dlaczego to lepsze niż douczanie modelu
- zmiana procedury to podmiana dokumentu, a nie ponowny trening;
- odpowiedź zawiera odesłanie do źródła, więc da się ją zweryfikować;
- uprawnienia działają: pracownik widzi w odpowiedziach tylko te dokumenty, do których i tak ma dostęp.
Gdzie to zawodzi
Jeśli dokumenty są sprzeczne, model odziedziczy tę sprzeczność. Jeśli są nieaktualne, odpowie nieaktualnie. Porządek w repozytorium jest warunkiem sensownych odpowiedzi i zwykle to on, a nie technologia, okazuje się najtrudniejszą częścią wdrożenia.