Dienstvoorbeeld
Kennisontsluiting
RAG in productie op bedrijfsdocumenten
Een retrievalsysteem in productie dat verspreide interne documenten omzet in snelle, nauwkeurige en met bronnen onderbouwde antwoorden.
Deze voorbeelden tonen ervaring met processen en uitvoering. Ze impliceren geen eigendom van een product en noemen geen klant.
De uitdaging
Routinevragen beantwoorden betekende met de hand door pdf's, wiki's en ERPNext-records spitten. Antwoorden waren traag, inconsistent en afhankelijk van wie toevallig wist waar iets stond.
De aanpak
- 01
De documentbronnen zijn samengebracht en er is een ingest-pipeline met semantische chunking gebouwd.
- 02
Er is hybride retrieval gebouwd, dichte embeddings plus BM25-terugval, met cross-encoder-herrangschikking voor de precisie.
- 03
Antwoorden zijn ontsloten via een eenvoudige chatinterface, waarbij elk antwoord terugverwijst naar zijn bron.
- 04
Het retrieval is geijkt op echte vragen en er is evaluatie toegevoegd om regressies te vangen vóór ze live gingen.
Architectuur
Architectuur van RAG in productie op bedrijfsdocumenten. Hoofdstroom: Documenten, dan Chunken + vectoriseren, dan Hybride retrieval, dan Herrangschikken, dan Antwoord met bron. Verbonden paden: Vectorzoek voedt Hybride retrieval; BM25-trefwoord als voorwaardelijk pad vanaf Hybride retrieval.
Wat lastig was
De chunking bepaalde de nauwkeurigheid, niet het model. Splitsen op tokenaantal brak tabellen en clausulegrenzen, en de retrievalkwaliteit bewoog meer door dat te repareren dan door welke promptwijziging dan ook.
Dicht zoeken bleef exacte termen missen: een onderdeelnummer, een beleidscode, een datum. Daar is de BM25-tak voor, en twee rangschikkingen zinnig samenvoegen kostte meer iteraties dan het toevoegen van de tweede index.
Zonder evaluatie zijn regressies onzichtbaar. Een wijziging die vijf antwoorden verbetert en er twee kapotmaakt lijkt een verbetering tot iemand op die twee stuit, dus er moest een vragenset met bekende goede antwoorden bestaan voordat afstellen iets kon betekenen.
Benieuwd hoe dit gebouwd is?
De volledige ervaring en vaardigheden erachter staan op het cv.
Cv bekijken