RAG uitgelegd: een AI-assistent bouwen op je eigen documenten

Een taalmodel kent alleen wat het tijdens de training heeft gezien. Jouw offertes, handleidingen en procesbeschrijvingen kent het niet. RAG lost dat op door het model niet slimmer te maken, maar beter geïnformeerd:

• Stap 1 — Indexeren: je documenten worden in stukken gehakt en omgezet in doorzoekbare vectoren (betekenis-getallen).
• Stap 2 — Ophalen: bij elke vraag zoekt het systeem de handvol stukken die er het meest toe doen.
• Stap 3 — Antwoorden: het model schrijft een antwoord gébaseerd op die stukken, met bronvermelding.

Cruciaal verschil met finetunen: de kennis blijft buiten het model en is dus direct te actualiseren. Nieuwe prijslijst erin, oude eruit — geen hertraining nodig.

In pilots zien we consequent hetzelfde patroon: de techniek werkt binnen een week, maar de antwoorden zijn middelmatig omdat de bronnen dat zijn. Handleidingen uit 2022, drie versies van hetzelfde beleidsdocument, en cruciale kennis die alleen in iemands hoofd zit.

De remedie is documenthygiëne vóór indexatie: één canonieke versie per onderwerp, een eigenaar per domein, verloopdatums op gevoelige documenten en een conventie voor namen en definities. Dat is saai werk met het hoogste rendement van het hele project.

Vier ontwerpbeslissingen bepalen of een RAG-project slaagt:

• Rechtenmodel: mag iedere medewerker alles vragen, of filtert de zoeklaag op rol? Zonder rechtenfilter lekt vertrouwelijke informatie via de chat.
• Bronvermelding: toon altijd welke documenten het antwoord voedden — dat maakt controle mogelijk en bouwt vertrouwen op.
• Fallback-gedrag: definieer wat er gebeurt als de zoeklaag niets vindt. Eerlijk 'ik weet het niet' is beter dan een verzonnen antwoord.
• Hosting en privacy: welke documenten mogen via externe API's lopen en welke blijven binnen je eigen infrastructuur?

Een realistische route: begin met één domein (bijvoorbeeld de productdocumentatie of HR-beleid), bouw in twee tot vier weken een werkende pilot, en test die met een vaste set van vijftig echte vragen uit de praktijk. Score je boven 80 procent correct met bruikbare bronnen, dan is opschalen verantwoord.

Die vaste testset is belangrijker dan welke toolkeuze ook. Zonder meetlat wordt elke demo indrukwekkend en elke productieversie een verrassing. Met testset kun je modellen, leveranciers en instellingen objectief vergelijken — en blijft kwaliteit meetbaar naarmate je documenten groeien.