Wat is RAG? Retrieval-Augmented Generation uitgelegd voor ondernemers

Wat is RAG in gewone taal?

RAG (Retrieval-Augmented Generation) is een manier om een taalmodel te laten antwoorden op basis van informatie die je het op het moment zelf aanreikt. Retrieval is het opzoeken, generation het schrijven van het antwoord.

Vergelijk het met een nieuwe medewerker die een klantvraag krijgt. Hij weet veel, maar niet hoe jouw bedrijf werkt. Dus pakt hij eerst de juiste map, leest het relevante stuk en antwoordt dan. RAG doet hetzelfde, binnen een paar seconden.

De term komt uit een onderzoeksartikel van Patrick Lewis en collega's uit 2020. Inmiddels is het een van de meest gebruikte manieren om AI met bedrijfskennis te laten werken.

Hoe werkt RAG stap voor stap?

Achter de schermen gebeurt bij elke vraag hetzelfde:

1. Kennis verzamelenJe standaardmails, handleidingen, prijslijsten, blogs of veelgestelde vragen gaan in één kennisbank.
2. In stukken knippen en ordenenDe teksten worden in kleine stukken verdeeld en geordend op betekenis, zodat ze ook te vinden zijn als iemand de vraag anders stelt.
3. Zoeken bij elke vraagKomt er een vraag binnen, dan zoekt het systeem de paar stukken die er het best bij passen.
4. Antwoorden met die stukken erbijHet taalmodel krijgt de vraag én de gevonden stukken, met de opdracht om alleen daarop te antwoorden.
5. ControlerenEen mens leest mee waar dat nodig is, of het antwoord vermeldt uit welk document het komt.

Voor stap 2 gebruik je embeddings: een manier om de betekenis van een tekst om te zetten in getallen, zodat de computer kan zien welke teksten over hetzelfde gaan. Die getallen bewaar je in een vectordatabase, zoals Qdrant, Pinecone of pgvector in Supabase. In n8n zitten hiervoor kant-en-klare onderdelen.

Waarom beperkt RAG hallucinaties?

Een hallucinatie is een antwoord dat overtuigend klinkt, maar niet klopt, omdat het taalmodel iets aanvult wat het niet weet. Een taalmodel voorspelt welke woorden logisch volgen. Weet het het antwoord niet, dan schrijft het toch iets wat aannemelijk klinkt.

RAG verkleint dat risico op drie manieren. Het model krijgt de juiste informatie aangereikt, dus hoeft het minder te gokken. Je kunt het opdragen om te zeggen dat het iets niet weet als het antwoord niet in de gevonden stukken staat. En je kunt nagaan op welk document een antwoord gebaseerd is.

Helemaal weg is het risico niet. Staat er verouderde informatie in je kennisbank, dan krijg je een verouderd antwoord. Vindt het zoeken het verkeerde stuk, dan klopt het antwoord ook niet. Daarom blijft controle door een mens verstandig bij antwoorden die ertoe doen.

Wanneer gebruik je RAG?

Altijd als AI moet antwoorden vanuit kennis die alleen jij hebt. Drie toepassingen kom ik het vaakst tegen.

Klantvragen beantwoorden met je eigen antwoorden. Bij Succesvol Leren mailen ouders met vragen over een leertraject voor hun kind. Het goede antwoord stond vaak al in een van de ruim 450 standaardmails, maar zoeken kostte telkens tijd. Ik liet de standaardmails door AI ordenen op wat een ouder bedoelt. Nu zoekt de assistent bij elke mail in Trengo het best passende antwoord en schrijft een persoonlijk concept in Larissa's toon, dat zij goedkeurt of laat aanpassen.

Een AI-coach vanuit je eigen methode. Bij Zacht in je Kracht beantwoordt een AI-coach vragen van cliënten vanuit de programma's en blogs van Sanne van Rossen. Cliënten loggen in op een eigen online omgeving, en de privacy is vastgelegd in een verwerkersovereenkomst. Hoe dat werkt, lees je in Een AI-coach of AI-kloon vanuit je eigen methode.

Een interne kennisbank. Medewerkers stellen een vraag over een procedure, een product of een klant, en krijgen antwoord uit je eigen documenten met een verwijzing naar de bron. Bij Almetaal gaan bijlagen uit de mail naar de kennisbank van SpireAI, zodat ze later terug te vinden zijn.

Wanneer is RAG niet nodig?

Als het antwoord niet afhangt van jouw eigen informatie. Een tekst herschrijven, een mail samenvatten of een factuur uitlezen lukt een taalmodel zonder kennisbank. Ook als je maar een handvol vaste antwoorden hebt, is een gewone automatisering met vaste teksten vaak eenvoudiger.

Wat is het verschil tussen RAG en fine-tuning?

Fine-tuning is een taalmodel verder trainen op je eigen voorbeelden, zodat het een bepaalde stijl of taak beter beheerst. Bij RAG blijft het model zoals het is en krijgt het bij elke vraag de juiste informatie mee.

Voor kennis die verandert, zoals prijzen, trajecten of voorwaarden, is RAG bijna altijd handiger: je past een document aan en het volgende antwoord is meteen bijgewerkt. Fine-tuning gebruik je eerder voor toon of een vast formaat, en ook dat lukt vaak al met goede voorbeelden in de opdracht.

Waar let je op bij RAG en privacy?

Je kennisbank bevat vaak klantgegevens of interne informatie. Kies dus bewust waar die staat en wie erbij kan. Zet alleen in de kennisbank wat nodig is, regel toegang per persoon als het om cliënten gaat, en leg afspraken vast in een verwerkersovereenkomst. Meer daarover lees je in Is AI-automatisering AVG-proof?

Wil je weten welk taalmodel het antwoord schrijft en wat dat betekent voor je gegevens? Lees Wat is een LLM? Een korte definitie van RAG staat ook in de AI-begrippenlijst. Het grotere plaatje van AI in je bedrijf staat in Wat is AI-automatisering?

Benieuwd of RAG past bij jouw klantvragen of kennis? Stuur me een WhatsApp, dan kijken we samen in een gratis videocall wat er kan.

Veelgestelde vragen

Wat is RAG in één zin?

RAG (Retrieval-Augmented Generation) is een techniek waarbij AI eerst de passende stukken uit je eigen documenten opzoekt en daarna een antwoord schrijft op basis van wat het vond.

Voorkomt RAG dat AI dingen verzint?

Het verkleint de kans flink, omdat het model de juiste informatie aangereikt krijgt en kan zeggen dat iets ontbreekt. Helemaal uitsluiten kan niet: verouderde documenten of een verkeerd gevonden stuk leveren nog steeds een fout antwoord op.

Heb ik veel documenten nodig voor RAG?

Nee. Een paar goede documenten met je antwoorden, prijzen en werkwijze zijn genoeg om te beginnen. Bij Succesvol Leren was het vertrekpunt een verzameling van ruim 450 standaardmails.

Kan ik RAG gebruiken met ChatGPT?

Ja, in eenvoudige vorm. Bij een eigen GPT of een project in ChatGPT kun je bestanden toevoegen waar het model in zoekt. Wil je dat het in je mail, CRM of website werkt, dan bouw je het als koppeling, bijvoorbeeld in n8n.

Jurgen Claassens bouwt AI-automatiseringen voor ondernemers, mkb en kmo. Vijftien jaar operations bij Vattenfall, daarna mede-eigenaar van sales- en marketingbureaus. Meer over Jurgen of bekijk zijn projecten.