Jedes Modell hat einen Wissensstichtag. RAG ist der Weg drumherum, ohne etwas neu zu trainieren, und der Grund, warum die Abrufqualität über deine Antworten entscheidet.
Jedes Modell hat einen Wissensstichtag. Irgendwann endete das Training, und alles danach existiert für das Modell schlicht nicht. RAG löst das, ohne irgendetwas neu zu trainieren.
Das Problem praktisch: Du willst, dass eine KI Fragen zu deiner internen Doku, deinen Support-Tickets oder deinem Produkthandbuch beantwortet. Nichts davon steht im Internet. Fine-Tuning dauert Wochen und kostet Geld. Für genau das gibt es eine Architektur.
Retrieval Augmented Generation heißt: Relevante Informationen werden aus einer externen Quelle geholt und in den Kontext des Modells eingespeist, bevor es antwortet. Das Modell muss die Antwort nicht wissen. Man muss ihm die richtige Seite zu lesen geben.
Der Vergleich mit der Open-Book-Prüfung trägt das ganze Konzept. Ein Student lernt nicht alles auswendig. Er schlägt nach, muss aber wissen, welches Buch, welche Seite, welcher Absatz. Die KI ist der Student, deine Dokumente sind die Bücher, und das Abrufsystem findet die Seite.
Die Pipeline hat drei Schritte. Aufnahme: Dokumente in Stücke teilen, jedes in einen Vektor umwandeln, in einer Vektordatenbank ablegen. Abruf: Auch die Frage wird ein Vektor, und das System sucht Stücke, die inhaltlich ähnlich sind, also Bedeutung statt Stichwort. Erzeugung: Die relevanten Stücke kommen direkt vor der Antwort in den Kontext.
Zwei ehrliche Grenzen. RAG macht die KI nicht klüger, es gibt ihr besseren Input, das Denken bleibt gleich. Und RAG scheitert, wenn der Abruf scheitert: Werden die falschen Stücke geholt oder gar keine, halluziniert das Modell oder sagt, es wisse es nicht. Die Qualität deines Abrufs bestimmt die Qualität deiner Antworten.
| Aspekt | RAG | Fine-Tuning |
|---|---|---|
| Was sich ändert | Hält Wissen extern und ruft es ab | Backt Wissen in die Gewichte des Modells |
| Kosten | Günstig | Teuer |
| Tempo | Schnell aufgesetzt | Langsam, dauert Wochen |
| Aktualisierung | Aktuell, sobald du deine Dokumente aktualisierst | Statisch nach dem Training |
| Gut für | Fakten ergänzen, die das Modell nicht hat | Verhalten ändern, nicht Fakten ergänzen |
| Nachvollziehbarkeit | Die Antwort kann die Quelle nennen | Keine Rückverfolgung zur Quelle |
| Fehlerbild | Falsche Stücke geholt heißt falsche oder verweigerte Antwort | Falsche Trainingsdaten heißen falsches Verhalten |
RAG, also Retrieval Augmented Generation, ist eine Technik, bei der relevante Informationen aus einer externen Quelle geholt und in den Kontext der KI eingespeist werden, bevor sie antwortet. Das Modell muss die Antwort nicht wissen, man muss ihm die richtige Seite zu lesen geben.
In drei Schritten. Aufnahme: Dokumente werden in Stücke geteilt, jedes Stück wird ein Vektor, die Vektoren landen in einer Vektordatenbank. Abruf: Auch die Nutzerfrage wird ein Vektor, und das System findet inhaltlich ähnliche Stücke. Erzeugung: Diese Stücke kommen direkt vor der Antwort in den Kontext des Modells.
Für die meisten Anwendungsfälle ja, weil beide unterschiedliche Probleme lösen. RAG ergänzt Fakten und ist sofort aktuell, wenn sich deine Dokumente ändern. Fine-Tuning ändert Verhalten und ist teuer, langsam und nach dem Training statisch. Fine-Tuning ist dafür da, wie ein Modell sich verhält, nicht um Wissen zu ergänzen.
Nein. Es gibt der KI bessere Informationen an die Hand, und das ist etwas anderes. Das Denken des Modells bleibt gleich, nur der Input wird besser.
Wenn der Abruf scheitert. Werden die falschen Stücke geholt oder gar keine relevanten gefunden, halluziniert das Modell oder sagt, es wisse es nicht. RAG ist eine Pipeline, und jeder Schritt kann brechen, deshalb bestimmt die Abrufqualität die Antwortqualität.
Weil die Antwort aus abgerufenen Stücken entsteht, kann das System zurückzeigen, woher jede Information stammt. Diese Nachvollziehbarkeit ist ein zentraler Vorteil gegenüber reiner Erzeugung, bei der es keine Rückverfolgung zur Quelle gibt.
Für dieses Video gibt es keine manuelle Untertitelspur. Diese Seite nutzt deshalb eine geprüfte Kapitel-Zusammenfassung, statt automatisch erzeugte Untertitel als Transkript zu veröffentlichen.
Jedes Modell hat einen Wissensstichtag. Irgendwann endete das Training, und alles danach existiert für das Modell nicht. RAG löst das, ohne irgendetwas neu zu trainieren. Das ist Teil fünf der Serie.
Das praktische Problem: Fragen zur internen Doku, zu Support-Tickets oder einem Produkthandbuch beantworten, was alles nicht im öffentlichen Internet steht. Ein Modell dafür zu trainieren dauert Wochen und kostet Geld.
Die Definition. Retrieval Augmented Generation holt relevante Informationen aus einer externen Quelle und speist sie vor der Antwort in den Kontext der KI ein. Das Modell muss die Antwort nicht wissen, es braucht die richtige Seite vor sich.
Die Open-Book-Prüfung. Ein Student lernt nicht alles auswendig, er schlägt nach, muss aber wissen, welches Buch, welche Seite, welcher Absatz. Die KI ist der Student, deine Dokumente sind die Bücher, das Abrufsystem findet die Seite.
Die dreistufige Pipeline. Die Aufnahme teilt Dokumente in Stücke und wandelt jedes in einen Vektor, der in einer Vektordatenbank liegt. Der Abruf macht aus der Frage einen Vektor und findet inhaltlich ähnliche Stücke, also Bedeutung statt Stichwort. Die Erzeugung legt die besten Stücke direkt vor der Antwort in den Kontext.
Die LangChain-Dokumentation zeigt die komplette Pipeline als Diagramm: Laden, Teilen, Einbetten, Abrufen, Erzeugen. Jeder Schritt ist modular, Vektorspeicher, Embedding-Modelle und Retriever lassen sich austauschen. LangChain übernimmt die Verkabelung.
Wie das Ergebnis praktisch aussieht. Der Nutzer fragt, das System holt zwei oder drei relevante Stücke, das Modell liest sie und schreibt eine belegte Antwort, die nennt, woher die Information stammt. Diese Nachvollziehbarkeit ist ein zentraler Vorteil gegenüber reiner Erzeugung.
Eine häufige Verwechslung: RAG und Fine-Tuning sind nicht austauschbar. Fine-Tuning backt Wissen in Gewichte, ist teuer, langsam und statisch. RAG hält Wissen extern, ist günstig und schnell und ist aktuell, sobald deine Dokumente es sind. Fine-Tuning ändert Verhalten, RAG ergänzt Fakten.
Was RAG nicht tut. Es macht das Modell nicht klüger, es gibt ihm besseren Input. Das Denken bleibt gleich. Und es scheitert, wenn der Abruf scheitert: falsche oder keine Stücke bedeuten Halluzination oder eine Absage.
Das Fazit: Bau eine Pipeline, die abruft, einspeist und erzeugt. Das Modell muss nicht wissen, es muss im richtigen Moment informiert werden. Aber alles wird in ein Kontextfenster eingespeist, und das hat eine harte Grenze, worum es im nächsten Teil geht.
Ich arbeite 1:1 mit Selbstständigen, Beratern, Coaches und kleinen Teams an praktischen KI-Workflows und Automatisierung. Das Erstgespräch ist kostenlos, dauert 15 Minuten und ist kein Verkaufsgespräch.
Kostenloses Erstgespräch buchen