Glossar
Was ist Retrieval Augmented Generation?
Retrieval Augmented Generation (RAG) ist ein Verfahren, das Sprachmodelle mit externem Wissen verbindet: Vor der Antwort sucht das System passende Textstellen aus einer Wissensquelle heraus und lässt die KI auf dieser Grundlage antworten statt aus dem Gedächtnis.
Das löst die zwei größten Probleme von Sprachmodellen im Unternehmenseinsatz: Halluzinationen und veraltetes Wissen. Weil die KI ihre Antwort auf konkrete, aktuelle Dokumente stützt, kann sie Quellen nennen und bleibt bei den Fakten des Unternehmens, ohne dass das Modell selbst neu trainiert werden muss.
In der Praxis werden dafür Dokumente in durchsuchbare Bausteine zerlegt und in einer Vektor-Datenbank abgelegt. Bei jeder Frage findet das System die relevantesten Passagen und reicht sie dem Sprachmodell als Kontext mit. RAG ist die technische Basis der meisten Unternehmens-GPTs und wissensbasierten Chatbots.
Verwandte Begriffe: Unternehmens-GPT · Voice Agent