RAG – Wie KI auf das Wissen Ihres Unternehmens zugreift
Nordshop Insights · Enterprise Memory
Nachdem ich im letzten Beitrag über Halluzinationen gesprochen haben, stellt sich eine naheliegende Frage:
Wie kann eine KI Antworten geben, die auf den aktuellen Dokumenten eines Unternehmens basieren?
Die Antwort lautet: RAG.
RAG steht für Retrieval Augmented Generation – auf Deutsch etwa: Antworten erzeugen, die durch gezielt gefundene Informationen ergänzt werden.
Der Begriff klingt technisch. Das Prinzip ist erstaunlich einfach. Stellen Sie sich vor, Sie stellen einem Kollegen eine Frage. Kennt er die Antwort auswendig, wird er sofort antworten. Ist er sich nicht sicher, schaut er zuerst in die Dokumentation, liest die relevanten Seiten und beantwortet anschließend Ihre Frage.
Genau so arbeitet ein RAG-System.
Bevor die KI antwortet, sucht sie zunächst in den freigegebenen Dokumenten nach passenden Informationen. Das können beispielsweise Bedienungsanleitungen, Verträge, Prozessbeschreibungen, technische Dokumentationen oder interne Wissensdatenbanken sein. Erst diese gefundenen Informationen werden anschließend zusammen mit Ihrer Frage an die KI übergeben. Die KI antwortet also nicht ausschließlich aus ihrem allgemeinen Wissen. Sie antwortet auf Basis der Informationen, die sie unmittelbar zuvor gefunden hat.
Dadurch ergeben sich gleich mehrere Vorteile.
Die Antworten sind aktueller. Sie beziehen sich auf das Wissen Ihres Unternehmens. Und das Risiko von Halluzinationen sinkt deutlich, weil sich die KI auf konkrete Dokumente stützen kann.
Wichtig ist allerdings:
RAG macht eine KI nicht automatisch fehlerfrei. Findet das System keine passenden Informationen oder sind die Dokumente veraltet, kann auch die Antwort unvollständig oder falsch sein. Die Qualität eines RAG-Systems hängt deshalb immer auch von der Qualität der zugrunde liegenden Informationen ab.
Deshalb sagen viele Unternehmen heute:
Die eigentliche Herausforderung ist nicht die KI – sondern ein gut gepflegtes Unternehmenswissen.
Merksatz
RAG bringt der KI kein neues Wissen bei. Es gibt ihr im richtigen Moment Zugriff auf das Wissen, das sie für eine gute Antwort benötigt.
Im nächsten Beitrag geht es um Fine-Tuning. Dabei schauen wir uns an, warum Unternehmen ein Sprachmodell nur selten neu trainieren müssen – und warum ein gutes RAG-System häufig die bessere Lösung ist.