RAG im Unternehmen: wie eine KI auf internes Wissen zugreifen kann

RAG steht für Retrieval Augmented Generation. Vereinfacht gesagt sucht das System zu einer Anfrage passende Informationen aus einer definierten Wissensquelle und stellt sie dem Modell für die Antwort zur Verfügung. Die Kurzdefinition steht unter RAG.

RAG ist nicht dasselbe wie Training

Beim Training wird das Modell selbst verändert. Bei RAG bleibt das Modell bestehen. Stattdessen wird die Antwort mit relevanten Informationen aus einer Wissensquelle ergänzt.

Für Unternehmenswissen ist das interessant, weil sich Inhalte ändern. Dokumente müssen nicht jedes Mal neu trainiert werden, nur weil eine Information aktualisiert wurde.

Wie sieht das praktisch aus?

Ein Mitarbeiter fragt nach einer internen Prozessbeschreibung. Das System sucht passende Informationen in den freigegebenen Unternehmensdokumenten und nutzt sie für die Antwort. Je nach System kann die Antwort zusätzlich die Quellen nennen. Beispiele dafür stehen unter Anwendungen.

Warum sind Rechte wichtig?

Eine KI-Wissensdatenbank sollte nicht automatisch alle Informationen für alle Nutzer freigeben. Welche Inhalte jemand sehen darf, gehört zur Architektur und nicht in eine nachträgliche Einstellung.

Fazit

RAG ist ein wichtiger Baustein für Unternehmens-KI, wenn interne Informationen in Antworten einfließen sollen. Wie das Wissen dorthin kommt, beschreibt Wie kommt Unternehmenswissen in eine eigene KI?