Sie kennen das Problem.
Sie fragen ChatGPT etwas über Ihr Unternehmen. Die Antwort klingt plausibel. Professionell formuliert. Selbstbewusst vorgetragen.
Nur leider ist sie falsch.
ChatGPT kennt Ihr Unternehmen nicht. Es kennt Ihre Prozesse nicht. Ihre Produkte nicht. Ihre internen Regelungen nicht. Es wurde mit Milliarden Texten aus dem Internet trainiert, aber Ihr Betriebshandbuch war glücklicherweise nicht dabei.
Also erfindet die KI etwas. Klingt gut, ist aber frei erfunden. Das nennt man Halluzination.
Das war unser größtes Problem, als wir anfingen, mit KI zu arbeiten. Wir wollten Antworten auf konkrete Fragen zu unseren Projekten. Stattdessen bekamen wir kreative Fiktion.
Also haben wir uns gefragt: Wie bringen wir der KI bei, nur das zu sagen, was sie wirklich weiß?
Die Lösung heißt RAG. Klingt kompliziert, ist aber eigentlich simpel.
Stellen Sie sich vor, Sie fragen einen Kollegen etwas. Der Kollege weiß die Antwort nicht auswendig. Aber er weiß, wo sie steht. Er holt das richtige Handbuch aus dem Regal, schlägt die passende Seite auf, liest nach – und antwortet dann.
Genau so funktioniert RAG.
Wenn Sie KnowledgePilot eine Frage stellen, passiert folgendes:
Zuerst sucht das System in Ihren Dokumenten. SharePoint, Google Drive, wo auch immer Ihr Wissen liegt. Es findet die relevanten Textstellen. Die drei, vier Abschnitte, die am besten zu Ihrer Frage passen.
Dann reicht es diese Textstellen an die KI weiter. "Hier, lies das. Und beantworte jetzt die Frage."
Die KI formuliert die Antwort – aber nur basierend auf dem, was in den Dokumenten steht. Nicht basierend auf irgendwelchem Internet-Wissen. Nicht erfunden. Nur das, was wirklich da steht. Und dann kommt der wichtigste Teil: KnowledgePilot zeigt Ihnen genau, woher die Information stammt. Dokument, Seite, Textpassage. Sie können nachprüfen. Sie können die Quelle öffnen. Sie können sicher sein.
Das ist der fundamentale Unterschied zu normalen KI-Tools.
ChatGPT versucht, Ihre Frage aus dem Gedächtnis zu beantworten. KnowledgePilot schlägt nach.
ChatGPT rät. KnowledgePilot zitiert.
Wir haben lange daran gearbeitet, dass das wirklich gut funktioniert. Dass die richtigen Dokumente gefunden werden. Dass die Antworten präzise sind. Dass die Quellenangaben stimmen.
Es war nicht trivial. Aber es war wichtig.
Denn in Unternehmen kann man sich keine erfundenen Antworten leisten. Man braucht verlässliche Information. Man braucht Nachvollziehbarkeit.
Das ist RAG. Retrieval-Augmented Generation, wenn Sie den Fachbegriff mögen. Oder einfacher: KI mit Quellenangabe.
Wir sind natürlich nicht die Erfinder von RAG. Wir setzen die Technologie ein. RAG wurde 2020 von Patrick Lewis und seinem Team bei Facebook AI Research (heute Meta AI) entwickelt. Seitdem wurde das Konzept in hunderten weiteren Research-Papern aufgegriffen und weiterentwickelt. Von "Naive RAG" über "Advanced RAG" bis zu "Modular RAG" – die Grundidee von Lewis und seinem Team ist heute die Basis für praktisch alle unternehmenstauglichen KI-Systeme.
Probieren Sie es aus. Stellen Sie eine Frage zu Ihren eigenen Dokumenten. Sie werden sehen: Die Antwort kommt nicht aus dem Nichts. Sie kommt aus Ihrem Wissen.
Und das macht den ganzen Unterschied.