Unterschied Wissensdatenbank (RAG) vs. Chat Kontext
Den Unterschied verstehen
In der digitalen Welt von heute sind künstliche Intelligenzen (KI) und nele.ai nicht mehr wegzudenken. Sie erleichtern uns die Arbeit, indem sie komplexe Inhalte verstehen und darauf basierend intelligente Antworten generieren. Doch um das volle Potenzial dieser cleveren Helfer auszuschöpfen, ist es wichtig, die zwei Schlüsselkonzepte von Chatbots zu verstehen: Chat Kontext und Wissensdatenbanken, auf Basis von RAG – Retrieval Augemented Generation. Eine KI verfügt zwar über ein umfassendes Weltwissen, kann aber immer nur einen kleinen Teil Ihrer Eingaben gleichzeitig verarbeiten, um qualitativ hochwertige Antworten oder Lösungen zu liefern.
In diesem Beitrag möchten wir Ihnen einen Einblick geben, was diese beiden Begriffe bedeuten und wie sie sich auf Ihre Interaktionen mit nele.ai auswirken.
Wissensdatenbanken (RAG)
Die Wissensdatenbanken, die Unternehmen in nele.ai anlegen können, werden auf dem gesicherten Serverbereich von nele.ai im europäischen Rechtsraum gespeichert. Um solche Wissensdatenbanken anzulegen, sind 2 Schritte notwendig:
- Dokumenten und URLs können auf den Admin-Bereich hochgeladen werden.
- Die Dokumente werden für das RAG bereitgestellt, indem sie eingebettet werden.
Das Hochladen der Dokumente wird ganz einfach über die Auswahl der notwendigen Dokumente im Dateiexplorer bzw. die Eingabe der spezifischen URL im Admin-Bereich von nele.ai vorgenommen (manage.nele.ai). Ist dieser Schritt vollzogen, können Sie die Wissensdatenbank einzelnen Benutzer zuweisen. Diese können Sie dann in nele.ai auswählen.
RAG im Detail
RAG ist eine Technik, die Künstliche Intelligenz nutzt, um Informationen aus großen Datenmengen zu extrahieren und diese dann für das Erstellen von Texten zu nutzen. Diese Technik wird bei der Arbeit mit Wissensdatenbanken bei nele.ai eingesetzt. Das Ganze basiert auf zwei Hauptkomponenten: dem "Retrieval"-Teil und dem "Generation"-Teil.
Beim "Retrieval" sucht die KI-Software in Ihren Wissensdatenbanken von Informationen nach passenden Fakten, Daten oder Aussagen, ähnlich wie Sie vielleicht auf Google nach Informationen suchen würden.
Der "Generation"-Teil ist dafür zuständig, diese Informationen zu verstehen und sie so umzuformulieren, dass sie in den Kontext passen, in welchem die KI gerade verwendet wird. Das kann zum Beispiel beim Verfassen von E-Mails, Berichten oder sogar beim Erstellen kreativer Inhalte hilfreich sein.
Das bedeutet das Ihr Wissensspeicher durchsucht wird und nur die besten Treffer auszugsweise von nele.ai verwendet werden.
Der Clou an RAG ist, dass sie nicht einfach nur Informationen kopiert. Die Technologie ist so ausgeklügelt, dass sie die gefundenen Informationen mit dem bereits geschriebenen Text in Beziehung setzt, Eingaben berücksichtigt und dann eigenständig fortfährt. So generiert die KI Texte, die informiert und fließend wirken, als hätte ein menschlicher Experte auf dem Gebiet sie verfasst. Dabei benutzt nele.ai lediglich das Wissen aus der Wissensdatenbank, um Halluzinationen oder Fehlinformation zu vermeiden.
Beispiel für Wissensdatenbank (RAG):
User: „Was sagt unser neuester Forschungsbericht über die Effizienz von Marketingkampagnen in sozialen Netzwerken?"
nele.ai: „Laut dem eingebetteten Forschungsbericht steigern gezielte Marketingkampagnen in sozialen Netzwerken die Sichtbarkeit um 20% im Vergleich zu traditionellen Methoden."
User: „Wie beantrage ich Urlaub?"
nele.ai: „Um Urlaub zu beantragen, müssen Sie zunächst eine Urlaubsvertretung organisieren. Sobald die Vertretung bestätigt hat, können Sie sich in einem firmeninternen System mit Ihren persönlichen Zugangsdaten anmelden, in Ihrem Profil unter "Urlaub" die gewünschten Tage auswählen und dann über den angezeigten blauen Button bestätigen. Wählen Sie Max Mustermann oder Erika Musterfrau als Ansprechpartner für die Benachrichtigung aus und tragen Sie den Namen oder das Kürzel der Urlaubsvertretung in das Kommentarfeld ein. Vermeiden Sie es, andere Informationen in das Feld einzutragen.
Die relevanten Dokumente sind "Urlaubsantrag.txt" und "Arbeitsvertrag-Fernarbeit.txt""
Chat Kontext im Detail
Chat Kontext ist wie das Gedächtnis des Chatbots während Ihres Gesprächs. Wenn Sie mit nele.ai chatten, vielleicht sogar Dokumente oder URLs dem Chat hinzugefügt haben, erinnert sich nele.ai an diese Inhalte, genauso wie an Ihren Gesprächsverlauf – was bereits besprochen wurde, welche Fragen Sie gestellt haben und wie der Kontext sich entwickelt hat. Das ermöglicht der KI, auf nachfolgende Nachrichten passend und sinnvoll zu antworten. Auch wenn die Wissensdatenbank benutzt wird, werden nur die relevanten Informationen, die in den Dokumenten gefunden wurden, teilweise in den Chat-Kontext eingefügt. Zum Beispiel, wenn Sie nele.ai bitten, Ihnen eine Zusammenfassung eines langen Dokuments zu geben, und anschließend spezifischere Fragen zu einem Punkt in der Zusammenfassung stellen, nutzt der Bot den Chat Kontext, um auf diese neue Anfrage bezogen zu antworten.
Das bedeutet, dass der gesamte Inhalt eines Chat-Kontextes genauso angewendet wird, wie er ist. Im Gegensatz dazu bezieht sich bei Wissensdatenbanken die Anwendung nur auf die extrahierten Teile der Dokumente. Möchte man zum Beispiel zählen, wie viele Fragen in einem Text vorkommen, kann man dies auf den Chat-Kontext anwenden und erhält eine korrekte Antwort. Wendet man die gleiche Frage jedoch auf eine Wissensdatenbank an, bekommt man keine vollständige Antwort.
Beispiel für Chat Kontext:
User: „Kannst du mir die wichtigsten Punkte des beigefügten Marketingberichts zusammenfassen?"
nele.ai: „Natürlich, die Kernpunkte des Berichts sind […]"
User: „Und wie wird das Wachstum im dritten Quartal beurteilt?"
nele.ai: „Das Wachstum im dritten Quartal wird als positiv gesehen, besonders wegen […]"
Praktische Anwendung und Limitationen
Es ist wichtig zu verstehen, dass die Leistungsfähigkeit eines KI-Clients wie nele.ai durch die sogenannten Kontextgröße in Tokens begrenzt wird. In der Regel entsprechen ungefähr 1.000 Token etwa 750 Wörtern. Abhängig vom verwendeten KI-Modell bei nele.ai kann die Zahl der bearbeitbaren Token variieren, was sich direkt auf die maximale Länge der Texte auswirkt, die nele.ai in einem Gespräch verarbeiten kann. Dies bedeutet, dass Sie eventuell große Dokumente in kleinere Abschnitte aufteilen und einzeln bearbeiten müssen, sobald die Token-Grenze erreicht ist. Denken Sie daran, dass eine solche Aufteilung die Qualität des Endergebnisses beeinflussen kann, da der Chatbot den Kontext nicht mehr aus dem gesamten Dokument ziehen kann.
Die Effektivität von nele.ai kommt besonders dann zur Geltung, wenn man die beiden Techniken Chat Kontext und Embedding clever kombiniert. Der Chat Kontext ist für eine natürliche und zusammenhängende Gesprächsführung unverzichtbar. Das Embedding hingegen ermöglicht es dem KI-Modell, auf externe Informationen zugreifen zu können, was vor allem bei speziellen Fachfragen von großem Nutzen ist. Indem Sie lernen, diese beiden Techniken zu verstehen und anzuwenden, können Sie die Interaktion mit nele.ai optimieren und so das volle Potenzial dieses mächtigen Werkzeugs ausschöpfen.
