Lokale KI-Station mit integriertem RAG: Ihre Dokumente ab Lieferung abfragbar
Stellen Sie sich eine KI vor, die Ihre Dokumente bereits kennt. Sie stellen eine Frage zu einem Vertrag, einem Bericht, einem internen Verfahren – und sie antwortet, indem sie Ihre eigenen Dateien zitiert, ohne dass etwas Ihr Büro verlässt. Das ist es, was RAG ermöglicht. Und auf unseren Stationen kann es sofort einsatzbereit geliefert werden: null Konfiguration, Ihre Dokumente sind sofort nach dem Auspacken abfragbar.
Das Problem, das RAG löst
Ein KI-Modell, so leistungsstark es auch sein mag, kennt Ihre Dokumente nicht. Es wurde auf allgemeinen Daten trainiert, nicht auf Ihren Verträgen, Ihren Akten oder Ihrer internen Dokumentation.
Das Ergebnis: Wenn Sie eine präzise Frage zu Ihrer Tätigkeit stellen, improvisiert es oder erfindet etwas. Das ist die berühmte «Halluzination». Für ernsthafte Arbeit unbrauchbar.
Ohne RAG
«Was besagt Klausel 4 meines Mustervertrags?» Die KI hat ihn nie gesehen. Sie antwortet vage oder erfindet eine plausible, aber falsche Klausel.
Mit RAG
Dieselbe Frage. Die KI findet Ihren Vertrag, liest Klausel 4 und antwortet, indem sie den genauen Text zitiert. Zuverlässig, überprüfbar, basierend auf Ihren Dokumenten.
RAG, einfach erklärt
RAG steht für «Retrieval Augmented Generation» (Abfragegestützte Generierung). Das Prinzip ist einfach: Anstatt sich nur auf das Gedächtnis des Modells zu verlassen, erhält es zum Zeitpunkt der Beantwortung Zugriff auf Ihre Dokumente.
Konkret werden Ihre Dateien zerlegt, indiziert und in einer spezialisierten Datenbank gespeichert. Wenn Sie eine Frage stellen, findet das System die relevanten Passagen und stellt sie dem Modell zur Verfügung, das dann eine Antwort basierend auf Ihren realen Daten erstellt.
Sie laden hoch
PDF, Word, Excel, Text: Ihre Dokumente werden auf die Maschine importiert.
Die Maschine indiziert
Die Dokumente werden lokal, einmalig zerlegt und indiziert.
Sie fragen ab
Sie stellen Ihre Fragen in natürlicher Sprache, die KI antwortet unter Zitierung Ihrer Dateien.
Warum «null Konfiguration» alles verändert
Ein RAG selbst einzurichten, ist nicht trivial. Man muss ein Embedding-Modell, eine Vektordatenbank auswählen, das Zerlegen der Dokumente einstellen, alles mit einem Sprachmodell und dann mit einer Schnittstelle verbinden. Jeder Schritt ist ein Reibungspunkt und eine Quelle für stille Fehler.
Für einen Fachmann, dessen Beruf nicht die Informatik ist, ist dies ein grosses Hindernis. Viele Projekte für lokale KI scheitern daran.
Wem dient ein lokales RAG
- Anwälte und Notare: Abfragen einer Datenbank von Verträgen, Rechtsprechung und Vorlagen unter Wahrung des Berufsgeheimnisses.
- Ärzte: Informationen in Protokollen und Empfehlungen finden, ohne Patientendaten preiszugeben.
- Wirtschaftsprüfer: Lehre, interne Verfahren und Akten abfragen, alles lokal behalten.
- Ingenieurbüros und Ingenieure: Suche in Normen, Lastenheften und umfangreichen technischen Berichten.
- Unternehmen: ihren Teams eine KI zur Verfügung stellen, die die interne Dokumentation, Verfahren und Historie kennt.
- Forscher: eine Bibliothek von Artikeln und Notizen in natürlicher Sprache abfragen.
RAG als Option für alle unsere KI-Stationen
Die RAG-Option wird für alle unsere KI-Stationen angeboten, von der CoreAI 16 bis zum Rack-Server. Sie können sie auf zwei Arten hinzufügen: direkt über den Online-Konfigurator auf der Produktseite oder über ein massgeschneidertes Angebot, wenn Sie spezifische Anforderungen haben (grosses Dokumentenvolumen, spezielle Formate, mehrere separate Datenbanken, Mehrbenutzerzugriff).
Beschreiben Sie uns Ihre Dokumente und Ihre Nutzung, und wir konfigurieren das passende RAG vor dem Versand. Schreiben Sie an contact@radiancesystems.eu oder nutzen Sie das Angebotsformular auf der Website.
Was die RAG-Option umfasst
- Ein Sprachmodell, das an Ihre Nutzung angepasst ist, installiert und bereit.
- Eine lokale Indizierungsmaschine, um Ihre Dokumente in eine abfragbare Basis umzuwandeln.
- Eine Dokumentenbasis, die vollständig auf der Maschine verbleibt.
- Eine Chat-Schnittstelle, zugänglich über einen Browser, ähnlich wie ChatGPT.
- Unterstützung gängiger Formate: PDF, Word, Excel, Text.
- Eine Einführung zum Hinzufügen Ihrer Dokumente und zum Stellen Ihrer ersten Fragen.
Welche Station für ein lokales RAG
RAG funktioniert auf allen unseren Stationen. Die Wahl hängt hauptsächlich vom Dokumentenvolumen und der Anzahl der Benutzer ab. Je grösser die Basis und je anspruchsvoller die Modelle, desto wichtiger sind VRAM und RAM.
Für grosse Unternehmen und Mehrbenutzerzugriffe
Wenn RAG von vielen Mitarbeitern gleichzeitig mit grossen Dokumentenbasen genutzt werden soll, ist ein High-End-Server erforderlich. Diese Konfigurationen bieten den VRAM, die Leistung und die Zuverlässigkeit, die notwendig sind, um grosse Modelle zu betreiben und mehreren Benutzern gleichzeitig ohne Verzögerung zu antworten.
Häufig gestellte Fragen
Was ist eine lokale KI-Station mit integriertem RAG?
Es ist eine Maschine, die die KI lokal ausführt und mit einem bereits installierten und konfigurierten RAG-System geliefert wird. Sie laden Ihre Dokumente hoch, und die KI kann sie in natürlicher Sprache abfragen, ohne technische Konfiguration und ohne dass Daten die Maschine verlassen.
Ist RAG standardmässig enthalten?
RAG wird als Option für alle unsere KI-Stationen angeboten. Sie können es über den Online-Konfigurator auf der Produktseite oder über ein massgeschneidertes Angebot für spezifische Anforderungen hinzufügen. Wir konfigurieren dann die gesamte Kette vor dem Versand.
Welche Dokumentenformate werden unterstützt?
Gängige Formate: PDF, Word, Excel und Text. Sie können Verträge, Berichte, Verfahren, Wissensdatenbanken importieren. Das System indiziert sie lokal, einmalig, und Sie können sie dann abfragen.
Bleiben meine Dokumente vertraulich?
Ja, vollständig. Mit einem lokalen RAG erfolgen Indizierung und Abfrage auf Ihrer Maschine. Es werden keine Dokumente an einen externen Server gesendet. Dies macht diese Lösung für Berufe, die dem Berufsgeheimnis und der DSGVO unterliegen, geeignet.
Sind technische Kenntnisse für die Nutzung erforderlich?
Nein. Bei der schlüsselfertigen RAG-Option ist alles vorinstalliert. Die Benutzeroberfläche ähnelt einem klassischen Chat-Tool. Sie fügen Ihre Dokumente hinzu und stellen Ihre Fragen, ohne eine Kommandozeile.
Kann die Dokumentenbasis aktualisiert werden?
Ja. Sie können jederzeit neue Dokumente hinzufügen; diese werden indiziert und sind dann abfragbar. Die Basis lebt mit Ihrer Tätigkeit.
Welche Maschine sollte ich für ein lokales RAG wählen?
Für den individuellen Gebrauch auf einer Standardbasis ist die CoreAI 16 (ab 1 703 €) ausreichend. Für grosse Volumina oder einen gemeinsamen Teamzugriff sind die CoreAI 64 oder der GB10-Server besser geeignet. RAG ist für jede dieser Optionen als Option verfügbar.
