Lokale KI-Station mit integriertem RAG: Ihre Dokumente ab Lieferung abfragbar
Stellen Sie sich eine KI vor, die Ihre Dokumente bereits kennt. Sie stellen eine Frage zu einem Vertrag, einem Bericht oder einer internen Richtlinie — und sie antwortet unter Nennung Ihrer eigenen Dateien, ohne dass etwas Ihr Büro verlässt. Das ermöglicht RAG. Und auf unseren Stationen kann es einsatzbereit geliefert werden: keine Konfiguration, Ihre Dokumente sind direkt nach dem Auspacken abfragbar.
Das Problem, das RAG löst
Ein KI-Modell kennt Ihre Dokumente, so leistungsfähig es auch sein mag, nicht. Es wurde mit allgemeinen Daten trainiert, nicht mit Ihren Verträgen, Akten oder internen Dokumentationen.
Das Ergebnis: Wenn Sie ihm eine präzise Frage zu Ihrer Tätigkeit stellen, improvisiert es oder erfindet eine Antwort. Das ist die berühmte „Halluzination“. Für eine ernsthafte Arbeit ist das unbrauchbar.
Ohne RAG
„Was besagt Klausel 4 meines Mustervertrags?“ Die KI hat sie nie gesehen. Sie antwortet vage oder erfindet eine plausible, aber falsche Klausel.
Mit RAG
Dieselbe Frage. Die KI findet Ihren Vertrag, liest Klausel 4 und antwortet unter Nennung des genauen Textes. Zuverlässig, überprüfbar, basierend auf Ihren Dokumenten.
RAG einfach erklärt
RAG steht für „Retrieval Augmented Generation“. Das Prinzip ist einfach: Anstatt sich nur auf das Gedächtnis des Modells zu verlassen, erhält es beim Antworten Zugriff auf Ihre Dokumente.
Konkret werden Ihre Dateien zerlegt, indiziert und in einer spezialisierten Datenbank gespeichert. Wenn Sie eine Frage stellen, findet das System die relevanten Passagen und stellt sie dem Modell zur Verfügung, das dann eine Antwort auf Basis Ihrer tatsächlichen Daten formuliert.
Sie legen ein
PDF, Word, Excel, Text: Ihre Dokumente werden auf die Maschine importiert.
Die Maschine indiziert
Die Dokumente werden lokal einmalig zerlegt und indiziert.
Sie stellen Fragen
Sie stellen Ihre Fragen in natürlicher Sprache, die KI antwortet unter Nennung Ihrer Dateien.
Warum „Nullkonfiguration“ alles verändert
Ein RAG selbstständig einzurichten, ist keine einfache Aufgabe. Man muss ein Embedding-Modell auswählen, eine Vektordatenbank einrichten, die Dokumentzerlegung konfigurieren, alles mit einem Sprachmodell verbinden und anschließend eine Benutzeroberfläche anbinden. Jeder Schritt ist eine Fehlerquelle und kann zu unbemerkten Fehlern führen.
Für Fachleute, deren Beruf nicht die Informatik ist, stellt dies ein großes Hindernis dar. Viele Projekte für lokale KI scheitern genau hier.
Für wen ist lokales RAG geeignet?
- Anwälte und Notare: Abfrage einer Datenbank mit Verträgen, Rechtsprechung und Mustern unter Wahrung des Berufsgeheimnisses.
- Ärzte: Auffinden von Informationen in Protokollen und Empfehlungen, ohne Patientendaten preiszugeben.
- Steuerberater: Abfrage von Fachmeinungen, internen Verfahren und Akten, wobei alles lokal bleibt.
- Planungsbüros und Ingenieure: Suche in Normen, Lastenheften und umfangreichen technischen Berichten.
- Unternehmen: Bereitstellung einer KI für ihre Teams, die die interne Dokumentation, Verfahren und Historie kennt.
- Forscher: Abfrage einer Bibliothek von Artikeln und Notizen in natürlicher Sprache.
RAG als Option für alle unsere KI-Stationen
Die RAG-Option ist für alle unsere KI-Stationen verfügbar, von der CoreIA RTX 5060 Ti bis zum Rack-Server. Sie können sie auf zwei Arten hinzufügen: direkt über den Online-Konfigurator auf der Produktseite oder über ein individuelles Angebot, wenn Sie spezielle Anforderungen haben (große Dokumentenmengen, besondere Formate, mehrere separate Datenbanken, Mehrbenutzerzugang). So lässt sich RAG zu jeder lokalen KI-Station aus unserem Sortiment hinzufügen.
Beschreiben Sie uns Ihre Dokumente und Ihre Nutzung, und wir konfigurieren das passende RAG vor dem Versand. Schreiben Sie an contact@radiancesystems.eu oder nutzen Sie das Angebotsformular auf der Website.
Was die RAG-Option umfasst
- Ein Sprachmodell, das auf Ihre Nutzung abgestimmt, installiert und einsatzbereit ist.
- Ein lokaler Indexierungsmotor, um Ihre Dokumente in eine abfragbare Datenbank umzuwandeln.
- Eine Dokumentendatenbank, die vollständig auf der Maschine bleibt.
- Eine Chat-Oberfläche, die über einen Browser wie ChatGPT zugänglich ist.
- Unterstützung gängiger Formate: PDF, Word, Excel, Text.
- Eine Einführung, um Ihre Dokumente hinzuzufügen und Ihre ersten Fragen zu stellen.
Welche Station eignet sich für lokales RAG?
RAG funktioniert auf allen unseren Stationen. Die Wahl hängt vor allem von der Dokumentenmenge und der Anzahl der Benutzer ab. Je größer die Datenbank und je anspruchsvoller die Modelle sind, desto wichtiger werden VRAM und RAM.
CoreIA RTX 5060 TiRAG für Einzelnutzer, gängige Dokumentendatenbanken.
2 068 €
CoreIA Radeon AI PRO R9700RAG für große Dokumentenmengen, 30B-Modelle mit 8 Bit.
4 162 €
CoreIA RTX 5090RAG mit 30B-Modellen mit 8 Bit, hochwertige Antworten.
10 291 €
CoreIA GB10 (ASUS Ascent GX10)RAG für kleine Teams über das lokale Netzwerk.
6 999 €
Für Großunternehmen und Mehrbenutzerzugang
Wenn RAG gleichzeitig vielen Mitarbeitern bei umfangreichen Dokumentendatenbanken zur Verfügung stehen soll, ist ein High-End-Server erforderlich. Diese Konfigurationen bieten den VRAM, die Leistung und die Zuverlässigkeit, die benötigt werden, um große Modelle auszuführen und mehreren Benutzern gleichzeitig ohne Leistungseinbußen zu antworten.
CoreIA 2x RTX 5090 (4U-Rack, 64 GB)RAG-Server für Mehrbenutzer, große Dokumentenmengen, 4U-Rack-Format.
20 954 €
CoreIA Threadripper PRO 4 GPU96 GB VRAM (bis zu 4 GPUs), ECC-RAM, sehr große Dokumentendatenbanken, Unternehmenszuverlässigkeit.
32 647 €
CoreIA 2x RTX PRO 6000 (192 GB ECC)RAG für Unternehmen, größere Modelle, 24/7-Verfügbarkeit.
48 508 €
Häufig gestellte Fragen
Was ist eine lokale KI-Station mit integriertem RAG?
Das ist eine Maschine, die die KI lokal ausführt und mit einem bereits installierten und konfigurierten RAG-System geliefert wird. Sie legen Ihre Dokumente ab, und die KI kann sie in natürlicher Sprache abfragen, ohne technische Konfiguration und ohne dass Daten die Maschine verlassen.
Ist RAG standardmäßig enthalten?
RAG ist für alle unsere KI-Stationen als Option verfügbar. Sie können es über den Online-Konfigurator auf der Produktseite oder über ein individuelles Angebot für einen speziellen Bedarf hinzufügen. Wir konfigurieren dann die vollständige Kette vor dem Versand.
Welche Dokumentformate werden unterstützt?
Gängige Formate: PDF, Word, Excel und Text. Sie können Verträge, Berichte, Verfahren und Wissensdatenbanken importieren. Das System indiziert sie einmalig lokal, danach können Sie sie abfragen.
Bleiben meine Dokumente vertraulich?
Ja, vollständig. Bei einem lokalen RAG erfolgen die Indizierung und Abfrage auf Ihrer Maschine. Kein Dokument wird an einen externen Server gesendet. Deshalb ist diese Lösung für Berufe geeignet, die dem Berufsgeheimnis und der DSGVO unterliegen.
Sind technische Kenntnisse für die Nutzung erforderlich?
Nein. Mit der einsatzbereiten RAG-Option ist alles vorinstalliert. Die Oberfläche ähnelt einem klassischen Chat-Tool. Sie fügen Ihre Dokumente hinzu und stellen Ihre Fragen, ganz ohne Befehlszeile.
Kann die Dokumentendatenbank aktualisiert werden?
Ja. Sie können jederzeit neue Dokumente hinzufügen; sie werden indiziert und sind anschließend abfragbar. Die Datenbank wächst mit Ihrem Unternehmen mit.
Welche Maschine eignet sich für lokales RAG?
Für den individuellen Einsatz mit einer gängigen Datenbank eignet sich die CoreIA RTX 5060 Ti (ab 2 068 €). Für große Dokumentenmengen oder einen gemeinsamen Teamzugang sind die CoreIA Radeon AI PRO R9700, die CoreIA RTX 5090 oder die CoreIA GB10 besser geeignet. RAG ist bei jeder davon als Option verfügbar.
