Blueprint: Wissens-Assistent auf den eigenen Dokumenten, samt Löschkonzept

Dokumente wandern in einen Index, eure Leute stellen Fragen, die Antwort nennt die Quelle, und wird ein Dokument in der Ablage gelöscht, verschwindet es im selben Lauf aus dem Index.

Der erste Teil ist in zwei Wochen gebaut und sieht in der Demo hervorragend aus. Der letzte Teil ist der, an dem die Piloten liegen bleiben, weil er vor dem Bau eine Entscheidung verlangt und nicht nach dem Bau eine Konfiguration.

Die Kette im Überblick

Die Kette hat vier Teile: eine Ablage, aus der sie liest, einen Index, in dem sie sucht, ein Sprachmodell, das aus den gefundenen Stellen eine Antwort formuliert, und einen Löschlauf, der Ablage und Index gemeinsam leert. Der Aufbau heißt RAG, Retrieval Augmented Generation, und die Konferenz der unabhängigen Datenschutzaufsichtsbehörden hat ihm im Oktober 2025 eine eigene Orientierungshilfe gewidmet (Version 1.0).

Was die Kette nicht tut: auf Wissen zurückgreifen, das nur im Sprachmodell steckt. Die Antwort kommt aus euren Dokumenten oder sie kommt nicht. Feintuning auf den eigenen Unterlagen ist eine andere Architektur mit anderen Folgen, und die wichtigste davon betrifft das Löschen.

Die Kette, Schritt für Schritt

1. Auslöser: Änderung in der Ablage. Ein neues, geändertes oder gelöschtes Dokument im Verzeichnis, das ohnehin benutzt wird, startet den Lauf. Keine zweite Ablage, in die erst jemand etwas hochladen muss, denn die bleibt nach vier Wochen leer.

2. Zerlegen. Ein Dokument wird in Abschnitte geschnitten, die für sich lesbar sind. Wo die Schnitte liegen, entscheidet später über die Trefferqualität, und ein Vertrag schneidet sich anders als ein Wiki-Artikel.

3. Einbetten. Jeder Abschnitt wird von einem Einbettungsmodell in einen Vektor übersetzt. Vektor und Abschnitt liegen zusammen im Index, mit der Kennung des Quelldokuments daneben. Diese Kennung ist der ganze Löschmechanismus, weshalb sie von Anfang an mitgeschrieben gehört.

4. Suche mit den Rechten des Fragenden. Die Suche läuft nicht über den gesamten Index, sondern über den Teil, den diese Person auch in der Ablage sehen darf. Die DSK weist darauf hin, dass sich Zugangsbeschränkungen genau hier abbilden lassen, während im Sprachmodell selbst nicht gesteuert werden kann, welche Nutzer auf welche Informationen zugreifen dürfen.

5. Antwort formulieren. Das Modell bekommt die gefundenen Abschnitte und die Anweisung, ausschließlich mit ihnen zu antworten. Genau diese Anweisung nennt die DSK als Maßnahme gegen den Fall, dass das Modell bei widersprüchlichen Inhalten sein Trainingswissen wiedergibt und die Dokumente verwirft.

6. Quelle anzeigen. Jede Antwort trägt Dokument, Abschnitt und Datum. Über diese Funktion entscheidet die Akzeptanz, und laut DSK stellt sie Nachvollziehbarkeit und Transparenz des Modell-Inputs überhaupt erst her.

7. Löschlauf. Verschwindet ein Dokument aus der Ablage, verschwinden im selben Lauf alle Abschnitte und Vektoren mit seiner Kennung. Nicht als Nachtjob, der irgendwann aufräumt, sondern als Teil derselben Kette.

Das Löschkonzept

Ein Löschkonzept legt fest, welche Datenarten es im Betrieb gibt, nach welcher Frist jede gelöscht wird und wann diese Frist zu laufen beginnt. Diese Struktur beschrieb DIN 66398:2016-05 auf 59 Seiten; die Norm ist zurückgezogen und seit Ausgabe 2025-09 durch DIN EN ISO/IEC 27555 ersetzt.

Für einen Wissens-Assistenten bekommt dieses Konzept eine zusätzliche Spalte für den Ort jeder Kopie. Ein Satz aus einer Personalakte liegt nach dem Indexlauf im Quelldokument, im Abschnitt, im Vektor, im Protokoll der Abfrage und je nach Aufbau im Zwischenspeicher der Antworten. Wer nur das Quelldokument löscht, hat vier Kopien stehen gelassen.

Zum Index selbst sagt die Orientierungshilfe:

Diese Einträge sind direkt adressierbar und damit auch personenbezogene Daten gezielt löschbar.

So beschreibt die DSK die Einträge in der Vektordatenbank, und sie hält fest, dass klassische Mechanismen zur Löschung nach Ablauf von Aufbewahrungsfristen damit sowohl für den Index als auch für die Referenzdokumente nutzbar sind. Der Index ist also kein Sonderfall, sondern eine Datenbank wie andere auch. Er muss nur in der Liste stehen.

Art. 17 Abs. 1 DSGVO verlangt die unverzügliche Löschung, sobald einer der genannten Gründe zutrifft, unter Buchstabe a schon dann, wenn die Daten für ihren Zweck nicht mehr notwendig sind. Die Frist für die Antwort an die betroffene Person steht daneben:

Art. 12 Abs. 3 DSGVO gibt dem Verantwortlichen einen Monat ab Eingang, um über die Erledigung eines Löschantrags zu informieren, verlängerbar um zwei weitere Monate je nach Komplexität und Zahl der Anträge.

Verordnung (EU) 2016/679, Art. 12 Abs. 3, abgerufen am 7. Oktober 2026

Ein Monat klingt reichlich, reicht aber nicht, wenn niemand sagen kann, in welchen fünf Systemen der Satz steht und wer dort löschen darf.

Die Grenze am Sprachmodell

Was aus dem Index verschwindet, verschwindet nicht aus dem Sprachmodell. Die DSK formuliert das knapp: „Ungeachtet der Vorteile eines RAG-Systems bleiben die Probleme bei der Datenlöschung im Sprachmodell bestehen.“ An anderer Stelle hält sie fest, dass die Umsetzung von Betroffenenrechten in KI-Modellen, insbesondere in großen Sprachmodellen, weitgehend ungelöst ist.

Daraus folgt eine Bauregel, die den Unterschied zwischen einem Piloten und einem Betrieb macht: Die Dokumente gehen in den Index und nicht ins Training. Sobald jemand auf euren Unterlagen feintunt, wandert der Inhalt in Gewichte, und aus einem adressierbaren Datenbankeintrag wird ein Problem ohne Löschtaste. Wo trotzdem Personendaten im Spiel sind, lohnt der Blick auf das, was vor dem Modell herausgenommen werden kann.

Der Prompt ist selbst eine Verarbeitung. Was ein Anbieter mit Eingaben und Antworten macht und wie lange er sie aufbewahrt, gehört in den Vertrag und in das Löschkonzept. Flüchtig sind sie nur, wenn es dort steht.

Die DSK hält außerdem fest, dass für die Verarbeitung der Referenzdokumente und der Vektordatenbank eine Rechtsgrundlage vorliegen muss. Der Indexlauf ist eine eigene Verarbeitung, nicht die Verlängerung der Ablage.

Was es kostet

Das Einbetten ist der billigste Teil der Kette. OpenAI gibt für text-embedding-3-small 62.500 Seiten pro Dollar an, bei 0,02 US-Dollar je Million Token. Umgerechnet kostet diese Menge rund 0,89 Euro (EZB-Referenzkurs 1,1269 US-Dollar je Euro, Stand 6. Oktober 2026). Das größere Modell text-embedding-3-large kommt auf 9.615 Seiten pro Dollar. Wer eine europäische Alternative sucht, findet bei Mistral ein allgemeines Text-Einbettungsmodell, für das die Preisseite keinen Satz nennt, während dort nur das auf Code zugeschnittene Codestral Embed mit 0,15 US-Dollar je Million Token steht, rund 0,13 Euro.

Das Geld steckt woanders: in den Rechten auf der Ablage, in der Frage, welche Verzeichnisse überhaupt hinein dürfen, und im Löschlauf. Die Spanne für einen produktiven Anwendungsfall im Mittelstand gilt auch hier, und sie verschiebt sich nach oben, je verstreuter die Ablage ist. Wer bei diesem Anwendungsfall über Token-Preise verhandelt, verhandelt die kleinste Position im Angebot.

Was gemessen werden muss

Drei Zahlen zeigen ab dem ersten Tag im Betrieb, ob die Kette arbeitet.

Anteil der Antworten mit angezeigter Quelle. Eine Antwort ohne Fundstelle ist in diesem Aufbau ein Fehler. Fällt die Quote, antwortet das Modell an den Dokumenten vorbei.

Anteil der Fragen ohne Treffer. Er sagt, ob die richtigen Verzeichnisse im Index sind, und er erklärt, warum ein Assistent nach drei Wochen nicht mehr benutzt wird.

Laufzeit vom Löschen in der Ablage bis zum Verschwinden aus dem Index. Diese Zahl ist der Beweis, dass das Löschkonzept arbeitet, und ein Prüfer fragt nach ihr. Verstöße gegen die Betroffenenrechte aus Art. 12 bis 22 fallen unter den höheren Bußgeldrahmen des Art. 83 Abs. 5 DSGVO: bis zu 20 Millionen Euro oder, im Fall eines Unternehmens, bis zu 4 Prozent des gesamten weltweit erzielten Jahresumsatzes des vorangegangenen Geschäftsjahrs, je nachdem, welcher Betrag höher ist.

Ohne diese drei Zahlen merkt niemand, wenn der Index still auseinanderläuft, und genau daran bleiben Piloten vor der Produktion hängen.

Häufig gestellte Fragen