Nur Personendaten
werden schwarz.
Noir ist ein kleines LLM nur fürs Schwärzen: Es erhält ein Dokument und die Angabe, was geschwärzt werden soll, und liefert eine Liste der passenden Stellen. So bearbeiten Sie Dokumente allein mit der CPU im eigenen Haus, bevor sie nach außen gehen. Beim Scrollen wandert eine Lichtlinie über das Dokument.
JA担当の山田太郎です。お電話は03-0000-1234までお願いします。
ENPlease call Emily Carter at (555) 010-4477 before March 3.
DEFrau Anna Becker wohnt in der Lindenstraße 12, 10115 Berlin.
HRIvan Horvat (42 godine) javio je da je na bolovanju.
* Beispieltexte, Namen und Nummern sind frei erfunden. Der Ablauf oben ist ein abgespieltes Muster.
Die Anweisung:
in normalen Worten.
„Personenbezogene Daten“, „Kontaktdaten“, „aber ohne das Alter“: Sagen Sie es so, wie Sie es sonst auch sagen. Je nach Anweisung werden im selben Dokument andere Stellen geschwärzt. Klicken Sie auf eine Schaltfläche oder schauen Sie einfach zu.
Betreff: Muster Handel GmbH – Bestätigung Ihrer Vertragsdaten
Muster Handel GmbH, Verwaltung, Herrn Max Mustermann
Guten Tag, hier schreibt Erika Musterfrau von der Katzendaten GmbH.
Am Freitag, 20. November würde ich gern mit Ihnen über die Verlängerung Ihres Vertrags sprechen. Der Monatspreis bleibt bei 480 €.
Wie ich höre, fehlt Ihr Ansprechpartner Herr Jan Beispiel (42 Jahre) heute wegen Rückenschmerzen.
Sie erreichen mich unter 030 23125 014 oder [email protected].
Versand an: Musterstraße 1, 5. OG, 12345 Musterstadt
* Dieses Feld ist ein Muster und spielt feste Ergebnisse ab (das echte Modell läuft hier nicht). Alle Beispieltexte sind frei erfunden.
Schwärzt seltener
zu viel als 120B.
Mit je 100 Dokumenten auf Japanisch und Englisch haben wir Noir und gpt-oss-120b (117 Mrd. Parameter) dieselbe Anweisung gegeben und die Ergebnisse verglichen. Die Blätter oben zeigen je ein Beispiel für jede Art von Fehler. Die Balken darunter zeigen, wie oft der Fehler auftrat – je kürzer, desto besser.
* Messung mit einem eigenen Test (November 2026, Q4_K_M, kombiniert mit allgemeinen Regeln für E-Mail, Telefon, URL und Datum). Die genauen Bedingungen stehen am Ende der Seite.
Je vager die Anweisung,
desto größer der Abstand.
Die Waage vergleicht, wie viel übersehen wird: Die Seite mit mehr ungeschwärzten Stellen sinkt. Werden die Kategorien klar aufgezählt, liegen beide gleichauf. Bei vagen Anweisungen wie „personenbezogene Daten“ oder mit einem „aber ohne …“ wächst der Abstand.
Noir0%
gpt-oss-120b0%
* Japanisch und Englisch zusammen. Anteil übersehener Stellen (%, 1 Feld = 1 %). Aufteilung der Anweisungen: 69 mit aufgezählten Kategorien, 104 vage, 27 mit Ausnahme.
4 Sprachen,
jede mit ihrem Ergebnis.
Für jede Sprache gibt es ein eigenes Noir (Japanisch und Englisch teilen sich eines). Gelb markiert sind die Werte, die besser sind als bei gpt-oss-120b.
- Bei Kroatisch und Deutsch übersieht Noir etwa so viel wie gpt-oss-120b. Die meisten übersehenen Stellen waren Datums- und Zeitangaben in europäischer Schreibweise wie „02.11.2026“ oder „14:12 Uhr“.
- Mit zwei zusätzlichen Regeln für solche Datums- und Zeitangaben sinkt der Anteil übersehener Stellen nach unserer Hochrechnung bei Kroatisch von 31 auf 23 % und bei Deutsch von 25 auf 15 % – und liegt damit unter gpt-oss-120b (24 % und 19 %). Der Einbau ins Produkt ist vorgesehen. geplant
Zurück kommt
JSON.
Noir liefert die gefundenen Stellen als Liste; Gleiches ist zusammengefasst. Die Zeichenfolgen stehen genau so im Dokument – Sie können sie direkt im Text suchen und ersetzen.
Herr Beispiel ist telefonisch unter 030 23125 014
und per E-Mail unter [email protected] erreichbar.
- id: Dieselbe Person oder Sache wird zu einem Eintrag zusammengefasst („Jan Beispiel“ und „Beispiel“).
- type: Name einer der 48 Kategorien, in der Sprache des Prompts (auf Deutsch etwa „Personenname“).
- mentions: Zeichenfolgen genau so, wie sie im Dokument stehen. Trifft nichts zu, kommt
[].
Finde im folgenden Dokument alles,
was auf das Ziel zutrifft. … (gekürzt)
Ausgabe nur als JSON-Array: [{"id": "E1",
"type": "...", "mentions": ["..."]}]
Ziel:
Personenbezogene Daten, aber ohne das Alter
Verfahren: Schwärzung (ohne replacements)
Dokument:
(hier das Dokument)Ein Dokument
in rund 20 Sekunden.
Auf der CPU eines Laptops (ohne GPU): ein Dokument mit rund 900 Zeichen lesen und die zu schwärzenden Stellen ausgeben – hier nachgespielt. Die Wiedergabe läuft mit fünffacher Geschwindigkeit, die Uhr zeigt die echten Sekunden.
0.0s5-fache Geschwindigkeit
Dokument lesenStellen ausgeben
Geschwärzt 0 / 0
- Anweisung
- Personenname, Telefonnummer, E-Mail-Adresse, Adresse
- Lesen
- ca. 140 Token/s
- Schreiben
- ca. 24 Token/s
- Hardware
- Core i7-11800H, 8 Threads
- Bei diesem Tempo schafft ein einzelner Rechner nacheinander rund 170.000 Zeichen pro Stunde.
- Auf einer GPU mit 16 gleichzeitigen Anfragen waren 100 Dokumente in rund 20 Sekunden fertig (gpt-oss-120b: rund 90 Sekunden). intern gemessen
* Dokument und Schwärzungen sind Muster (auf dieser Seite läuft kein Modell). Die Zeiten sind aus dem intern gemessenen Lese- und Schreibtempo berechnet. Bezeichnungen für dieselbe Person werden zusammengefasst und auf einmal geschwärzt.
In Stücke zu 1.000 Zeichen
schneiden und übergeben.
Lange Dokumente werden in Stücke von etwa 1.000 Zeichen geschnitten und einzeln übergeben. Das entspricht der Länge aus dem Training – so wird weniger übersehen. Am Ende werden die Ergebnisse zusammengeführt und mit Regeln kombiniert, die feste Formate wie E-Mail, Telefon, URL und Datum erkennen.
Start (llama.cpp)
llama-server -m noir-ja-en-Q4_K_M.gguf \ -c 16384 -t 8 -np 1 --jinja --port 8191
VerfügbarGewichte herunterladen →
- Thinking-Modus ausschalten (
enable_thinking: false) und mittemperature 0verwenden. - Wählen Sie das Modell nach Sprache: ja-en für Japanisch und Englisch, de-en für Deutsch, hr-en für Kroatisch.
- Auf der CPU (Core i7-11800H, 8 Threads) dauert ein Stück von 1.000 Zeichen rund 20 Sekunden. intern gemessen
Ein Dokument, eine Anweisung –
und andere Stellen sind schwarz.
Wählen Sie zu einem Musterdokument eine Anweisung und probieren Sie es aus. Mit einer anderen Anweisung werden im selben Dokument andere Stellen geschwärzt. Den Prompt an das Modell und das zurückgegebene JSON können Sie sich unverändert ansehen.
1Dokument wählen
2Anweisung wählenstartet sofort
Oder Kategorien selbst wählen
Prompt an das Modell
Zurückgegebenes JSON
[]
Messmethode
und Anfrage.
- Dokumente: je 100 auf Japanisch, Englisch, Deutsch und Kroatisch. E-Mails, Protokolle, Personalnotizen, Rechnungen, Behandlungsunterlagen und mehr – fiktive, für den Test geschriebene Dokumente, in denen die zu schwärzenden Stellen als Lösung markiert sind.
- Anweisungen: pro Dokument eine von drei Arten – „Kategorien aufgezählt“, „vage formuliert“ oder „mit Ausnahme“. gpt-oss-120b (reasoning effort medium) erhielt denselben Prompt.
- Messgrößen: Übersehen = Anteil der Lösungsstellen, die stehen blieben. Zu viel = Anteil der geschwärzten Stellen, die unnötig waren. Regelbruch = Anteil der Schwärzungen in Kategorien, die nicht verlangt waren.
- Durchgeführt: November 2026, Q4_K_M. Vor der offiziellen Veröffentlichung prüfen wir die Werte noch einmal.