Samo osobni podaci
postaju crni.
Noir je mali LLM samo za maskiranje: prima dokument i uputu što treba sakriti, a vraća popis mjesta koja toj uputi odgovaraju. Dokumente možete obraditi samo na internom CPU-u prije nego što odu van. Dok se pomičete, svjetlosna crta prelazi preko dokumenta.
JA担当の山田太郎です。お電話は03-0000-1234までお願いします。
ENPlease call Emily Carter at (555) 010-4477 before March 3.
DEFrau Anna Becker wohnt in der Lindenstraße 12, 10115 Berlin.
HRIvan Horvat (42 godine) javio je da je na bolovanju.
* Svi primjeri, imena i brojevi su izmišljeni. Gornji prikaz reproducira pripremljeni primjer.
Uputa se daje
običnim riječima.
„Osobni podaci“, „kontakti“, „ali ne i dob“. Kad uputu zadate onako kako inače govorite, u istom se dokumentu sakrivaju različita mjesta. Pritisnite gumb ili samo gledajte.
Predmet: Ogledna trgovina – potvrda sadržaja ugovora
Ogledna trgovina, Odjel općih poslova, n/r Ivan Horvat
Poštovani, ovdje Ana Kovač iz tvrtke Mačji podaci d.o.o.
U petak, 20. studenoga, željeli bismo s vama razgovarati o produljenju ugovora. Mjesečna naknada ostaje 480 €.
Čuli smo da je vaš kolega Marko Babić (42 godine) danas odsutan zbog bolova u leđima.
Javite nam se na 01 000 1234 ili na [email protected].
Adresa za slanje: Ogledna ulica 3, 5. kat, 10000 Zagreb
* Ovo polje prikazuje način rada i reproducira unaprijed zadane odgovore (pravi model ovdje ne radi). Svi su primjeri izmišljeni.
Sakriva manje
suvišnog od 120B.
Na po 100 dokumenata na japanskom i engleskom usporedili smo ga s modelom gpt-oss-120b (117 milijardi parametara), uz istu uputu. Listovi gore pokazuju primjer svake vrste pogreške. Stupci dolje pokazuju koliko se često ta pogreška događala – što kraći, to bolje.
* Izmjereno na vlastitom testu (studeni 2026., Q4_K_M, uz opća pravila za e-adrese, telefone, URL-ove i datume). Detaljni uvjeti nalaze se na kraju stranice.
Što je uputa nejasnija,
to je razlika veća.
Broj propusta uspoređujemo na vagi. Spušta se strana s više propusta. Kad su vrste jasno nabrojene, modeli su izjednačeni, ali kod nejasnih uputa poput „osobni podaci“ ili uz dodatak „ali ne i…“ razlika raste.
Noir0%
gpt-oss-120b0%
* Japanski i engleski zajedno. Stopa propusta (%, 1 polje = 1 %). Raspodjela uputa: nabrojene vrste 69 dokumenata, nejasna uputa 104, s iznimkom 27.
4 jezika,
rezultati za svaki.
Za svaki jezik postoji zaseban Noir (japanski i engleski dijele jedan). Žutom su označene brojke bolje od onih modela gpt-oss-120b.
- Za hrvatski i njemački stopa propusta gotovo je ista kao kod modela gpt-oss-120b. Većina propusta bili su datumi i vremena u europskom zapisu, poput „02.11.2026“ i „14:12 Uhr“.
- Kad se dodaju dva pravila koja hvataju takve datume i vremena, propusti bi prema našem izračunu pali s 31 na 23 % za hrvatski i s 25 na 15 % za njemački, što je manje nego kod modela gpt-oss-120b (24 % i 19 %). Planiramo ih ugraditi u proizvod. u planu
Natrag dobivate
JSON.
Pronađena mjesta vraća kao popis u kojem je sve što se odnosi na isto spojeno u jednu stavku. Nizovi su točno onakvi kakvi pišu u dokumentu, pa ih možete izravno pronaći u tekstu i zamijeniti.
Telefon g. Babića je 01 000 1234,
a e-adresa [email protected].
- id: ista osoba ili ista stvar spajaju se u jedno („Marku Babiću“ i „Babića“).
- type: naziv jedne od 48 vrsta. Vraća se na jeziku prompta (na hrvatskom npr. „ime osobe“).
- mentions: nizovi točno onakvi kakvi pišu u dokumentu. Ako ništa ne odgovara, vraća
[].
U sljedećem dokumentu pronađi sve
što odgovara zadanom cilju. … (skraćeno)
Izlaz je samo JSON niz: [{"id": "E1",
"type": "...", "mentions": ["..."]}]
Cilj:
osobni podaci, ali ne i dob
Način: maskiranje (bez replacements)
Dokument:
(ovdje dokument)Jedan dokument
za oko 20 sekundi.
Prikazujemo kako CPU prijenosnog računala (bez GPU-a) čita dokument od jedne stranice (u japanskom izvorniku oko 900 znakova) i vraća mjesta koja treba sakriti. Prikaz je ubrzan 5 puta, a sat pokazuje stvarne sekunde.
0.0subrzano 5×
Čitanje dokumentaPisanje mjesta za sakrivanje
Sakriveno 0 / 0
- Uputa
- ime osobe, broj telefona, e-adresa, adresa
- Čitanje
- oko 140 tokena/s
- Pisanje
- oko 24 tokena/s
- Oprema
- Core i7-11800H, 8 dretvi
- Kad tom brzinom obrađuje dokument za dokumentom, jedno računalo obradi oko 170.000 znakova na sat.
- Kad se na GPU-u istodobno obrađuje 16 dokumenata, 100 dokumenata gotovo je za oko 20 sekundi (gpt-oss-120b: oko 90 sekundi). interno mjerenje
* Dokument i sakrivena mjesta su primjer (na ovoj stranici ne radi nikakav model). Vrijeme je izračunano iz interno izmjerenih brzina čitanja i pisanja. Različiti izrazi za istu osobu spajaju se i sakrivaju odjednom.
Tekst mu dajte
izrezan na 1.000 znakova.
Dugi dokument najprije se izreže na komade od oko 1.000 znakova, koji se predaju jedan po jedan. Kad je duljina ista kao pri treniranju, propusta je manje. Rezultati se na kraju spajaju i kombiniraju s pravilima koja hvataju ustaljene oblike e-adresa, telefona, URL-ova i datuma.
Pokretanje (llama.cpp)
llama-server -m noir-ja-en-Q4_K_M.gguf \ -c 16384 -t 8 -np 1 --jinja --port 8191
ObjavljenoPreuzmite težine →
- Način razmišljanja isključite (
enable_thinking: false) i koristitetemperature 0. - Model se bira prema jeziku: ja-en za japanski i engleski, de-en za njemački, hr-en za hrvatski.
- Na CPU-u (Core i7-11800H, 8 dretvi) komad od 1.000 znakova traje oko 20 sekundi. interno mjerenje
Isti dokument,
drukčije zacrnjen jednom uputom.
Na oglednim dokumentima možete isprobati različite upute. Kad promijenite uputu, u istom se dokumentu sakrivaju druga mjesta. Možete vidjeti i prompt koji se šalje modelu i JSON koji se vraća.
1Odaberite dokument
2Odaberite uputupokreće se odmah
Ili sami odaberite vrste
Prompt koji se šalje modelu
JSON koji se vraća
[]
Kako smo mjerili
i vaš upit.
- Dokumenti: po 100 na japanskom, engleskom, njemačkom i hrvatskom. To su izmišljeni dokumenti napisani za test – e-poruke, zapisnici, kadrovske bilješke, računi, medicinski podaci i slično – u kojima su mjesta koja treba sakriti označena kao točan odgovor.
- Upute: za svaki dokument jedna od triju vrsta – „nabrojene vrste“, „nejasan izraz“ ili „s iznimkom“. Isti je prompt dobio i gpt-oss-120b (reasoning effort medium).
- Mjerila: propust = udio točnih mjesta koja su ostala vidljiva; višak = udio sakrivenih mjesta koja nije trebalo sakriti; mimo upute = udio sakrivenih mjesta čija vrsta nije bila zadana.
- Provedeno: studeni 2026., Q4_K_M. Pregledat ćemo prije službene objave.