सिर्फ़ निजी जानकारी,
काली।
Noir मास्किंग के लिए बना एक छोटा LLM है: आप दस्तावेज़ और “क्या ढकना है” बताते हैं, और यह मेल खाने वाली जगहों की सूची लौटाता है। बाहर भेजने से पहले दस्तावेज़ को सिर्फ़ कंपनी के CPU पर प्रोसेस किया जा सकता है। स्क्रॉल कीजिए, रोशनी की एक रेखा दस्तावेज़ पर से गुज़रेगी।
JA担当の山田太郎です。お電話は03-0000-1234までお願いします。
ENPlease call Emily Carter at (555) 010-4477 before March 3.
DEFrau Anna Becker wohnt in der Lindenstraße 12, 10115 Berlin.
HRIvan Horvat (42 godine) javio je da je na bolovanju.
※ उदाहरण, नाम और नंबर सब काल्पनिक हैं। ऊपर का दृश्य एक नमूने का प्लेबैक है।
निर्देश दीजिए
आम बोलचाल में।
“निजी जानकारी”, “संपर्क विवरण”, “लेकिन आयु को छोड़कर”। आम बोलचाल में निर्देश दीजिए, और एक ही दस्तावेज़ में ढकी जाने वाली जगहें बदल जाती हैं। बटन दबाइए या बस देखते रहिए।
विषय: नमूना ट्रेडर्स – अनुबंध के ब्योरे की पुष्टि
नमूना ट्रेडर्स, प्रशासन विभाग, श्री राहुल वर्मा
नमस्कार। मैं बिल्ली डेटा प्राइवेट लिमिटेड से नेहा शर्मा हूँ।
20 नवंबर (शुक्रवार) को अनुबंध के नवीनीकरण पर आपसे बात करना चाहती हूँ। मासिक शुल्क पहले की तरह 48,000 रुपये ही रहेगा।
पता चला कि आपके यहाँ के श्री अमित गुप्ता (42 वर्ष) कमर दर्द के कारण आज छुट्टी पर हैं।
संपर्क के लिए 011-0000-1234 या [email protected]।
भेजने का पता: पाँचवीं मंज़िल, नमूना भवन, 12 नमूना मार्ग, नई दिल्ली 110000
※ यह बॉक्स काम का नमूना है और तय जवाब चलाता है (असली मॉडल यहाँ नहीं चल रहा)। सारे उदाहरण काल्पनिक हैं।
120B की तरह
ज़रूरत से ज़्यादा नहीं ढकता।
जापानी और अंग्रेज़ी के 100-100 दस्तावेज़ों पर हमने gpt-oss-120b (117 अरब पैरामीटर) को वही निर्देश देकर तुलना की। ऊपर के काग़ज़ हर तरह की ग़लती का नमूना हैं। नीचे की पट्टियाँ बताती हैं कि वह ग़लती कितनी बार हुई: पट्टी जितनी छोटी, नतीजा उतना अच्छा।
※ हमारे अपने बनाए टेस्ट में मापे गए आँकड़े (नवंबर 2026, Q4_K_M; ईमेल, फ़ोन, URL और तारीख़ के सामान्य नियम साथ में इस्तेमाल हुए)। पूरी शर्तें पेज के अंत में हैं।
निर्देश जितना अस्पष्ट,
फ़र्क़ उतना बड़ा।
ढकने से छूटी जगहों की तुलना तराज़ू पर होती है। जिसकी चूक ज़्यादा, उसका पलड़ा नीचे। प्रकार साफ़-साफ़ गिनाने वाले निर्देश में दोनों बराबर हैं, पर “निजी जानकारी” जैसे अस्पष्ट निर्देश या “लेकिन … को छोड़कर” जुड़ने पर फ़र्क़ बढ़ जाता है।
Noir0%
gpt-oss-120b0%
※ जापानी और अंग्रेज़ी का जोड़। चूक की दर (%, 1 खाना = 1%)। निर्देशों का बँटवारा: प्रकार गिनाने वाले 69, अस्पष्ट 104, अपवाद वाले 27 दस्तावेज़।
4 भाषाएँ,
हर एक के नतीजे।
हर भाषा के लिए अलग Noir है (जापानी और अंग्रेज़ी का साझा)। पीले आँकड़े gpt-oss-120b से बेहतर हैं।
- क्रोएशियाई और जर्मन में चूक लगभग gpt-oss-120b के बराबर है। ज़्यादातर चूक “02.11.2026” या “14:12 Uhr” जैसी यूरोपीय ढंग की तारीख़ों और समय पर हुई।
- इस ढंग की तारीख़ और समय पकड़ने वाले 2 नियम जोड़ने पर, हमारे अनुमान में चूक क्रोएशियाई में 31→23% और जर्मन में 25→15% रह जाती है, यानी gpt-oss-120b (24% और 19%) से कम। इन्हें प्रोडक्ट में शामिल करने की योजना है। जल्द
जवाब में मिलता है
JSON।
मिली हुई जगहें एक सूची में लौटती हैं, जिसमें एक ही चीज़ के उल्लेख साथ रखे जाते हैं। शब्द ठीक वैसे ही होते हैं जैसे दस्तावेज़ में लिखे हैं, इसलिए उन्हें पाठ में सीधे खोजकर बदला जा सकता है।
- id: एक ही व्यक्ति या चीज़ एक में समेटी जाती है (“अमित गुप्ता” और “गुप्ता”)।
- type: 48 प्रकारों में से एक का नाम। प्रॉम्प्ट की भाषा में लौटता है (यहाँ “व्यक्ति का नाम”)।
- mentions: ठीक वही शब्द जो दस्तावेज़ में लिखे हैं। कुछ न मिले तो
[]।
नीचे दिए गए दस्तावेज़ में से वे सभी चीज़ें
खोजिए जो लक्ष्य में आती हैं। … (संक्षिप्त)
आउटपुट सिर्फ़ JSON का ऐरे हो: [{"id": "E1",
"type": "...", "mentions": ["..."]}]
लक्ष्य:
निजी जानकारी। लेकिन आयु को छोड़कर
तरीक़ा: मास्किंग (replacements न डालें)
दस्तावेज़:
(यहाँ दस्तावेज़)एक दस्तावेज़,
क़रीब 20 सेकंड।
लैपटॉप के CPU (बिना GPU) पर क़रीब 900 अक्षरों का दस्तावेज़ पढ़कर ढकने की जगहें लौटाने तक का पूरा क्रम चलता है। प्लेबैक 5 गुना तेज़ है, घड़ी असली सेकंड दिखाती है।
0.0सेकंड5 गुना तेज़ प्लेबैक
दस्तावेज़ पढ़नाढकने की जगहें लिखना
ढकी गई जगहें 0 / 0
- निर्देश
- व्यक्ति का नाम, फ़ोन नंबर, ईमेल पता, पता
- पढ़ना
- क़रीब 140 टोकन/सेकंड
- लिखना
- क़रीब 24 टोकन/सेकंड
- मशीन
- Core i7-11800H, 8 थ्रेड
- इस रफ़्तार से एक-एक करके प्रोसेस करने पर एक मशीन 1 घंटे में क़रीब 1.7 लाख अक्षर निपटाती है।
- GPU पर 16 दस्तावेज़ एक साथ प्रोसेस करने पर 100 दस्तावेज़ क़रीब 20 सेकंड में पूरे हुए (gpt-oss-120b: क़रीब 90 सेकंड)। अपनी माप
※ दस्तावेज़ और ढकने की जगहें नमूना हैं (इस पेज के भीतर कोई मॉडल नहीं चल रहा)। समय हमारी अपनी मापी हुई पढ़ने और लिखने की रफ़्तार से निकाला गया है। एक ही व्यक्ति के अलग-अलग उल्लेख एक में समेटकर एक साथ ढके जाते हैं।
1,000-1,000 अक्षरों में
काटकर दीजिए।
लंबे दस्तावेज़ को क़रीब 1,000 अक्षरों के टुकड़ों में काटकर एक-एक करके दिया जाता है। ट्रेनिंग में देखी गई लंबाई के बराबर रखने से चूक घटती है। अंत में नतीजे जोड़कर उन नियमों के साथ मिलाए जाते हैं जो ईमेल, फ़ोन, URL और तारीख़ के तय रूप पकड़ते हैं।
चलाना (llama.cpp)
llama-server -m noir-ja-en-Q4_K_M.gguf \ -c 16384 -t 8 -np 1 --jinja --port 8191
उपलब्धवेट्स डाउनलोड करें →
- थिंकिंग मोड बंद रखें (
enable_thinking: false) औरtemperature 0पर चलाएँ। - भाषा के हिसाब से मॉडल चुनें: जापानी और अंग्रेज़ी के लिए ja-en, जर्मन के लिए de-en, क्रोएशियाई के लिए hr-en।
- CPU (Core i7-11800H, 8 थ्रेड) पर 1,000 अक्षरों का टुकड़ा क़रीब 20 सेकंड में। अपनी माप
वही दस्तावेज़,
हर निर्देश पर अलग मास्किंग।
नमूने के दस्तावेज़ पर निर्देश चुनकर आज़माइए। निर्देश बदलते ही उसी दस्तावेज़ में ढकी जाने वाली जगहें बदल जाती हैं। मॉडल को भेजा जाने वाला प्रॉम्प्ट और लौटने वाला JSON भी जस का तस देखा जा सकता है।
1दस्तावेज़ चुनें
2निर्देश चुनेंचुनते ही चलता है
या प्रकार ख़ुद चुनें
मॉडल को भेजा जाने वाला प्रॉम्प्ट
लौटने वाला JSON
[]
माप का तरीक़ा
और संपर्क।
- दस्तावेज़: जापानी, अंग्रेज़ी, जर्मन और क्रोएशियाई में 100-100। ईमेल, बैठक के नोट्स, मानव संसाधन के नोट, बिल, इलाज की जानकारी आदि, टेस्ट के लिए बनाए गए काल्पनिक दस्तावेज़, जिनमें ढकने लायक़ जगहों पर सही जवाब के निशान लगे हैं।
- निर्देश: हर दस्तावेज़ के लिए तीन में से एक: “प्रकार गिनाना”, “अस्पष्ट ढंग से कहना”, “अपवाद के साथ”। gpt-oss-120b (reasoning effort medium) को भी वही प्रॉम्प्ट दिया गया।
- पैमाने: चूक = सही जगहों में से जो ढकने से रह गईं; अति-मास्किंग = ढकी गई जगहों में से जो ग़ैरज़रूरी थीं; निर्देश से बाहर = ऐसे प्रकार ढकना जो निर्देश में नहीं थे।
- समय: नवंबर 2026, Q4_K_M। औपचारिक रिलीज़ से पहले इन्हें दोबारा जाँचा जाएगा।