Lynx
उपलब्धसिर्फ़ CPU पर चलने वाला हल्का RAG
चलता हैसिर्फ़ CPU पर
कामकंपनी के दस्तावेज़ों पर सवाल-जवाब
आकार0.8B (0.67GB)
स्कोर93.8 (120B का 97.5)
छोटा है,
इसलिए शून्य मुमकिन।
CatsAI सिर्फ़ एक काम के लिए छोटे LLM बनाता है। छोटे हैं, इसलिए साधारण CPU पर चलते हैं। और इसी वजह से इन तीन चीज़ों की ज़रूरत नहीं रहती।
0कार्ड
ज़रूरी GPU
आपके मौजूदा सर्वर या PC के CPU पर चलता है।
0रुपये
API का मीटर वाला बिल
इस्तेमाल बढ़ने से ख़र्च नहीं बढ़ता।
0बाइट
कंपनी से बाहर भेजा डेटा
मॉडल कंपनी के भीतर या डिवाइस में ही चलता है।
संदर्भ: Lynx की मॉडल फ़ाइल 0.67GB की है (0.8B, Q4_K_M)।
रुकने की वजहें,
बदल देते हैं।
AI लाना चाहते हैं, पर बात आगे नहीं बढ़ती। अक्सर तीन वजहें सुनने को मिलती हैं। छोटे मॉडल के साथ हर वजह ऐसे बदलती है।
API का बिल
हर महीने अनिश्चित।API का बिल
है ही नहीं।मॉडल आपके अपने CPU पर चलता है, इसलिए इस्तेमाल बढ़ने से ख़र्च नहीं बढ़ता।
कंपनी के दस्तावेज़
बाहर भेज नहीं सकते।कंपनी के दस्तावेज़
बाहर जाते ही नहीं।मॉडल कंपनी के भीतर या डिवाइस में ही चलता है। दस्तावेज़ बाहर नहीं जाते।
GPU सर्वर
ख़रीदने का बजट नहीं।GPU सर्वर
ख़रीदना ही नहीं।हम मॉडल उतना ही बड़ा बनाते हैं जितना आपके मौजूदा सर्वर, PC या स्मार्टफ़ोन पर चल सके।
ओपन वेट्स,
अभी आज़माने लायक़ मॉडल।
Lynx, Noir, Serval और Ocelot के वेट्स सार्वजनिक हैं। डाउनलोड कीजिए और अपने PC या स्मार्टफ़ोन पर सीधे आज़माइए। पसंद आए, तो इसी तरीक़े से हम ख़ास आपके काम का मॉडल बनाते हैं।
Noir
उपलब्धसिर्फ़ निजी जानकारी पर काली पट्टी
चलता हैसिर्फ़ CPU पर
कामटेक्स्ट की मास्किंग
Serval
उपलब्धस्मार्टफ़ोन पर चलने वाला, बेहद हल्का अनुवाद
चलता हैसिर्फ़ CPU पर, बिना इंटरनेट
कामअनुवाद (10 भाषाएँ, 90 दिशाएँ)
आकार1.8B (1.1GB)
स्कोर86.7 (120B का 87.9)
Ocelot
उपलब्धस्मार्टफ़ोन पर चलने वाला टेक्स्ट-टू-स्पीच अस्थायी नाम
चलता हैस्मार्टफ़ोन पर, बिना नेटवर्क भी
कामटेक्स्ट को आवाज़ में पढ़ना (TTS)
※ ऊपर के नमूने तय स्क्रिप्ट के अनुसार चलते हैं (इस पेज के भीतर कोई मॉडल नहीं चल रहा)। असली मॉडल आज़माने के लिए वेट्स डाउनलोड कीजिए। उदाहरण और नाम काल्पनिक हैं।
लिखकर देखिए।
काला हो जाएगा।
बाएँ खानों में कुछ लिखिए: वही दाएँ खानों में उतरता है और सिर्फ़ निजी जानकारी वाले खाने काले हो जाते हैं। यह Noir के काम का नमूना है। असली Noir को आप वेट्स डाउनलोड करके अपने यहाँ आज़मा सकते हैं।
Noir का आउटपुट (नमूना)
※ यह बॉक्स सिर्फ़ काम का नमूना है। इसे सरल नियमों से बनाया गया है, असली मॉडल यहाँ नहीं चल रहा। आप जो लिखते हैं, वह कहीं नहीं भेजा जाता। नाम, फ़ोन नंबर, पते आदि सब काल्पनिक हैं।
दूसरे तरीक़ों से
ईमानदार तुलना।
| क्लाउड API | अपना GPU सर्वर | CatsAI का छोटा मॉडल | |
|---|---|---|---|
| ख़र्च | इस्तेमाल के साथ बढ़ता है | GPU की ख़रीद और रखरखाव | शुरू में तय की गई निश्चित रक़म अस्थायी |
| डेटा कहाँ जाता है | कंपनी से बाहर | कंपनी के भीतर | कंपनी के भीतर या डिवाइस में |
| ज़रूरी उपकरण | कुछ नहीं (इंटरनेट ज़रूरी) | GPU सर्वर | मौजूदा CPU, स्मार्टफ़ोन |
| इंटरनेट कट जाए तो | रुक जाता है | चलता है | चलता है |
| जवाब का दायरा | बड़ा। कुछ भी पूछिए | चुने गए मॉडल पर निर्भर | सिर्फ़ तय किया गया काम |
| शुरू करने में समय | साइन अप करते ही | ख़रीद और सेटअप ज़रूरी | बनाने में समय लगता है |
नीचे की दो पंक्तियों (सिर्फ़ रेखा वाले खाने) में CatsAI कमज़ोर पड़ता है। अगर आपको तुरंत ऐसा सामान्य AI चाहिए जिससे कुछ भी पूछा जा सके, तो क्लाउड API बेहतर है। जब काम तय हो और आप ख़र्च और डेटा अपने हाथ में रखना चाहें, तब छोटा मॉडल काम आता है।
बातचीत से इंटीग्रेशन तक,
4 क़दम।
- 1
बातचीत
हम समझते हैं कि आप किस काम में इस्तेमाल करना चाहते हैं और आपके पास कैसा डेटा है।
- आपसे चाहिए
- काम का ब्योरा और डेटा की स्थिति
- आपको मिलेगा
- क्या हो सकता है और क्या नहीं, इसका आकलन, और कोटेशन
- 2
प्रोटोटाइप
थोड़े डेटा से छोटा मॉडल बनाकर सटीकता को आँकड़ों में परखते हैं।
- आपसे चाहिए
- थोड़ा-सा सैंपल डेटा
- आपको मिलेगा
- प्रोटोटाइप मॉडल और सटीकता की माप के नतीजे
- 3
निर्माण
आपके काम के लिए ट्रेन करते हैं और इतना हल्का बनाते हैं कि CPU या स्मार्टफ़ोन पर चले।
- आपसे चाहिए
- ट्रेनिंग का डेटा और चलाने वाले उपकरण की शर्तें
- आपको मिलेगा
- आपके काम के लिए बना मॉडल
- 4
इंटीग्रेशन
मॉडल को चलाने वाला बिज़नेस सिस्टम भी हम साथ में बनाते हैं।
- आपसे चाहिए
- जिस सिस्टम से जोड़ना है, उसकी जानकारी
- आपको मिलेगा
- काम की जगह पर चलता हुआ पूरा सिस्टम
ख़र्च और समय बातचीत के चरण में ही तय करके पक्के कर दिए जाते हैं। अनुबंध की शर्तें अस्थायी
मॉडल बनाकर
काम ख़त्म नहीं होता।
CatsAI बरसों से बिज़नेस सिस्टम बनाती आई कंपनी है। छोटे LLM बनाना हमने अभी शुरू किया है, और सार्वजनिक रूप से बताने लायक़ ग्राहक प्रोजेक्ट अभी हमारे पास नहीं हैं।
इसके बदले, हम सिर्फ़ मॉडल थमाकर अलग नहीं हो जाते। उसे आपके मौजूदा सिस्टम से जोड़ते हैं और काम की जगह पर चलने तक ज़िम्मेदारी लेते हैं। सटीकता हम प्रोटोटाइप के चरण में ही आँकड़ों में दिखाते हैं।
○○ वर्षसिस्टम डेवलपमेंट अस्थायी
○○डिलीवर किए गए सिस्टम अस्थायी
अक्सर पूछे जाने वाले सवाल।
क्या आपके पास ग्राहक प्रोजेक्ट का अनुभव है?
छोटे LLM बनाना हमने अभी शुरू किया है, और सार्वजनिक रूप से बताने लायक़ ग्राहक प्रोजेक्ट अभी नहीं हैं। इसके बदले, हमने अपने बनाए मॉडलों के वेट्स सार्वजनिक किए हैं। पहले उन्हें अपने यहाँ चलाकर सटीकता और रफ़्तार परख लीजिए। मॉडल बनवाने पर भी, हम प्रोटोटाइप के चरण में सटीकता आँकड़ों में दिखाते हैं।
क्या सार्वजनिक मॉडल खुलकर इस्तेमाल किए जा सकते हैं?
Lynx, Noir और Ocelot के वेट्स कोई भी डाउनलोड करके आज़मा सकता है। कारोबारी इस्तेमाल की शर्तों के लिए हर मॉडल का लाइसेंस देखें। लाइसेंस अस्थायी
क्या हमें कंपनी का डेटा आपको देना होगा?
ट्रेनिंग के डेटा को कैसे संभालना है, यह पहली बातचीत में तय होता है। अगर डेटा कंपनी से बाहर नहीं जा सकता, तो हम उसके लिए भी तरीक़ा सुझाते हैं। पाठ अस्थायी
तैयार मॉडल किसका होता है?
डिलीवर किया गया मॉडल आपके अपने सिस्टम में, आपके हाथों चलता है। अनुबंध की शर्तें अस्थायी
यह किस तरह के CPU पर चलता है?
काम और ज़रूरी रफ़्तार के हिसाब से हम पहले चलाने वाला उपकरण तय करते हैं, फिर मॉडल बनाते हैं। मापे गए आँकड़े जल्द
क्या जापानी के अलावा दूसरी भाषाएँ भी संभव हैं?
अनुवाद मॉडल Serval जापानी, अंग्रेज़ी, चीनी, कोरियाई समेत 10 भाषाओं में काम करता है। दूसरी भाषाएँ फ़ाइन-ट्यूनिंग से जोड़ी जा सकती हैं (क्रोएशियाई बाद में जोड़ी गई भाषा है)।
शुरुआत एक बातचीत से।
सार्वजनिक मॉडल आज़माकर जो लगा वह बताइए, या बस इतना पूछिए कि “क्या यह इस काम में चलेगा?” ख़र्च तभी शुरू होता है जब आप कोटेशन पर सहमत हों। अस्थायी
संपर्क(डेमो है, इसलिए भेजना सिर्फ़ मॉक है)