Lynx
ObjavljenoLagani RAG koji radi samo na CPU-u
Radsamo CPU
Namjenaodgovori na pitanja iz internih dokumenata
Veličina0.8B (0,67 GB)
Rezultat93,8 bodova (120B: 97,5)
Dovoljno malen
za nulu.
CatsAI izrađuje male LLM-ove za jednu jedinu namjenu. Budući da su mali, rade na običnom CPU-u. Zato vam ove tri stvari više ne trebaju.
0kom.
Potrebnih GPU-a
Radi na CPU-u poslužitelja i računala koja već imate.
0€
Naplata API-ja po upotrebi
Trošak ne raste s brojem upita.
0bajtova
Podataka poslanih iz tvrtke
Model radi unutar tvrtke ili na samom uređaju.
Za usporedbu: datoteka modela Lynx ima 0,67 GB (0.8B, Q4_K_M).
Razloge za zastoj
pišemo iznova.
Želite uvesti AI, ali ne ide. Najčešće čujemo tri razloga. S malim modelom svaki od njih izgleda drukčije.
Trošak API-ja
svaki je mjesec nepredvidiv.Troška API-ja
uopće nema.Model radi na vašem CPU-u, pa trošak ne raste s brojem upita.
Interne dokumente
ne smijemo slati van.Interne dokumente
ne šaljemo van.Model radi unutar tvrtke ili na samom uređaju. Dokumenti ne izlaze van.
Za GPU poslužitelj
nemamo proračun.GPU poslužitelj
ne morate kupiti.Model izrađujemo u veličini koja radi na poslužiteljima, računalima i mobitelima koje već imate.
Otvorene težine.
Isprobajte ih odmah.
Težine modela Lynx, Noir, Serval i Ocelot javno su objavljene. Preuzmite ih i isprobajte na vlastitom računalu ili mobitelu. Ako vam se svide, na isti ćemo način izraditi model samo za vašu namjenu.
Noir
ObjavljenoZacrni samo osobne podatke
Radsamo CPU
Namjenamaskiranje teksta
Serval
ObjavljenoUltralagano prevođenje na mobitelu
Radsamo CPU, bez interneta
Namjenaprevođenje (10 jezika, 90 smjerova)
Veličina1.8B (1,1 GB)
Rezultat86,7 bodova (120B: 87,9)
Ocelot
ObjavljenoČitanje naglas na mobitelu radni naziv
Radmobitel, i bez signala
Namjenačitanje teksta naglas (TTS)
* Gornji prikazi reproduciraju se prema scenariju (na ovoj stranici ne radi nikakav model). Pravi model isprobajte tako da preuzmete težine. Primjeri i imena su izmišljeni.
Napišite nešto.
Postat će crno.
Tekst koji upišete u lijeva polja preslikava se u desna, a crna postaju samo polja s osobnim podacima. To je prikaz onoga što Noir radi. Pravi Noir možete isprobati kod sebe nakon što preuzmete težine.
Izlaz modela Noir (prikaz)
* Ovo polje samo prikazuje način rada. Oponaša ga jednostavnim pravilima; pravi model ovdje ne radi. Upisani tekst nikamo se ne šalje. Sva imena, brojevi telefona i adrese su izmišljeni.
Iskrena usporedba
s drugim pristupima.
| API u oblaku | Vlastiti GPU poslužitelj | Mali model CatsAI | |
|---|---|---|---|
| Trošak | Raste s upotrebom | Kupnja i održavanje GPU-a | Fiksni iznos dogovoren na početku privremeno |
| Kamo idu podaci | Izvan tvrtke | Unutar tvrtke | Unutar tvrtke ili na uređaju |
| Potrebna oprema | Nikakva (veza je nužna) | GPU poslužitelj | CPU koji već imate, mobitel |
| Ako veza pukne | Staje | Radi | Radi |
| Na što odgovara | Širok raspon. Možete pitati bilo što | Ovisi o odabranom modelu | Samo dogovorena namjena |
| Do početka rada | Odmah nakon prijave | Potrebni nabava i postavljanje | Potrebno vrijeme za izradu |
Donja dva retka (polja samo s okvirom) pokazuju gdje je CatsAI u lošijem položaju. Ako vam odmah treba opći AI koji odgovara na sve, bolji je izbor API u oblaku. Mali model dolazi na red kad je namjena jasna, a trošak i podatke želite zadržati kod sebe.
Od upita do ugradnje:
4 koraka.
- 1
Upit
Pitamo vas za što želite koristiti model i kakve podatke imate.
- Od vas
- Namjena i opis podataka
- Od nas
- Procjena što se može, a što ne, i ponuda
- 2
Prototip
S malo podataka izradimo malu verziju i točnost provjerimo brojkama.
- Od vas
- Mali uzorak podataka
- Od nas
- Prototip modela i izmjerena točnost
- 3
Izrada
Treniramo model za vašu namjenu i smanjimo ga toliko da radi na CPU-u ili mobitelu.
- Od vas
- Podaci za treniranje i opis opreme na kojoj će model raditi
- Od nas
- Model izrađen za vašu namjenu
- 4
Ugradnja
Izradimo i poslovni sustav u kojem model radi – sve na jednom mjestu.
- Od vas
- Podaci o sustavu s kojim ga treba povezati
- Od nas
- Cjelovit sustav koji radi u praksi
Trošak i rok dogovaramo i fiksiramo već u fazi upita. uvjeti ugovora su privremeni
Model nije
kraj posla.
CatsAI je tvrtka koja se godinama bavi razvojem poslovnih sustava. Male LLM-ove tek smo počeli izrađivati i još nemamo referenci koje možemo javno pokazati.
Zato ne stajemo na isporuci modela. Povezujemo ga sa sustavom koji već koristite i vodimo posao sve dok ne proradi u praksi. Točnost vam pokazujemo brojkama već u fazi prototipa.
○○ god.razvoja sustava privremeno
○○isporučenih sustava privremeno
Česta pitanja.
Imate li referenci?
Male LLM-ove tek smo počeli izrađivati i još nemamo referenci koje možemo javno pokazati. Umjesto toga objavljujemo težine modela koje smo izradili. Pokrenite ih kod sebe i sami provjerite točnost i brzinu. I kad naručite izradu, točnost vam pokazujemo brojkama već u fazi prototipa.
Mogu li se objavljeni modeli slobodno koristiti?
Težine modela Lynx, Noir i Ocelot svatko može preuzeti i isprobati. Uvjete za poslovnu upotrebu provjerite u licenci pojedinog modela. licenca je privremena
Moramo li vam predati interne podatke?
Kako ćemo postupati s podacima za treniranje, dogovaramo u prvom razgovoru. Predložit ćemo i način rada za slučaj da podaci ne smiju izaći iz tvrtke. tekst je privremen
Čiji je gotov model?
Isporučeni model radi u vašem okruženju i vi njime upravljate. uvjeti ugovora su privremeni
Na kakvom CPU-u radi?
Prema namjeni i potrebnoj brzini najprije odredimo opremu na kojoj će model raditi, a zatim ga izrađujemo. izmjerene vrijednosti uskoro
Podržavate li i druge jezike osim japanskog?
Prevoditeljski model Serval podržava 10 jezika, među njima japanski, engleski, kineski i korejski. Drugi se jezici mogu dodati dodatnim treniranjem (hrvatski je jezik koji smo dodali naknadno).
Sve počinje upitom.
Dovoljno je da nam javite dojmove o objavljenim modelima ili samo pitate „može li se ovo koristiti za…?“. Trošak nastaje tek kad prihvatite ponudu. privremeno
Upit(ovo je demo, slanje je simulirano)