Lynx
NyilvánosCsak CPU kell hozzá: könnyű RAG
Futtatáscsak CPU
Feladatkérdések megválaszolása belső dokumentumokból
Méret0.8B (0.67 GB)
Eredmény93.8 pont (a 120B: 97.5 pont)
Mert kicsi,
lehet nulla.
A CatsAI kis LLM-eket készít, mindegyiket egyetlen feladatra. Mivel kicsik, átlagos CPU-n is futnak. Így erre a háromra nincs többé szükség.
0db
szükséges GPU
A meglévő szerverek és PC-k CPU-ján fut.
0Ft
használatalapú API-díj
A költség nem nő a használattal.
0bájt
cégen kívülre küldött adat
A modell házon belül vagy a készüléken fut.
Viszonyításul: a Lynx modellfájlja 0.67 GB (0.8B, Q4_K_M).
Az akadályokat
átírjuk.
Bevezetné az AI-t, de elakadt? Három okot hallunk a leggyakrabban. Kis modellel mindegyik így változik.
Az API-díj
havonta kiszámíthatatlan.Az API-díj
egyszerűen nincs.A modell a saját CPU-ján fut, így a költség nem nő a használattal.
A belső dokumentumokat
nem küldhetjük ki.A belső dokumentumokat
ki sem kell küldeni.A modell házon belül vagy a készüléken fut. A dokumentum nem kerül ki a cégtől.
GPU-szerverre
nincs keret.GPU-szerverre
nincs szükség.Akkorára készítjük, hogy a meglévő szerveren, PC-n vagy mobilon is fusson.
Nyílt súlyú modellek,
azonnal kipróbálhatók.
A Lynx, a Noir, a Serval és az Ocelot súlyai nyilvánosak. Töltse le őket, és máris kipróbálhatja a saját PC-jén vagy mobilján. Ha tetszik, ugyanezzel a módszerrel elkészítjük az Ön feladatára szabott modellt.
Noir
NyilvánosCsak a személyes adat lesz fekete
Futtatáscsak CPU
Feladatszövegek maszkolása
Serval
NyilvánosPehelykönnyű fordító, mobilon fut
Futtatáscsak CPU, internet nélkül
Feladatfordítás (10 nyelv, 90 irány)
Méret1.8B (1.1 GB)
Eredmény86.7 pont (a 120B: 87.9 pont)
Ocelot
NyilvánosSzövegfelolvasó, mobilon fut munkanév
Futtatásmobilon, térerő nélkül is
Feladatszövegfelolvasás (TTS)
* A fenti animációk forgatókönyv szerint lejátszott minták (ezen az oldalon nem fut modell). Az igazit a súlyok letöltésével próbálhatja ki. A példaszövegek és a nevek kitaláltak.
Írjon be valamit.
Fekete lesz.
Ha a bal oldali cellákba szöveget ír, az megjelenik a jobb oldalon, és csak a személyes adatok cellái feketednek el. Ez minta arról, hogyan dolgozik a Noir. Az igazi Noirt a súlyok letöltésével a saját gépén próbálhatja ki.
A Noir kimenete (minta)
* Ez a mező csak a működést szemlélteti. Egyszerű szabályokkal utánozza a modellt; valódi modell itt nem fut. A beírt szöveget sehová nem küldjük el. A nevek, telefonszámok és címek mind kitaláltak.
Őszinte összevetés
a többi megoldással.
| Felhős API | Saját GPU-szerver | CatsAI kis modell | |
|---|---|---|---|
| Költség | A használattal nő | GPU-beszerzés és karbantartás | Előre rögzített fix összeg előzetes |
| Hová kerül az adat | Cégen kívülre | Házon belül | Házon belül vagy a készüléken |
| Szükséges eszköz | Nincs (internet kell) | GPU-szerver | Meglévő CPU, mobil |
| Ha megszakad a kapcsolat | Leáll | Működik | Működik |
| Mire tud válaszolni | Bármire: széles kör | A választott modelltől függ | Csak a kijelölt feladatra |
| Az indulásig | Regisztráció után azonnal | Beszerzés és kiépítés kell | Elkészítési idő kell |
Az alsó két sorban (a csak keretes cellákban) a CatsAI van hátrányban. Ha azonnal kell egy általános AI, amelytől bármit kérdezhet, a felhős API a jó választás. A kis modell akkor jön jól, ha a feladat adott, és a költséget meg az adatot kézben szeretné tartani.
A konzultációtól a beépítésig
4 lépés.
- 1
Konzultáció
Megkérdezzük, mire használná, és milyen adatai vannak.
- Öntől kérjük
- A feladat és az adatok jellege
- Tőlünk kapja
- Felmérés arról, mi oldható meg és mi nem, valamint árajánlat
- 2
Prototípus
Kevés adatból kicsiben megépítjük, és számokkal ellenőrizzük a pontosságot.
- Öntől kérjük
- Kis mennyiségű mintaadat
- Tőlünk kapja
- Prototípusmodell és a mért pontosság
- 3
Elkészítés
A feladatra tanítjuk, és addig könnyítjük, amíg CPU-n vagy mobilon is elfut.
- Öntől kérjük
- Tanítóadatok és a futtató eszköz adatai
- Tőlünk kapja
- A feladatra szabott modell
- 4
Beépítés
A modellt futtató üzleti rendszert is megépítjük, egy kézből.
- Öntől kérjük
- Az összekötendő rendszerek adatai
- Tőlünk kapja
- Élesben működő, teljes rendszer
A költséget és a határidőt a konzultáció során rögzítjük, és utána nem változik. a szerződési feltételek előzetesek
A modellel
nem ér véget a munka.
A CatsAI régóta fejleszt üzleti rendszereket. Kis LLM-ek készítésébe csak nemrég fogtunk, ezért nyilvános referenciánk még nincs.
Cserébe nem állunk meg a modell átadásánál. Összekötjük a meglévő rendszereivel, és addig visszük, amíg élesben működik. A pontosságot már a prototípusnál számokkal mutatjuk meg.
○○ évrendszerfejlesztés előzetes
○○ dbátadott rendszer előzetes
Gyakori kérdések.
Vannak referenciáik?
Kis LLM-ek készítésébe csak nemrég fogtunk, ezért nyilvános referenciánk még nincs. Ehelyett közzétettük az elkészült modellek súlyait. Futtassa őket a saját gépén, és győződjön meg a pontosságról és a sebességről. Megrendelés esetén is már a prototípusnál számokkal mutatjuk meg a pontosságot.
Szabadon használhatók a nyilvános modellek?
A Lynx, a Noir és az Ocelot súlyait bárki letöltheti és kipróbálhatja. Az üzleti felhasználás feltételeit az egyes modellek licence tartalmazza. a licenc előzetes
Át kell adnunk a belső adatainkat?
A tanítóadatok kezeléséről az első konzultáción döntünk. Arra is van javaslatunk, ha az adat nem hagyhatja el a céget. a szöveg előzetes
Kié lesz az elkészült modell?
Az átadott modellt Ön futtatja, a saját környezetében. a szerződési feltételek előzetesek
Milyen CPU-n fut?
A feladathoz és a kívánt sebességhez előre kiválasztjuk a futtató eszközt, és ahhoz készítjük a modellt. mért értékek hamarosan
A japánon kívül más nyelveket is támogatnak?
A Serval fordítómodell 10 nyelvet ismer, köztük a japánt, az angolt, a kínait és a koreait. További nyelvek finomhangolással adhatók hozzá (a horvátot például utólag tanítottuk be).
Kezdjük egy konzultációval.
Az is elég, ha megírja, mit tapasztalt a nyilvános modellekkel, vagy megkérdezi: „használható-e erre?” Díjat csak az árajánlat elfogadása után számítunk fel. előzetes
Írjon!(Ez demó: a küldés csak imitáció.)