Lynx
BeschikbaarLichte RAG, op alleen een CPU
Draait opalleen CPU
Taakvragen over interne documenten
Grootte0,8B (0,67 GB)
Score93,8 punten (120B: 97,5)
CatsAI bouwt kleine LLM's voor precies één taak. Omdat ze klein zijn, draaien ze op een gewone CPU. Daardoor heeft u deze drie dingen niet meer nodig.
Draait op de CPU van de servers en pc's die u al heeft.
De kosten stijgen niet mee met het gebruik.
Het model draait intern of op het toestel zelf.
Ter info: het modelbestand van Lynx is 0,67 GB (0,8B, Q4_K_M).
U wilt AI inzetten, maar het komt niet van de grond. We horen vaak drie redenen. Met een klein model verandert elk daarvan zo.
De API-kostenzijn elke maand een gok.
De API-kosten
zijn er gewoon niet.
Het model draait op uw eigen CPU, dus de kosten stijgen niet mee met het gebruik.
Interne documentenmogen niet naar buiten.
Interne documenten
gaan niet naar buiten.
Het model draait intern of op het toestel zelf. Documenten verlaten uw organisatie niet.
Een GPU-serverpast niet in het budget.
Een GPU-server
hoeft u niet te kopen.
We maken het model zo klein dat het draait op de servers, pc's en smartphones die u al heeft.
Van Lynx, Noir, Serval en Ocelot zijn de gewichten openbaar. Download ze en probeer ze direct op uw eigen pc of smartphone. Bevalt het? Dan bouwen we op dezelfde manier een model speciaal voor uw toepassing.
BeschikbaarLichte RAG, op alleen een CPU
Draait opalleen CPU
Taakvragen over interne documenten
Grootte0,8B (0,67 GB)
Score93,8 punten (120B: 97,5)
BeschikbaarLakt alleen persoonsgegevens zwart
Draait opalleen CPU
Taaktekst maskeren
BeschikbaarUltralicht vertalen op uw smartphone
Draait opalleen CPU, zonder internet
Taakvertalen (10 talen, 90 richtingen)
Grootte1,8B (1,1 GB)
Score86,7 punten (120B: 87,9)
BeschikbaarTekst-naar-spraak op uw smartphone werktitel
Draait opsmartphone, ook zonder bereik
Taaktekst voorlezen (TTS)
* De bewegingen hierboven zijn voorbeelden die volgens een script worden afgespeeld (op deze pagina draait geen model). Het echte werk ziet u als u de gewichten downloadt en zelf probeert. Voorbeeldteksten en namen zijn verzonnen.
Typ links een tekst. Die verschijnt rechts, en alleen de vakjes met persoonsgegevens worden zwart. Zo werkt Noir, bij wijze van voorbeeld. De echte Noir probeert u zelf door de gewichten te downloaden.
* Dit vak is een voorbeeld van de werking. Het bootst het resultaat na met eenvoudige regels; er draait geen echt model. Wat u typt, wordt nergens naartoe gestuurd. Namen, telefoonnummers en adressen zijn allemaal verzonnen.
| Cloud-API | Eigen GPU-server | Klein model van CatsAI | |
|---|---|---|---|
| Kosten | Stijgen met het gebruik | Aanschaf en onderhoud van GPU's | Vast bedrag, vooraf afgesproken voorlopig |
| Waar de data heen gaat | Naar buiten | Blijft intern | Intern, of op het toestel |
| Benodigde hardware | Geen (wel een verbinding) | GPU-server | De CPU of smartphone die u al heeft |
| Als de verbinding wegvalt | Stopt | Werkt door | Werkt door |
| Wat het kan beantwoorden | Breed. U kunt alles vragen | Hangt af van het gekozen model | Alleen de afgesproken taak |
| Tot u kunt beginnen | Aanmelden en klaar | Inkopen en opbouwen | Bouwtijd nodig |
Op de onderste twee rijen (de vakjes met alleen een rand) is CatsAI in het nadeel. Heeft u direct een algemene AI nodig waaraan u alles kunt vragen, dan past een cloud-API beter. Staat de taak vast en wilt u kosten en data in eigen hand houden, dan is een klein model aan zet.
We horen graag waarvoor u het wilt gebruiken en welke data u heeft.
We bouwen iets kleins met weinig data en meten de nauwkeurigheid in cijfers.
We trainen het model voor uw taak en maken het zo licht dat het op een CPU of smartphone draait.
We bouwen ook het bedrijfssysteem waarin het model draait.
Kosten en doorlooptijd leggen we in het eerste gesprek vast. Voorwaarden voorlopig
CatsAI ontwikkelt al jaren bedrijfssystemen. Met het bouwen van kleine LLM's zijn we pas begonnen; klantprojecten die we mogen noemen, hebben we nog niet.
Wel geldt: we leveren niet alleen een model af. We sluiten het aan op de systemen die u nu gebruikt en zorgen dat het in de praktijk werkt. De nauwkeurigheid laten we al in de proeffase in cijfers zien.
Met het bouwen van kleine LLM's zijn we pas begonnen; klantprojecten die we mogen noemen, hebben we nog niet. In plaats daarvan maken we de gewichten van onze modellen openbaar. Draai ze eerst zelf en beoordeel de nauwkeurigheid en snelheid. Ook bij een opdracht laten we de nauwkeurigheid al in de proeffase in cijfers zien.
De gewichten van Lynx, Noir en Ocelot kan iedereen downloaden en proberen. Kijk voor zakelijk gebruik naar de licentie van elk model. Licentie voorlopig
Hoe we omgaan met trainingsdata spreken we in het eerste gesprek af. Mag de data niet naar buiten, dan stellen we een werkwijze voor die daarbij past. Tekst voorlopig
Het opgeleverde model draait in uw omgeving, en u beheert het zelf. Voorwaarden voorlopig
We bepalen eerst de hardware, afgestemd op de taak en de gewenste snelheid, en bouwen dan het model. Meetwaarden volgen
Het vertaalmodel Serval ondersteunt 10 talen, waaronder Japans, Engels, Chinees en Koreaans. Andere talen voegen we toe met finetuning (Kroatisch is zo'n later toegevoegde taal).
Uw indruk van een openbaar model of alleen de vraag ‘kan dit voor onze toepassing?’ is al genoeg. Kosten maakt u pas nadat u akkoord bent met de offerte. voorlopig
Contact(Dit is een demo; er wordt niets verzonden)