Lynx
DisponívelRAG leve que roda só em CPU
Roda emSó CPU
UsoPerguntas e respostas sobre documentos internos
Tamanho0,8B (0,67 GB)
Nota93,8 pontos (o 120B faz 97,5)
Por ser pequeno,
dá para zerar.
A CatsAI cria LLMs pequenos, feitos para um único uso. Por serem pequenos, rodam em CPUs comuns. Com isso, três coisas deixam de ser necessárias.
0GPUs
GPUs necessárias
Roda nas CPUs dos servidores e PCs que você já tem.
0reais
Cobrança de API por uso
O custo não aumenta com o número de usos.
0envios
Dados enviados para fora
O modelo roda dentro da empresa ou no próprio aparelho.
Referência: o arquivo do modelo Lynx tem 0,67 GB (0,8B, Q4_K_M).
Os motivos para travar,
reescritos.
A empresa quer adotar IA, mas o projeto não anda. Os motivos mais comuns são três. Com um modelo pequeno, cada um muda assim.
O custo da API
é imprevisível todo mês.O custo da API
simplesmente não existe.Roda nas CPUs da sua empresa, então o custo não aumenta com o número de usos.
Os documentos internos
não podem sair da empresa.Os documentos internos
não saem da empresa.O modelo roda dentro da empresa ou no próprio aparelho. Os documentos não saem.
Servidor com GPU:
não há verba para comprar.Servidor com GPU:
não é preciso comprar.Fazemos o modelo no tamanho certo para rodar nos servidores, PCs e celulares que você já tem.
Pesos abertos:
modelos para testar agora.
Os pesos do Lynx, do Noir, do Serval e do Ocelot são públicos. Baixe e teste direto no seu PC ou celular. Se gostar, criamos do mesmo jeito um modelo exclusivo para o seu uso.
Noir
DisponívelTarja preta só nos dados pessoais
Roda emSó CPU
UsoMascaramento de textos
Serval
DisponívelTradução ultraleve que roda no celular
Roda emSó CPU, sem internet
UsoTradução (10 idiomas, 90 direções)
Tamanho1,8B (1,1 GB)
Nota86,7 pontos (o 120B faz 87,9)
Ocelot
DisponívelLeitura em voz alta que roda no celular nome provisório
Roda emCelular, mesmo sem sinal
UsoLeitura de textos em voz alta (TTS)
* As animações acima são amostras que seguem um roteiro (nenhum modelo roda nesta página). Para ver o modelo de verdade, baixe os pesos e teste. Os textos e os nomes são fictícios.
Escreva um texto.
A tarja preta aparece.
Escreva nas células da esquerda: o texto é copiado para a direita, e só as células com dados pessoais ficam pretas. É uma amostra do trabalho do Noir. O Noir de verdade você testa na sua máquina, baixando os pesos.
Saída do Noir (amostra)
* Este quadro é uma amostra do funcionamento. Ele imita o resultado com regras simples; o modelo real não está rodando. O que você digita não é enviado a lugar nenhum. Nomes, telefones, endereços e demais dados são todos fictícios.
Uma comparação honesta
com as alternativas.
| API na nuvem | Servidor de GPU próprio | Modelo pequeno da CatsAI | |
|---|---|---|---|
| Custo | Cresce conforme o uso | Compra e manutenção de GPU | Valor fixo, definido no início provisório |
| Para onde vão os dados | Para fora da empresa | Ficam na empresa | Na empresa ou no próprio aparelho |
| Equipamento necessário | Nenhum (exige conexão) | Servidor de GPU | As CPUs e os celulares que você já tem |
| Se a conexão cair | Não funciona | Funciona | Funciona |
| O que consegue responder | Amplo. Dá para perguntar de tudo | Depende do modelo escolhido | Só o uso definido |
| Até começar a usar | Contratou, já usa | Exige compra e montagem | Exige um período de criação |
As duas últimas linhas (células só com contorno) são os pontos em que a CatsAI leva desvantagem. Se você precisa já de uma IA de uso geral, que responda de tudo, a API na nuvem é a melhor escolha. O modelo pequeno entra em cena quando o uso está definido e você quer manter custos e dados sob seu controle.
Da conversa à integração,
4 passos.
- 1
Conversa
Queremos saber para que você quer usar o modelo e que dados tem em mãos.
- Você nos passa
- O uso pretendido e um panorama dos dados
- Nós entregamos
- Uma avaliação do que dá e do que não dá para fazer, e o orçamento
- 2
Protótipo
Criamos uma versão pequena com poucos dados e medimos a precisão em números.
- Você nos passa
- Uma pequena amostra de dados
- Nós entregamos
- O modelo protótipo e o resultado das medições de precisão
- 3
Criação
Treinamos o modelo para o seu uso e o deixamos leve o bastante para rodar em CPU ou no celular.
- Você nos passa
- Os dados de treinamento e os requisitos do equipamento onde o modelo vai rodar
- Nós entregamos
- O modelo exclusivo para o seu uso
- 4
Integração
Desenvolvemos também o sistema de negócio em que o modelo vai rodar.
- Você nos passa
- Informações sobre os sistemas a conectar
- Nós entregamos
- O sistema completo, funcionando na operação
Custo e prazo são definidos e fixados já na fase de conversa. condições contratuais provisórias
Entregar o modelo
não é o fim.
A CatsAI é uma empresa que sempre desenvolveu sistemas de negócio. A criação de LLMs pequenos está só começando, e ainda não temos casos de clientes que possamos divulgar.
Em compensação, não entregamos o modelo e damos o trabalho por encerrado. Conectamos o modelo aos sistemas que você já usa e cuidamos de tudo até ele funcionar na operação. A precisão, mostramos em números já na fase de protótipo.
○○ anos de desenvolvimento de sistemas provisório
○○ sistemas entregues provisório
Perguntas frequentes.
Vocês já têm casos de clientes?
A criação de LLMs pequenos está só começando, e ainda não temos casos que possamos divulgar. Em vez disso, publicamos os pesos dos modelos que criamos. Comece rodando na sua máquina e confira a precisão e a velocidade. Nos projetos sob encomenda, também mostramos a precisão em números já na fase de protótipo.
Posso usar livremente os modelos publicados?
Qualquer pessoa pode baixar e testar os pesos do Lynx, do Noir e do Ocelot. Para uso profissional, consulte as condições na licença de cada modelo. licença provisória
Preciso entregar dados internos da empresa?
Como tratar os dados de treinamento é algo que definimos na primeira conversa. Também propomos um jeito de trabalhar quando os dados não podem sair da empresa. texto provisório
De quem é o modelo pronto?
O modelo entregue roda no seu ambiente, operado por você. condições contratuais provisórias
Em que CPUs ele roda?
Definimos primeiro o equipamento, conforme o uso e a velocidade desejada, e só então criamos o modelo. medições a publicar
Vocês atendem a outros idiomas além do japonês?
O Serval, nosso modelo de tradução, cobre 10 idiomas, entre eles japonês, inglês, chinês, coreano e português. Outros idiomas podem ser acrescentados com ajuste fino (o croata foi acrescentado depois).
Tudo começa com uma conversa.
Pode ser só uma impressão sobre os modelos publicados ou um “isso serve para tal uso?”. Só há custo depois que você aprova o orçamento. provisório
Contato(por ser uma demo, o envio é simulado)