Lynx
VerfügbarLeichtes RAG, nur CPU
Läuft aufnur CPU
AufgabeFragen an interne Dokumente
Größe0.8B (0,67 GB)
Ergebnis93,8 Punkte (120B: 97,5)
So klein, dass
null übrig bleibt.
CatsAI baut kleine LLMs für genau eine Aufgabe. Weil sie klein sind, laufen sie auf einer ganz normalen CPU. Damit entfallen drei Dinge.
0Stück
Benötigte GPUs
Läuft auf der CPU Ihrer vorhandenen Server und PCs.
0€
API-Nutzungsgebühren
Die Kosten steigen nicht mit der Nutzung.
0Bytes
Daten, die das Haus verlassen
Das Modell läuft im eigenen Haus oder direkt auf dem Gerät.
Zum Vergleich: Die Modelldatei von Lynx ist 0,67 GB groß (0.8B, Q4_K_M).
Was Sie bremst,
schreiben wir um.
Sie möchten KI einführen, kommen aber nicht voran? Meist hören wir drei Gründe. Mit einem kleinen Modell sieht jeder davon anders aus.
API-Kosten:
jeden Monat ungewiss.API-Kosten:
gibt es gar nicht.Das Modell läuft auf Ihrer eigenen CPU. Mehr Nutzung kostet nicht mehr.
Interne Dokumente:
dürfen nicht nach außen.Interne Dokumente:
bleiben einfach im Haus.Das Modell läuft im eigenen Haus oder direkt auf dem Gerät. Kein Dokument geht nach außen.
GPU-Server:
kein Budget dafür.GPU-Server:
braucht es gar nicht.Wir bauen das Modell so klein, dass es auf Ihren vorhandenen Servern, PCs und Smartphones läuft.
Offene Gewichte –
sofort ausprobieren.
Die Gewichte von Lynx, Noir, Serval und Ocelot sind öffentlich. Laden Sie sie herunter und probieren Sie die Modelle direkt auf Ihrem PC oder Smartphone aus. Wenn sie Sie überzeugen, bauen wir nach demselben Verfahren ein Modell nur für Ihre Aufgabe.
Noir
VerfügbarNur Personendaten schwärzen
Läuft aufnur CPU
AufgabeTexte maskieren
Serval
VerfügbarUltraleichte Übersetzung fürs Smartphone
Läuft aufnur CPU, ohne Internet
AufgabeÜbersetzen (10 Sprachen, 90 Richtungen)
Größe1.8B (1,1 GB)
Ergebnis86,7 Punkte (120B: 87,9)
Ocelot
VerfügbarSprachausgabe fürs Smartphone Arbeitstitel
Läuft aufSmartphone, auch ohne Netz
AufgabeText vorlesen (TTS)
* Die Abläufe oben sind Muster, die nach Drehbuch abgespielt werden (auf dieser Seite läuft kein Modell). Das Original testen Sie, indem Sie die Gewichte herunterladen. Beispieltexte und Namen sind frei erfunden.
Schreiben Sie los.
Es wird schwarz.
Schreiben Sie links einen Text: Er erscheint rechts, und nur die Felder mit personenbezogenen Daten werden schwarz. So arbeitet Noir – hier als Muster. Das echte Noir testen Sie mit den heruntergeladenen Gewichten auf Ihrem eigenen Rechner.
Ausgabe von Noir (Muster)
* Dieses Feld ist ein Muster. Es arbeitet mit einfachen Regeln; das echte Modell läuft hier nicht. Ihre Eingaben werden nirgendwohin gesendet. Namen, Telefonnummern und Adressen sind frei erfunden.
Der ehrliche Vergleich
mit den Alternativen.
| Cloud-API | Eigener GPU-Server | Kleines Modell von CatsAI | |
|---|---|---|---|
| Kosten | steigen mit der Nutzung | GPU-Kauf und Wartung | vorab vereinbarter Festpreis vorläufig |
| Wohin die Daten gehen | nach außen | bleiben im Haus | im Haus oder auf dem Gerät |
| Nötige Hardware | keine (Leitung ist Pflicht) | GPU-Server | vorhandene CPU, Smartphone |
| Wenn die Leitung ausfällt | steht | läuft | läuft |
| Was es beantworten kann | Breit. Fragen Sie, was Sie wollen | je nach gewähltem Modell | nur die vereinbarte Aufgabe |
| Bis zum Start | anmelden und loslegen | Beschaffung und Aufbau nötig | Entwicklungszeit nötig |
In den beiden unteren Zeilen (Felder nur mit Rahmen) ist CatsAI im Nachteil. Wenn Sie sofort eine universelle KI brauchen, die alles beantwortet, ist die Cloud-API die bessere Wahl. Kleine Modelle spielen ihre Stärke aus, wenn die Aufgabe feststeht und Kosten und Daten in Ihrer Hand bleiben sollen.
Vom Gespräch zur Integration
in 4 Schritten.
- 1
Gespräch
Wir fragen, wofür Sie das Modell einsetzen möchten und welche Daten Sie haben.
- Von Ihnen
- Einsatzzweck und ein Bild Ihrer Daten
- Von uns
- Einschätzung, was geht und was nicht – plus Angebot
- 2
Prototyp
Mit wenigen Daten bauen wir klein und belegen die Genauigkeit mit Zahlen.
- Von Ihnen
- eine kleine Datenprobe
- Von uns
- Prototyp-Modell und Messergebnisse zur Genauigkeit
- 3
Entwicklung
Wir trainieren das Modell für Ihre Aufgabe und machen es so leicht, dass es auf CPU oder Smartphone läuft.
- Von Ihnen
- Trainingsdaten und Vorgaben zur Ziel-Hardware
- Von uns
- das Modell für Ihre Aufgabe
- 4
Integration
Wir bauen auch das Fachsystem, in dem das Modell arbeitet – alles aus einer Hand.
- Von Ihnen
- Angaben zu den Systemen, die angebunden werden
- Von uns
- ein System, das im Betrieb läuft
Kosten und Zeitrahmen legen wir im Gespräch fest – danach stehen sie. Vertragsbedingungen vorläufig
Mit dem Modell allein
ist es nicht getan.
CatsAI entwickelt seit Jahren Unternehmenssoftware. Mit kleinen LLMs haben wir gerade erst begonnen; Referenzprojekte, die wir nennen dürfen, gibt es noch nicht.
Dafür übergeben wir nicht einfach ein Modell und gehen. Wir binden es an Ihre bestehenden Systeme an und bleiben, bis es im Betrieb läuft. Die Genauigkeit zeigen wir Ihnen schon beim Prototyp in Zahlen.
○○ JahreSoftwareentwicklung vorläufig
○○ausgelieferte Systeme vorläufig
Häufige Fragen.
Haben Sie Referenzen?
Mit kleinen LLMs haben wir gerade erst begonnen; Referenzprojekte, die wir nennen dürfen, gibt es noch nicht. Stattdessen veröffentlichen wir die Gewichte unserer Modelle. Lassen Sie sie bei sich laufen und prüfen Sie Genauigkeit und Tempo selbst. Auch bei einem Auftrag zeigen wir Ihnen die Genauigkeit schon beim Prototyp in Zahlen.
Darf ich die veröffentlichten Modelle frei nutzen?
Die Gewichte von Lynx, Noir und Ocelot kann jeder herunterladen und ausprobieren. Die Bedingungen für den geschäftlichen Einsatz stehen in der Lizenz des jeweiligen Modells. Lizenz vorläufig
Müssen wir interne Daten herausgeben?
Wie wir mit den Trainingsdaten umgehen, klären wir im ersten Gespräch. Dürfen die Daten das Haus nicht verlassen, schlagen wir einen passenden Weg vor. Text vorläufig
Wem gehört das fertige Modell?
Das gelieferte Modell läuft in Ihrer Umgebung, und Sie betreiben es selbst. Vertragsbedingungen vorläufig
Auf welchen CPUs läuft das Modell?
Wir legen zuerst die Ziel-Hardware fest – passend zu Aufgabe und gewünschtem Tempo – und bauen dann das Modell dafür. Messwerte folgen
Funktioniert das auch auf Deutsch?
Das Übersetzungsmodell Serval unterstützt 10 Sprachen, darunter Deutsch, Englisch, Französisch und Japanisch. Weitere Sprachen lassen sich per Fine-Tuning ergänzen (Kroatisch kam auf diesem Weg nachträglich dazu).
Am Anfang steht die Anfrage.
Schreiben Sie uns gern auch nur, wie Ihnen die veröffentlichten Modelle gefallen – oder fragen Sie, ob sich etwas für Ihren Zweck eignet. Kosten entstehen erst, wenn Sie dem Angebot zugestimmt haben. vorläufig
Anfrage(Demo: Das Absenden ist nur simuliert.)