Das Wichtigste in Kürze
- ScaleDown CDMs sind keine klassischen LLMs: Sie lesen den Input einmal und überspringen die tokenweise Generierung, was Latenz und Kosten drastisch senken soll.
- Es gibt drei Varianten: Classify für Labels mit kalibrierter Wahrscheinlichkeit, Extract für JSON mit Confidence und Citations, Summarize für Zusammenfassungen unter 1.000 Tokens.
- Laut ScaleDown kostet der Input 0,05 US-Dollar pro Million Tokens, der Output ist frei; die Modelle sollen 200-mal schneller und 467-mal günstiger als frontier LLM-APIs sein.
- Bisher gibt es weder öffentlichen Build noch offizielle Seite – die Angaben stammen aus der Ankündigung und müssen unabhängig verifiziert werden.
Kurzüberblick
| Typ | Spezialisierte KI-Modelle (CDM) |
|---|---|
| Geräte | Web/API (angekündigt) |
| Kosten | 0,05 $ pro Mio. Input-Tokens, Output frei |
| Sprachen | Nicht bestätigt |
| Highlight | 200x schneller, 467x günstiger als LLMs |
| Einstieg | Noch kein öffentlicher Zugang |
| Kategorie | KI & Modelle |
| Urheber | Neal Patel |
| Trend-Index | 🔥 1,7 Mio. Trend-Index |
| Zuletzt aktualisiert |
Was ScaleDown CDMs sind und warum sie anders funktionieren
ScaleDown CDMs (Constrained Decoding Models) sind eine neue KI-Modellarchitektur, die Neal Patel am 13. Oktober 2026 vorgestellt hat. Anders als herkömmliche Large Language Models (LLMs) sind sie nicht darauf ausgelegt, lange Texte zu generieren. Stattdessen sind sie für jeweils eine einzige Aufgabe optimiert: Klassifikation, Extraktion oder Zusammenfassung. Der Kern der Idee: Viele Produktions-Workloads brauchen keine ausformulierte Antwort, sondern ein schnelles, konsistentes und kostengünstiges Ergebnis.
Herkömmliche LLMs erzeugen ihre Ausgabe Token für Token in einer Schleife. Genau diese Schleife verursacht Latenz und Kosten, weil jeder einzelne Token berechnet und abgerechnet wird. CDMs lesen den Input einmal und überspringen die generative Schleife vollständig. Das macht sie laut ScaleDown deutlich schneller und günstiger. Die Ankündigung vergleicht sie mit dem Modell Jev und nennt für DecisionBench einen Score von 77,2 Prozent gegenüber 72 Prozent für Jev.
Die drei Modelle sind auf unterschiedliche Aufgaben zugeschnitten: Classify liefert kalibrierte Wahrscheinlichkeiten für eigene Labels, Extract gibt wohlgeformtes JSON mit Confidence-Scores und Quellenangaben zurück, Summarize erzeugt Zusammenfassungen unter 1.000 Tokens aus langen Texten, Bildern oder PDFs. Alle Angaben stammen aus der Ankündigung von ScaleDown und sind bislang nicht unabhängig überprüft.
- Classify
Du definierst eigene Labels und erhältst für jedes eine kalibrierte Wahrscheinlichkeit plus Begründung. Gedacht für Routing, Tagging und Intent-Erkennung.
- Extract
Beschreibe die gewünschten Entitäten in natürlicher Sprache und bekomme JSON mit Confidence-Scores und Citations zurück. Nützlich für Web Scraping, Dokumentenverarbeitung und PII-Redaktion.
- Summarize
Übergib langen Text, Bilder oder PDFs und erhalte eine konsistente Zusammenfassung unter 1.000 Tokens. Einsatzgebiete sind Kontextkompaktierung, Metadatengenerierung und Transkript-Zusammenfassungen.
Die drei CDM-Varianten im Detail: Classify, Extract und Summarize
Classify ist für Entscheidungsaufgaben gedacht. Du gibst eine Liste von Labels vor, und das Modell liefert für jedes Label eine kalibrierte Wahrscheinlichkeit sowie eine kurze Begründung. Das eignet sich für Anfrage-Routing, automatisches Tagging oder Intent-Erkennung in Chatbots. Der Vorteil gegenüber einem LLM: Die Ausgabe ist immer strukturiert und folgt exakt dem vorgegebenen Schema, ohne dass du Prompts mit Formatvorgaben optimieren musst.
Extract zielt auf die Datenextraktion. Du beschreibst in natürlicher Sprache, welche Entitäten du aus einem Dokument oder einer Webseite ziehen willst, und erhältst wohlgeformtes JSON mit Confidence-Scores und Quellenangaben. Das ist besonders für Web Scraping, die Verarbeitung von Geschäftsdokumenten und die Redaktion personenbezogener Daten (PII) relevant. Die Citations helfen, extrahierte Werte im Originaltext nachzuvollziehen.
Summarize nimmt langen Text, Bilder oder PDFs entgegen und gibt eine Zusammenfassung unter 1.000 Tokens zurück. Das ist nützlich, um lange Kontexte für nachgelagerte LLM-Aufrufe zu komprimieren, Metadaten zu generieren oder Transkripte zu verdichten. Alle drei Modelle sind laut Ankündigung ab sofort live, allerdings ohne öffentlich zugängliche Seite oder API-Dokumentation.
- Strukturierte Ausgabe ohne Prompt-Tuning
CDMs liefern direkt das gewünschte Format – Labels, JSON oder Zusammenfassung – und sparen dadurch Prompt-Engineering und Validierungsschritte.
- Multimodaler Input bis 1 Mio. Tokens
ScaleDown gibt an, dass die Modelle Text und Bilder mit bis zu einer Million Tokens verarbeiten können – laut Ankündigung 31-mal mehr als Jev.
- Kostenmodell ohne Output-Gebühr
Der Preis liegt bei 0,05 US-Dollar pro Million Input-Tokens, der Output ist kostenlos. Das funktioniert nur, weil keine langen Texte generiert werden.
So würdest du ScaleDown CDMs in deinen Workflow einbinden
Da es noch keinen öffentlichen Zugang gibt, kannst du die Modelle derzeit nicht selbst testen. Die folgenden Schritte beschreiben, wie der Einstieg laut Ankündigung aussehen soll und worauf du achten musst, sobald ScaleDown eine API oder ein Interface bereitstellt. Prüfe zuerst auf der offiziellen Seite, ob und in welcher Form ein Zugang verfügbar ist – zum Beispiel über eine API, eine Warteliste oder eine Dokumentation.
Für Classify definierst du zunächst die Labels, die das Modell unterscheiden soll, und beschreibst sie möglichst präzise. Danach schickst du deine Eingabetexte und erhältst pro Label eine Wahrscheinlichkeit plus Begründung. Für Extract formulierst du in natürlicher Sprache, welche Entitäten extrahiert werden sollen, und gibst an, ob du Confidence-Scores und Quellenangaben benötigst. Für Summarize legst du fest, ob Text, Bilder oder PDFs verarbeitet werden sollen und wie lang die Zusammenfassung maximal sein darf.
Achte bei der Integration auf die Grenzen: Die Modelle sind auf genau eine Aufgabe spezialisiert und eignen sich nicht für offene Dialoge oder kreative Textgenerierung. Wenn du mehrere Aufgaben kombinieren willst, musst du mehrere CDMs hintereinanderschalten oder mit einem klassischen LLM ergänzen. Die angegebenen Leistungsdaten von 200-facher Geschwindigkeit und 467-facher Kostenersparnis sind Herstellerangaben und sollten vor Produktiveinsatz unabhängig validiert werden.
- Aufgabe klar trennen
Entscheide vorab, ob du klassifizieren, extrahieren oder zusammenfassen willst – jedes CDM deckt nur eine dieser Aufgaben ab.
- Labels und Entitäten präzise beschreiben
Die Qualität der Ausgabe hängt stark davon ab, wie genau du Labels oder gewünschte Entitäten formulierst. Investiere Zeit in die Definition.
- Ergebnisse validieren
Prüfe extrahierte Daten und Zusammenfassungen stichprobenartig, besonders bei kritischen Anwendungen wie PII-Redaktion oder Dokumentenverarbeitung.
Vergleich mit LLMs, Grenzen und offene Fragen
Der offensichtlichste Unterschied zu frontier LLM-APIs ist der Preis: 0,05 US-Dollar pro Million Input-Tokens und kostenloser Output stehen den deutlich höheren Kosten gegenüber, die bei tokenweiser Generierung entstehen. ScaleDown argumentiert, dass viele LLM-Aufrufe in Wahrheit Klassifikations- oder Extraktionsaufgaben sind, die keine generative Schleife benötigen. Für diese Fälle könnten CDMs eine günstige Alternative sein – vorausgesetzt, die Qualität reicht aus.
Ein direkter Vergleich mit Modellen wie Jev zeigt laut Ankündigung einen Vorsprung bei DecisionBench (77,2 Prozent gegenüber 72 Prozent) und beim Kontextfenster (1 Million Tokens gegenüber dem 31-fachen kleineren Fenster von Jev). Allerdings fehlen unabhängige Benchmarks, und die Angaben zur Geschwindigkeit und Kostenersparnis sind nicht extern verifiziert. Zudem ist unklar, wie gut die Modelle mit mehrsprachigen oder domänenspezifischen Daten umgehen.
Die größte Einschränkung ist die Verfügbarkeit: Es gibt weder einen öffentlichen Build noch eine offizielle Seite, geschweige denn eine API-Dokumentation oder Preisseite. Wer CDMs heute nutzen möchte, kann das nicht. Interessierte sollten die offizielle Seite von ScaleDown beobachten und auf Ankündigungen zu Zugang, Limits und unterstützten Sprachen achten. Für Aufgaben, die eine offene Textgenerierung erfordern, bleiben klassische LLMs die richtige Wahl.
- Kostenvergleich
CDMs sind laut Hersteller 467-mal günstiger als frontier LLM-APIs, weil keine Output-Tokens anfallen. Das gilt nur für Aufgaben, die keine generative Ausgabe brauchen.
- Qualitätsvergleich
Auf DecisionBench erzielen CDMs 77,2 Prozent, Jev 72 Prozent. Unabhängige Tests stehen noch aus.
- Verfügbarkeit
Bisher gibt es keinen öffentlichen Zugang. Die Modelle wurden nur in einer kurzen Vorschau vorgestellt.
Schritt-für-Schritt-Anleitung
Offizielle Seite prüfen
Besuche die offizielle Seite von ScaleDown, um herauszufinden, ob und wann ein öffentlicher Zugang zu den CDMs verfügbar ist. Achte auf Ankündigungen zu API, Warteliste oder Dokumentation.
Aufgabe und Modell wählen
Entscheide, ob du klassifizieren, extrahieren oder zusammenfassen willst. Wähle das entsprechende CDM – Classify, Extract oder Summarize – und definiere die gewünschte Ausgabe.
Eingaben vorbereiten
Formuliere für Classify präzise Labels, für Extract die gewünschten Entitäten in natürlicher Sprache und für Summarize die maximale Länge der Zusammenfassung. Stelle sicher, dass deine Eingaben im unterstützten Format vorliegen.
API-Aufruf oder Interface nutzen
Sobald ein Zugang verfügbar ist, rufst du das Modell über die API oder ein bereitgestelltes Interface auf. Übermittle deine Eingabe und erhalte die strukturierte Ausgabe mit Wahrscheinlichkeiten, JSON oder Zusammenfassung.
Ergebnisse prüfen und integrieren
Validiere die Ausgabe stichprobenartig, besonders bei kritischen Daten. Integriere das CDM anschließend in deinen Workflow und vergleiche Latenz und Kosten mit deiner bisherigen LLM-Lösung.
Häufige Fragen
Was genau sind ScaleDown CDMs?
ScaleDown CDMs (Constrained Decoding Models) sind spezialisierte KI-Modelle, die für jeweils eine Aufgabe optimiert sind: Klassifikation, Extraktion oder Zusammenfassung. Sie lesen den Input einmal und überspringen die tokenweise Generierung, was sie schneller und günstiger machen soll als klassische LLMs. Vorgestellt wurden sie von Neal Patel am 13. Oktober 2026.
Kann ich ScaleDown CDMs schon kostenlos testen?
Nein, derzeit gibt es keinen öffentlichen Build, keine Download-Möglichkeit und keine offizielle Seite. Die Modelle wurden nur in einer kurzen Vorschau angekündigt. Um zu erfahren, wann ein Test möglich ist, solltest du die offizielle Seite von ScaleDown im Blick behalten.
Was kosten die CDMs und welche Limits gibt es?
Laut Ankündigung kostet der Input 0,05 US-Dollar pro Million Tokens, der Output ist kostenlos. Das Modell soll bis zu eine Million Tokens multimodalem Text und Bilder verarbeiten können. Ob es Ratenlimits oder andere Einschränkungen gibt, ist nicht bekannt und muss auf der offiziellen Seite geprüft werden.
Wie schlagen sich die CDMs im Vergleich zu LLMs?
ScaleDown gibt an, dass CDMs 200-mal schneller und 467-mal günstiger sind als frontier LLM-APIs. Auf DecisionBench erreichen sie 77,2 Prozent gegenüber 72 Prozent für Jev. Diese Zahlen stammen vom Hersteller und sind nicht unabhängig verifiziert. Für Aufgaben, die offene Textgenerierung erfordern, sind klassische LLMs weiterhin die richtige Wahl.
Für wen sind die CDMs geeignet und wo liegen die Grenzen?
CDMs richten sich an Entwickler und Unternehmen, die wiederkehrende Aufgaben wie Routing, Tagging, Datenextraktion oder Zusammenfassungen automatisieren wollen. Sie eignen sich nicht für kreative Textgenerierung oder offene Dialoge. Zudem ist unklar, wie gut sie mehrsprachige oder domänenspezifische Inhalte verarbeiten – hierzu fehlen belastbare Angaben.
