Multi-agent routing splits one big job across specialists instead of cramming it into a single prompt. A router (or orchestrator) reads the request, decides who should handle it, and hands it off — then collects the result.
Where you meet it
- Customer support — a classifier sends billing, technical, and refund questions to different agents.
- Coding assistants — a planner breaks a feature into edits, delegates each to a worker, and merges them.
- Deep research — a lead agent spawns sub-agents that search in parallel and report back.
- Cost control — a tiny model routes; a strong model only runs on the hard cases.
What it does
It turns one overloaded generalist into a small team. Each specialist gets its own prompt, tools, and examples, so it stays sharp at one thing. A coordinator decides who runs and stitches the answers together — the user still sees a single response.
Route wrong once and everything downstream is wrong too — and every extra agent costs you tokens, latency, and a new way to fail.
How it works
Two patterns dominate. In routing, a lightweight classifier reads the input, labels its category, and dispatches it to the matching specialist or workflow — separating concerns up front. In orchestrator-workers, a central agent dynamically decomposes a complex task into sub-tasks, delegates each to a worker, and then synthesises the results — used when the steps can't be known in advance.
category = classify(task) // "code" | "research" | "math" | ...
agent = registry[category] // pick the specialist
result = await agent.run(task) // each agent: own prompt + tools
return synthesize(result) // collect, merge, hand backThe win is separation: a focused prompt plus the right tools beats one giant do-everything prompt, and you can add or swap a specialist without touching the rest.
Watch out
- Routing errors propagate. A wrong category sends the task to the wrong agent — and everything downstream is wrong too. Validate the classification.
- More agents, more cost. Each hop adds latency, tokens, and failure points; Anthropic measured a multi-agent system at roughly 15× the tokens of a single chat.
- Give every agent a clear lane and a fallback. Define who owns what, and a default path for "none of the above".
- State has to travel. Pass enough context between agents — a handoff that drops the conversation forces the next agent to guess.
- Don't over-architect. Often a single well-prompted agent is enough; reach for multiple only when one genuinely can't cope.
Go deeper
Multi-Agent-Routing verteilt einen großen Auftrag auf Spezialisten — statt ihn in einen einzigen Prompt zu quetschen. Ein Router (oder Orchestrator) liest die Anfrage, entscheidet, wer zuständig ist, und reicht sie weiter — dann sammelt er das Ergebnis ein.
Wo es vorkommt
- Kundensupport — ein Klassifikator schickt Abrechnungs-, Technik- und Erstattungsfragen an verschiedene Agenten.
- Coding-Assistenten — ein Planer zerlegt ein Feature in Edits, delegiert jedes an einen Worker und führt sie zusammen.
- Deep Research — ein Lead-Agent startet Sub-Agenten, die parallel suchen und zurückmelden.
- Kostenkontrolle — ein winziges Modell routet, ein starkes läuft nur bei den harten Fällen.
Was es tut
Es macht aus einem überladenen Generalisten ein kleines Team. Jeder Spezialist bekommt seinen eigenen Prompt, eigene Tools und Beispiele und bleibt so scharf bei einer Sache. Ein Koordinator entscheidet, wer läuft, und näht die Antworten zusammen — der User sieht weiterhin eine einzige Antwort.
Einmal falsch geroutet, ist alles dahinter falsch — und jeder zusätzliche Agent kostet Tokens, Latenz und eine neue Fehlerquelle.
Wie es funktioniert
Zwei Muster dominieren. Beim Routing liest ein leichter Klassifikator die Eingabe, vergibt eine Kategorie und leitet sie an den passenden Spezialisten oder Workflow weiter — die Zuständigkeiten werden vorab getrennt. Bei Orchestrator-Workers zerlegt ein zentraler Agent eine komplexe Aufgabe dynamisch in Teilaufgaben, delegiert jede an einen Worker und synthetisiert dann die Ergebnisse — für Fälle, in denen die Schritte vorab nicht feststehen.
category = classify(task) // "code" | "research" | "math" | ...
agent = registry[category] // den Spezialisten wählen
result = await agent.run(task) // je Agent: eigener Prompt + Tools
return synthesize(result) // sammeln, zusammenführen, zurückgebenDer Gewinn ist die Trennung: ein fokussierter Prompt plus die richtigen Tools schlägt einen riesigen Allzweck-Prompt — und du kannst einen Spezialisten ergänzen oder austauschen, ohne den Rest anzufassen.
Worauf achten
- Routing-Fehler propagieren. Eine falsche Kategorie schickt die Aufgabe an den falschen Agenten — und alles dahinter ist ebenfalls falsch. Die Klassifikation validieren.
- Mehr Agenten, mehr Kosten. Jeder Hop bringt Latenz, Tokens und Fehlerquellen; Anthropic maß für ein Multi-Agent-System rund das 15-Fache der Tokens eines einzelnen Chats.
- Jedem Agenten eine klare Zuständigkeit und einen Fallback geben. Definiere, wer was besitzt, plus einen Default-Pfad für "nichts davon".
- Der Zustand muss mitreisen. Genug Kontext zwischen den Agenten übergeben — ein Handoff, der den Verlauf verliert, zwingt den nächsten Agenten zum Raten.
- Nicht überarchitektieren. Oft reicht ein einzelner, gut geprompteter Agent; mehrere erst, wenn einer wirklich nicht mehr mithält.