Architecture Vision
Welche AI-Investitionen heute sinnvoll sind
LLMs verändern sich schneller als Unternehmens-Roadmaps. Dauerhaften Wert schafft deshalb die Fähigkeit, Agentic Workloads sicher zu delegieren, AI Output verlässlich zu bewerten und jeden Workload an das passende Modell zu leiten.
Von Assistenz zu delegierbaren Workloads
Bis 2025 unterstützten LLMs vor allem einzelne Arbeitsschritte. Seit Herbst 2025 können starke Modelle klar beschriebene Softwareaufgaben über mehrere Stunden selbstständig bearbeiten – mit Tool-Aufrufen, Tests und Korrekturen. Ein unabhängiger Benchmark zeigt die Größenordnung: GPT-4 bewältigte Aufgaben von wenigen Minuten, Claude Opus 4.5 Ende 2025 Aufgaben von gut fünf Stunden.
Dasselbe Arbeitsprinzip erreicht inzwischen Recherche und weitere Office Workflows. Für Unternehmen zählt deshalb weniger die konkrete AI Solution als der sichere Rahmen: Welche Agentic Workloads dürfen delegiert werden, auf welche Systeme und Daten dürfen Agents zugreifen und nach welchen Kriterien gilt ihre Arbeit als fachlich korrekt?[1]
Frontier-Leistung kommt nicht mehr nur von Frontier Labs
OpenAI veröffentlichte GPT-5.4 am 5. März 2026. Gut fünf Monate später erreichte DeepSeek V4 Pro 0813 im Intelligence Index denselben Wert von 53. Die geschätzten Kosten für den verglichenen Agentic Workload lagen bei 1,10 US-Dollar für GPT-5.4 und 0,25 US-Dollar für DeepSeek. Ein Leistungsniveau, das im März nur ein proprietäres Frontier-LLM erreichte, war damit innerhalb eines Planungszyklus auch als Open-Weights-Modell verfügbar.
Ein Gleichstand im Index macht die Modelle aber nicht austauschbar. Denn der Index verdichtet neun Evaluationsbereiche; ein Modell kann auf bekannte Benchmarks optimiert sein und bei firmeneigenem Code, deutschen Verträgen oder fachlich sensiblen Entscheidungen dennoch anders abschneiden. Der Vergleich ist deshalb ein Marktsignal, keine Auswahlentscheidung. Dafür braucht das Unternehmen eigene Evals und Mitarbeitende, die den jeweiligen Geschäftsprozess kennen und reale Tests fachlich einordnen können.[2]
Intelligence per Dollar wird messbar
Auf sechs Benchmarks wurde dieselbe gemessene Modellleistung innerhalb eines Jahres je nach Aufgabe 9- bis 900-mal günstiger. Diese Spannweite zeigt: Es gibt keine allgemeine Rate, mit der AI-Leistung günstiger wird. Ein Kostenvergleich gilt immer nur für einen bestimmten Workload, ein festgelegtes Qualitätsniveau und einen konkreten Zeitpunkt.
Für Unternehmen sind deshalb nicht Tokenpreise entscheidend, sondern die Gesamtkosten bis zur fachlichen Abnahme: bei Software bis eine Änderung Tests und Review bestanden hat, bei Wissensarbeit bis ein Fachexperte das Ergebnis geprüft und übernommen hat. DeepSWE misst gelöste Aufgaben, Zeit und Kosten von Softwareaufgaben mit demselben Agent-Setup. Formula v1 teilt Zeit und Kosten je Versuch durch den Anteil der im ersten Lauf gelösten Aufgaben und macht damit den Preis unzuverlässiger Ergebnisse sichtbar. Die Gewichtung ist ein redaktioneller Ausgangspunkt, kein Modell für Geschäftswert. Unternehmen müssen die Rechnung mit eigenen Aufgaben, Akzeptanzregeln, Prüfaufwand und Fehlerkosten wiederholen.[3][4][5]
Datenstand der Seite9. Oktober 2026113 Aufgaben
Unten links: schneller und günstiger. Rauten liegen auf der Pareto-Grenze.
2 Ausreißer außerhalb des Diagramms bleiben in der vollständigen Tabelle.
Modelle28/28
Führendes LLMGPT-6 Astra
- Zeit/Aufgabe
- Kosten/Aufgabe
- Im ersten Lauf gelöste Aufgaben
- Relativer Wert
Konfigurationen vergleichen4
| Konfiguration | Wert | Zeit/Aufgabe | Kosten/Aufgabe | Im ersten Lauf gelöste Aufgaben | In vier Läufen gelöste Aufgaben |
|---|---|---|---|---|---|
| GPT-6 Astralow | 1.00× | 15 min | 3,27 $ | 67% ±1% | 80% |
| gemini 3 8 flashhigh | 1.00× | 16 min | 3,20 $ | 74% ±1% | 86% |
| gemini 3 8 flashmedium | 0.92× | 19 min | 2,77 $ | 71% ±2% | 83% |
| GPT-5.6 Solhigh | 0.88× | 14 min | 5,00 $ | 69% ±1% | 87% |
Workloads routen statt ein LLM für alles festzulegen
Ein Agentic Workflow muss nicht für jeden Schritt dasselbe LLM nutzen. Ein leistungsstarkes Modell kann planen und schwierige Entscheidungen vorbereiten, während spezialisierte oder günstigere Modelle Teilaufgaben wie Bilderkennung, Extraktion, Klassifikation oder Tests übernehmen. Welche Modelle der Agent Harness einsetzt, sollte sich nach benötigter Fähigkeit, Risiko und Kosten richten.
Ob diese Orchestration funktioniert, zeigen nur Tests mit eigenen Workloads. Dafür braucht es typische Fälle, schwierige Grenzfälle, bekannte Fehler und klare Akzeptanzkriterien. Mithilfe einer Observability-Plattform lassen sich zudem Kosten, Latenz, Qualität, Logs und Traces je Agent Run erfassen. Werden dieselben Evals mit einer zweiten API oder einem selbst betriebenen Open-Weights-Modell wiederholt, zeigt sich, ob ein Wechsel technisch möglich und wirtschaftlich sinnvoll ist.[6]
Sinkende Stückkosten können die Gesamtausgaben erhöhen
LLMs und Chips werden effizienter, während Anbieter gleichzeitig immer mehr Rechenkapazität aufbauen. Fünf Hyperscaler hielten Ende 2025 schätzungsweise rund 71 Prozent der beobachteten gesamten AI-Rechenkapazität. Das zeigt die Konzentration des Marktes und die Erwartung steigender Nachfrage, erlaubt aber weder eine Prognose künftiger API-Preise noch eine Aussage über die Rendite dieser Investitionen.
Für Unternehmen ist deshalb nicht nur relevant, ob ein einzelner Agentic Workflow günstiger wird, sondern ob das Arbeitsvolumen schneller wächst als die Stückkosten sinken. Mit höherer Leistung werden mehr, längere und parallele Workflows wirtschaftlich möglich. Kostenkontrolle gehört auf die Ebene der erledigten Arbeit: mit Budgets, Routing, Caching, Parallelitätsgrenzen, Abbruchbedingungen und einer messbaren Geschäftswirkung.[7][8][9]
Outcome statt Output messen
Wenn AI Arbeit günstiger macht, steigt nicht nur die Geschwindigkeit. Teams bearbeiten auch Workloads, die vorher zu teuer waren, und erzeugen mehr Pull Requests, Dashboards oder Dokumente. Dieser zusätzliche Output zeigt noch nicht, ob das Unternehmen seine Ziele schneller erreicht.
Jeder Agentic Workload braucht deshalb eine Zielgröße, etwa kürzere Bearbeitungszeit, weniger Fehler, vermiedene Risiken oder zusätzlichen Umsatz. Durchsatz beschreibt den Betrieb. Die Veränderung dieser KPI entscheidet über die Investition.[10]
Capability jetzt aufbauen, irreversible Investitionen später entscheiden
Unternehmen sollten jetzt lernen, welche Agentic Workloads sich eignen, wie AI Output fachlich abgenommen wird, auf welche Daten und Tools Agents zugreifen dürfen und wie Workloads zwischen Modellen geroutet werden. Dann lässt sich ein neues LLM innerhalb weniger Tage nach denselben Kriterien testen, ohne die Architektur neu aufzubauen.
Bevor Unternehmen in eigene GPU-Infrastruktur oder langfristig reservierte Rechenkapazität investieren, brauchen sie produktive Workflows, eigene Evals und Daten aus dem laufenden Betrieb. Erst dann lassen sich Kapazitätsbedarf, Betriebsaufwand und Lebenszykluskosten realistisch einschätzen. Wenn Auslastung, Datenhoheit oder Latenz es rechtfertigen, kann eigene Infrastruktur sinnvoll sein; bis dahin bleibt ein API- oder Managed-Service flexibler. Mit besserer Hardware kann der eigene Betrieb von Open-Weights-Modellen zusätzlich attraktiver werden.[11][12]
Was Unternehmen jetzt aufbauen müssen
- Workloads auswählenRoutinefälle, schwierige Grenzfälle und fachlich kritische Situationen festlegen.
- Akzeptanz definierenQualitätsgrenze, Ziel-KPI und verantwortliche fachliche Abnahme vor dem Test bestimmen.
- Agent Runs beobachtenModellversion, Tool-Zugriffe, Kosten, Latenz, Fehler und menschlichen Prüfaufwand erfassen.
- Alternativen testenDieselben Evals mit einer zweiten API oder einem selbst betriebenen Open-Weights-Modell ausführen.
- Evals wiederholenNeu testen, wenn sich Modelle, Preise, Anforderungen oder Verfügbarkeit wesentlich ändern.