Nach dem Start werden Modelle leise billiger und Abläufe brechen
Alle drehen durch wegen Opus 4.6 und GPT-5.3 Codex.Über die stillen Kostensenkungen, die deine Abläufe brechen, redet niemand.
Ich habe dieses Muster schon einmal gesehen.
Als Gemini 3.0 herauskam, hat mich die Qualität umgehauen.Klare Begründungen, starke Ergebnisse, jenseits jeder Erwartung.
Zwei Wochen später:
- seltsame Fehler
- schwächere Begründungen
- Ergebnisse, die ich nicht reproduzieren konnte
Mein erster Gedanke: „Habe ich meine Prompts kaputt gemacht?"Dann: „War ich so begeistert, dass ich die Fehler übersehen habe?"
Dann kam ein anderer Gedanke. Hier ist eine mögliche Erklärung, über die fast niemand spricht.
Nach dem Start, wenn die Aufmerksamkeit nachlässt, stehen Backend-Teams unter enormem Druck, die Kosten pro Anfrage zu senken.
Bei Rechenkosten in Milliardenhöhe und Investoren, die Profitabilität fordern, lässt sich der Anreiz zur Optimierung nicht ignorieren.
Ein Hebel heißt „Quantisierung".
Quantisierung wandelt Modellgewichte von 32-Bit-Fließkomma in 8-Bit- oder 4-Bit-Ganzzahlen um und tauscht feine Genauigkeit gegen deutlich mehr Tempo und weniger Speicherbedarf.
In der Praxis:• du betreibst das Modell mit geringerer numerischer Genauigkeit• wie ein 4K-Video, das auf 1080p komprimiert wird• du senkst Speicher- und Energieverbrauch um 50–75%
Auf dem Papier ist der Qualitätsverlust „minimal".In Wirklichkeit scheitern zuerst die komplexen Fälle, die für dein Geschäft am wichtigsten sind.
Ein weiterer Hebel ist, einfachere Aufgaben an kleinere Modelle zu leiten.
Wir wissen, dass GPT-5 Aufgaben bereits dynamisch verteilt, je nachdem, welche Qualitätsanforderung es selbst ermittelt.
Du entscheidest nicht, welche Qualitätsstufe deine Anfrage bedient. Das Modell entscheidet.
Das Problem ist, dass das Modell einem Anbieter gehört, dessen Anreize andere sind, als dir beim Erreichen deiner Ziele zu helfen.
Dein API-Dashboard zeigt das nie.Kein Log sagt dir, wofür sich das Modell entschieden hat.Der Modellname bleibt gleich.Die Konfiguration dahinter nicht.
Startphase:• maximale Qualität• Benchmarks gewinnen• Social Media mit beeindruckenden Demos fluten
Ab Woche 4:• mehr Anfragen auf jede GPU pressen• Ressourcen bei Lastspitzen verschieben• die Stückkosten in einen vorstandstauglichen Bereich drücken
Die Folgen für dein Unternehmen:
Abläufe brechen im Echtbetrieb.
In der Folge stecken Teams ihre Zeit in das Reparieren von Prompts oder das Umbauen der Architektur, statt das nächste System zu bauen.
Regulierte Branchen stehen vor nicht deterministischen Ergebnissen, die sie nicht verteidigen können.
Ursachenanalyse wird zum Raten, Vertrauen bricht weg.
Meine Antwort für geschäftskritische Abläufe: selbst gehostete Open-Source-LLMs in der Private Cloud oder im eigenen Rechenzentrum.
Du kontrollierst:• Modellkonfiguration und Hardware• Betriebsarchitektur und Lastverhalten• Qualitätsüberwachung und Audit-Logs über die Zeit
Montag 13:00 Uhr sieht aus wie Mittwoch 2:00 Uhr.
Nicht „mal scharf, mal seltsam".
Für mittelständische Unternehmen, die Qualitätssicherung, Dokumentation oder Kundenbetrieb automatisieren, heißt Souveränität: Kontrolle über die Daten und über gleichbleibende Qualität.
Trotzdem teste ich Opus 4.6 mit großer Freude weiter und bringe es an seine Grenzen.
Im Echtbetrieb interessiert mich aber das Verhalten in Monat drei mehr als die Leistung in Woche eins.
Geht das nur mir so, oder siehst du das auch?