Ein Blick in die Codex-Agentenschleife: Lehren aus Datadog und den 28 Tagen bis zum Sora-Android-Release

Codex hat mit vier Ingenieuren in 28 Tagen die Android-App von Sora ausgeliefert. Bei Datadog verlassen sich heute über tausend Ingenieure auf sie, um systemweite Defekte aufzuspüren, die menschliche Reviewer früher oft übersehen haben. Beide Geschichten entspringen derselben Architektur: einer scheinbar einfachen Kontrollschleife, die ein Sprachmodell, eine Reihe von Werkzeugen und eine Sandbox-Umgebung umschließt.

Wenn du einen KI-Programmierassistenten, eine Medien-Generierungspipeline oder irgendeinen Agenten baust, der in der Welt handeln muss, ist die Codex-Agentenschleife die sauberste Referenz, die du derzeit untersuchen kannst. Dieser Artikel geht vollständig durch, wie sie funktioniert, was Produktionsteams tatsächlich damit tun und wie sich dasselbe Architekturmuster auf Medien-Generierungsagenten übertragen lässt, die du auf Basis von hiapi bauen kannst.

Dieser Artikel basiert auf dem öffentlichen Engineering-Artikel von OpenAI „Ein Blick in die Codex-Agentenschleife“ (Januar 2026), der Datadog-Fallstudie und dem Rückblick auf die Sora-Android-Auslieferung. Die im Folgenden genannten Preise der Hiapi-Plattform gelten mit Stand 2026-06.

Was die Agentenschleife eigentlich ist

Die Agentenschleife ist der Kontrollfluss zwischen dir, dem Sprachmodell und den Werkzeugen, die das Modell aufrufen darf. Aus Nutzersicht sieht ein „Turn“ wie eine Chat-Nachricht hinein und eine Chat-Nachricht hinaus aus. Doch unter der Haube kann ein einzelner Turn mehrere Roundtrips zwischen dem Modell und externen Werkzeugen umfassen.

Die Form eines Turns:

1. Prompt vorbereiten. Der Agent stellt den System-Prompt, projektweite Anweisungen (bei Codex die AGENTS.md-Datei), den Gesprächsverlauf und die neue Nachricht des Nutzers zusammen.
2. Inferenz. Das Modell gibt entweder die finale Assistenznachricht oder einen Werkzeugaufruf zurück.
3. Bei einem Werkzeugaufruf führt der Agent diesen in der Sandbox aus, erfasst das Ergebnis, hängt es an das Gespräch an und kehrt zu Schritt 2 zurück.
4. Bei einer finalen Assistenznachricht – etwa „Ich habe die von dir angeforderte architecture.md hinzugefügt“ – endet der Turn und die Kontrolle geht an den Nutzer zurück.

Das entscheidende Merkmal ist, dass die „Ausgabe“ nicht nur die Assistenznachricht ist, die du im Terminal siehst. Der Großteil der echten Ausgabe sind Nebenwirkungen von Werkzeugaufrufen: geschriebene Dateien, ausgeführte Tests, installierte Pakete. Die Assistenznachricht ist lediglich das Terminierungssignal.

Deshalb ist die Agentenschleife nicht bloß „ein Chat mit ein paar zusätzlichen Schritten“. Ein Chat hat pro Turn nur einen Roundtrip. Eine Agentenschleife kann innerhalb eines einzelnen Turns Dutzende von „Inferenz → Werkzeug → Inferenz“-Zyklen durchlaufen, während der Nutzer nur die Abschlussnachricht sieht.

Drei Eigenschaften, die die Schleife schnell machen

Eine naive Implementierung der obigen Schleife funktioniert, wird aber nach einigen Turns langsam und teuer. Das Design von Codex löst dieses Problem mit drei nachahmenswerten Ideen.

1. Prefix-Caching auf der Responses API. Jedes Mal, wenn der Agent mit dem Modell spricht, beginnt der Prompt mit demselben langen Präfix: zuerst der System-Prompt, dann AGENTS.md, dann die frühere Unterhaltung. Die erste Anfrage berechnet und cached den internen Key-Value-Zustand des Modells für dieses Präfix. Nachfolgende Anfragen in derselben Sitzung überspringen die Neuberechnung für jedes gemeinsame Präfix.

Eine praktische Konsequenz: Bearbeite AGENTS.md nicht mitten in der Sitzung. Der System-Prompt ist meist der größte einzelne Cache-Block; ihn zu ändern, invalidiert den Cache für den Rest der Sitzung. Die eigenen Ingenieure von Codex führen dies als häufigste „selbst verschuldete“ Ursache für Verlangsamung auf.

2. Werkzeugaufrufergebnisse bleiben innerhalb der Schleife, statt sich darüber zu stapeln. Jede Werkzeugausgabe wird an dasselbe Gespräch angehängt. Das klingt offensichtlich, bedeutet aber, dass das Modell ein vollständiges Gedächtnis für jeden Befehl, den es ausgeführt hat, jeden Fehler, den es gesehen hat, und jede Datei, die es geprüft hat, besitzt – ohne dass du manuell irgendetwas zusammenfassen musst. Der Preis dafür ist, dass das Kontextfenster schnell wächst; Codex begegnet dem durch automatische Kompression, wenn das Gespräch zu lang wird.

3. Die Terminierung wird aus der Form der Modellausgabe erkannt, nicht durch Zählen von Turns. Der Agent hat kein Sicherheitsnetz einer maximalen Iterationszahl. Solange das Modell weiterhin Werkzeugaufrufe ausgibt, läuft die Schleife weiter; sobald das Modell eine normale Assistenznachricht ausgibt, stoppt sie sofort. Diese Entscheidung wird dem Modell überlassen, was den Orchestrierungscode schlank hält.

Fall eins: Datadog nutzt die Schleife für systemweite Code-Reviews

Das Nützlichste an der Datadog-Fallstudie ist, dass sie dir sagt, worin die Agentenschleife in der Produktion gut ist – und worin nicht.

Das AI-Developer-Experience-Team von Datadog wollte einen Code-Review-Agenten, der jene Art von Defekten findet, die menschliche Reviewer übersehen – nicht Lint, nicht Stil, sondern serviceübergreifende Regressionen, Performance-Abstürze und Änderungen, die echte Ausfälle wiederholen würden. Sie stellten fest, dass die meisten früheren Werkzeuge sich wie „fortschrittliche Linter“ verhielten. Sie markierten nur oberflächliche Muster innerhalb eines einzelnen Diffs. Sie hatten kein Modell der umgebenden Systeme.

Um den Agenten vor der Einführung zu validieren, baute das Team ein Ausfall-Replay-Testframework: Sie rekonstruierten die Pull Requests, die in der Vergangenheit Ausfälle verursacht hatten, speisten jeden so in Codex ein, als käme er gerade frisch zum Review, und fragten dann die Bereitschaftsingenieure, ob der Kommentar von Codex das Ergebnis geändert hätte.

Das veröffentlichte Ergebnis: Codex lieferte bei etwa 22 % der historischen Ausfälle nützliches neues Feedback – mehr als bei jedem anderen Werkzeug, das das Team evaluiert hatte. Da jeder dieser Pull Requests damals bereits ein menschliches Review durchlaufen hatte, misst dieser Test im Kern „das, was der Reviewer damals übersehen hatte“.

Heute nutzen über 1.000 Datadog-Ingenieure ihn bei jedem PR. Ingenieure reagieren mit 👍/👎 auf Kommentare und ändern entweder den Code oder überspringen den Vorschlag mit Begründung. Die interessante Designentscheidung ist, dass Datadog die Wirkung über einen Seitenkanal misst – Ingenieure, die in Slack nützliche Funde erwähnen – statt über formelle In-Tool-Metriken. Das Team betrachtet den Agenten als Verstärkung, nicht als Torwächter; er liefert Signale, der Mensch entscheidet weiterhin.

Das daraus zu lernende Muster: Die Agentenschleife ist am besten darin, systemweit zu schlussfolgern (Abhängigkeiten, Tests, verwandte Dienste), nicht nur über den unmittelbaren Diff. Das erfordert, ihr die richtigen Werkzeuge und die richtigen Leserechte zu geben. Die Agentenschleife ist das Chassis; die Werkzeugoberfläche und der Projektkontext entscheiden darüber, ob sie echte Risiken aufzeigen kann.

Fall zwei: Sora für Android in 28 Tagen ausgeliefert

Die Sora-Android-Geschichte ist der radikalere Beweis. Zwischen dem 8. Oktober und dem 5. November 2025 brachte ein Team aus vier Ingenieuren mit Codex Sora von „nur iOS“ zu einem öffentlichen Android-Release – ein 28-Tage-Zyklus, mit einem internen Mitarbeiter-Build an Tag 18 und dem öffentlichen Release zehn Tage später. Die App erreichte Platz eins im Google Play Store; Nutzer erstellten in den ersten 24 Stunden über eine Million Videos. Die Absturzfreiheit zum Release: 99,9 %.

Das Team sprach offen darüber, was funktionierte und – nützlicher – was nicht.

Was nicht funktionierte, war der naheliegende Prompt: „Baue die Sora-Android-App auf Basis des iOS-Codes. Los.“ Sie versuchten es und brachen es schnell ab. Das Artefakt war technisch funktionsfähig, aber das Produkterlebnis mangelhaft. Mit ihren Worten: Codex „ist noch nicht gut darin, Dinge zu erschließen, die ihm nicht gesagt wurden“, und es hatte ohne Führung Mühe mit „tiefgreifenden Architekturentscheidungen“.

Was funktionierte, war, Codex als semantischen Übersetzer zwischen Plattformen zu behandeln und ihm ein starkes Gerüst zu bauen:

• Sie etablierten zuerst die Architekturmuster des Projekts – Navigation, Dependency Injection, Netzwerk – und schrieben von Hand einige Beispielfunktionen. Diese setzten den Standard für den Rest der Codebasis.
• Sie kodierten die Teamkonventionen in AGENTS.md-Dateien, damit die Ausgabe von Codex konsistent blieb.
• Sie ließen Codex häufig den iOS-Swift-Code und das bestehende Backend heranziehen und verlangten semantisch äquivalentes Kotlin. Ihre Zusammenfassung: „Die Zukunft der plattformübergreifenden Entwicklung ist Codex.“
• Sie behandelten Codex wie „einen neu eingestellten Senior-Ingenieur“ – Menschen übernahmen Architektur, Systemdesign und Nutzererlebnis; Codex übernahm die Schwerarbeit innerhalb klar abgegrenzter Bereiche.

Berichten zufolge lag der Anteil des von Codex generierten Codes bei nahezu 85 %, und innerhalb von vier Wochen wurden etwa 5 Milliarden Token verbraucht.

Zwei leicht zu unterschätzende Lehren ergeben sich hier. Erstens ist die Qualität des Agenten durch die Qualität deines Gerüsts begrenzt: Beispiele, AGENTS.md, klare Abgrenzung. Zweitens gilt bei Greenfield-Projekten, dass „kleines Team plus fähiger Agent“ „mehr Ingenieure einstellen“ schlägt – Fred Brooks' Beobachtung hat endlich in den richtigen Händen ein Gegenbeispiel.

Übertragbare Muster

Zieht man die spezifischen Details von Code-Review und Android-Auslieferung ab, bleiben vier Muster, die jedes Team, das Agenten baut, kopieren sollte.

Etabliere das Muster, bevor du skalierst. Ob es das Navigationsmuster ist (Sora) oder die Definition dessen, was als „riskante Änderung“ gilt (Datadog): Die menschliche Arbeit findet im Vorfeld statt. Beispielfunktionen und eine stabile AGENTS.md sind der Weg, auf dem du diese Muster in jeden weiteren Turn weitergibst – und sie sind genau das, was das Prefix-Caching belohnt.

Gib dem Agenten die richtige Werkzeugoberfläche, nicht die größte. Die Reviewer von Datadog brauchten serviceübergreifenden Lesezugriff. Der Übersetzer von Sora brauchte Zugriff auf den iOS-Quellcode und das Backend. Beide Teams kuratierten die Leseoberfläche sorgfältig. Eine größere Werkzeugliste ist nicht besser.

Lass Menschen die Architektur verantworten, den Agenten die Implementierung. Beide Fallstudien laufen auf diese Arbeitsteilung hinaus. Menschen treffen die strukturellen Entscheidungen; der Agent füllt innerhalb klar abgegrenzter Bereiche. Diese Arbeitsteilung umzukehren, ist genau dort, wo Teams Zeit verschwenden.

Miss nach Ergebnissen, nicht nach Werkzeugmetriken. Datadog beobachtet bewusst Slack-Reaktionen und Ausfallergebnisse statt der eigenen Ausgaberate des Agenten. Das hält das Optimierungsziel ehrlich. Ein Code-Review-Werkzeug, das viele Kommentare abgibt, aber das Ausfallverhalten nicht ändert, ist kein nützliches Werkzeug.

Die Schleife auf Medien-Generierungsagenten anwenden

Die Architektur der Agentenschleife ist nicht auf Code beschränkt. Überall dort, wo ein Modell handeln, beobachten und iterieren muss, gilt derselbe Kontrollfluss.

Die hiapi-Plattform stellt alle Medien-Generierungsmodelle über einen einheitlichen asynchronen Endpunkt bereit – POST /v1/tasks erstellt eine Generierungsaufgabe, GET /v1/tasks/:id sammelt das Ergebnis –, sodass der „Handlungs“-Schritt in der Schleife eine Zwei-Aufruf-Funktion ist, die du einmal schreibst und über alle Modelle hinweg wiederverwendest. Konkret kannst du einen Videoerstellungsagenten bauen, dessen Schleife so aussieht:

1. Der Agent erhält ein Briefing: „Erstelle eine 6-sekündige Produktaufnahme einer Uhr auf Marmor.“
2. Er stellt den Prompt zusammen und erstellt über POST /v1/tasks eine seedance-2-0-Aufgabe und fragt dann die Aufgaben-ID ab, bis sie abgeschlossen ist (Stand 2026-06 auf der hiapi-Plattform: 480P zu $0,15 pro Videosekunde, 720P mit 2,2-fachem Faktor – der obige 6-Sekunden-Clip kostet in 480P $0,90).
3. Er lädt das generierte Video herunter, führt einen schnellen Prüfschritt aus – „Ist das Zifferblatt wirklich sichtbar? Passt die Beleuchtung zum Briefing?“ – und akzeptiert dann entweder die Ausgabe oder ändert den Prompt.
4. Scheitert die Prüfung N-mal hintereinander, eskaliert der Agent an den Nutzer, mit dem bisher besten Ergebnis und einer Beschreibung des Problems.

Dieselbe Form gilt für Bildgenerierungsagenten: Briefing → Text-zu-Bild-Aufruf (z. B. gpt-image-2 zu $0,03 pro Bild in 1K oder Nano-Banana-2 zu $0,085 in 1K) → visuelle Prüfung → Änderung → erneuter Versuch. Das Muster von Codex – „stabiler System-Prompt für Prefix-Caching plus Werkzeugaufrufausgaben, die sich im Gespräch ansammeln“ – gilt direkt: Lege die Rollendefinition und die Markenrichtlinien in den System-Prompt und lass die Schleife jeden Generierungsversuch und jede Prüfung als Turns im selben Thread ansammeln.

Einige praktische Übertragungen der Codex-Lehren auf Medienagenten:

• Aus AGENTS.md wird eine Markenrichtlinien-Datei. Stabil, nur einmal geladen, niemals mitten in der Sitzung bearbeitet. Genau das belohnt das Prefix-Caching.
• Aus Beispielfunktionen werden Referenzausgaben. Von Hand kuratierte Bilder dafür, „wie ein gutes Ergebnis aussieht“, mit denen der Prüfschritt vergleicht.
• Aus der Sandbox werden Rate- und Ausgabenlimits. Ein Medienagent, der nicht gelernt hat, wann er aufhören muss, kann eine große Menge an Generierungen anhäufen. Setze Ausgabenlimits pro Turn, so wie Codex standardmäßig Dateisystemschreibzugriffe begrenzt.
• Das Terminierungssignal ist genau dasselbe. Wenn der Prüfschritt „akzeptiert“ statt einer weiteren Generierungsanfrage zurückgibt, endet die Schleife.

Wenn du die Basismodelle hinter solchen Schleifen erst einmal ausprobieren möchtest, ohne bereits Orchestrierungslogik zu schreiben, listet die hiapi-Preisseite die aktuellen Preise pro Bild und pro Videosekunde auf; die Detailseiten der einzelnen Modelle enthalten zudem eine Playground, in der du einen Prompt testen kannst, bevor du entscheidest, was du in den Agenten einbindest.

FAQ

Was ist die Codex-Agentenschleife?

Sie ist der Kontrollfluss im Inneren der Codex CLI, der das Hin und Her zwischen dir, dem Modell und den Werkzeugen orchestriert, die das Modell aufrufen darf. Jeder „Turn“ kann intern mehrere Zyklen aus Modellinferenz → Werkzeugaufruf enthalten und endet, wenn das Modell eine normale Assistenznachricht statt eines weiteren Werkzeugaufrufs ausgibt.

Warum ist Prefix-Caching für Agenten so wichtig?

Weil jeder Turn ein langes Präfix erneut sendet – System-Prompt, Projektanweisungen, Gesprächsverlauf. Ohne Cache kodiert das Modell all diese Inhalte bei jeder Anfrage neu, was langsam und teuer ist. Mit Cache wird das gemeinsame Präfix nur einmal berechnet und in nachfolgenden Turns derselben Sitzung wiederverwendet. Die praktische Konsequenz: Bearbeite die Projektanweisungen (etwa AGENTS.md) nicht mitten in der Sitzung, denn das invalidiert den Cache für den Rest der Sitzung.

Wie viele Ingenieure braucht man, um etwas wie die Sora-Android-App auszuliefern?

Die von OpenAI veröffentlichten Zahlen sind vier Ingenieure, 28 Tage, wobei Codex Berichten zufolge nahezu 85 % der Codebasis generierte und das gesamte Projekt etwa 5 Milliarden Token verbrauchte. Das Team entschied sich bewusst, klein zu bleiben – mit Verweis auf Brooks' „Menschen zu einem bereits verspäteten Projekt hinzuzufügen, macht es nur noch später“ – und setzte für die Implementierung stark auf den Agenten.

Was hat Codex in der Datadog-Evaluierung tatsächlich gefunden?

Bei der Methode des Teams, Ausfälle erneut abzuspielen, ließen sie die historisch ausfallverursachenden PRs erneut durch Codex laufen und fragten die Bereitschaftsingenieure, ob das Feedback das Ergebnis geändert hätte. Codex lieferte bei etwa 22 % der Ausfälle umsetzbares Feedback – etwa zu serviceübergreifenden Regressionen und Performance-Änderungen, die menschliche Reviewer übersehen hatten, als der PR ursprünglich gemergt wurde.

Kann ich dasselbe Agentenschleifenmuster für Bild- oder Videogenerierung verwenden?

Ja. Das Architekturmuster – Prompt vorbereiten, Modell aufrufen, Werkzeug ausführen, Ergebnis anhängen, bis zur Terminierung wiederholen – ist modellunabhängig. Du kannst es an die Medien-Generierungsendpunkte von hiapi anbinden (Bildmodelle wie gpt-image-2 oder nano-banana-2, Videomodelle wie seedance-2-0) und denselben Lehren folgen: stabile System-Prompts für das Prefix-Caching, Beispiele zur Qualitätssicherung, Ausgabenlimits in der Sandbox zur Sicherheit und ein Prüfschritt, der über die Terminierung entscheidet.

Was sollte in AGENTS.md stehen?

Speziell für Codex: Projektkonventionen, Build-/Test-/Lint-Befehle, Code-Stilregeln und alle „Finger weg“-Grenzen. Die veröffentlichten Teams von Sora und Datadog behandelten sie als Einarbeitungsdokument für den Agenten – die Dinge, die du einem Senior-Ingenieur am ersten Tag sagen würdest. Halte sie während der Sitzung stabil, damit sie im Prefix-Cache bleibt.

Wichtigste Erkenntnisse

• Die Codex-Agentenschleife ist ein einfacher Kontrollfluss: Prompt vorbereiten → Modellinferenz → optionaler Werkzeugaufruf → Ergebnis anhängen → wiederholen, bis das Modell eine normale Assistenznachricht ausgibt.
• Drei Implementierungsdetails bringen sie auf Produktionsniveau: Prefix-Caching, Werkzeugaufrufergebnisse, die im Gespräch bleiben, und Terminierungserkennung anhand der Form der Modellausgabe.
• Datadog nutzt diese Schleife für systemweite Code-Reviews für über 1.000 Ingenieure; ihr Ausfall-Replay-Testframework zeigt, dass Codex bei etwa 22 % der historischen ausfallbezogenen Probleme fand, die menschliche Reviewer übersehen hatten.
• OpenAI lieferte die Sora-Android-App mit vier Ingenieuren in 28 Tagen aus, wobei etwa 85 % des Codes von Codex generiert wurden und die Absturzfreiheit zum Release 99,9 % betrug – dank umfangreichem Gerüst aus Beispielen und AGENTS.md, statt zu prompten „Baue es einfach“.
• Dieselbe Agentenschleifenarchitektur lässt sich sauber auf Medien-Generierungspipelines übertragen, die du auf hiapi bauen kannst: Jedes Text-zu-Bild- und Text-zu-Video-Modell nutzt dieselbe asynchrone /v1/tasks-Form, und die Vorgehensweisen von Codex bei Prefix-Caching, Sandbox und Beispielen lassen sich eins zu eins auf Bild- und Videoagenten übertragen.