Das Prinzip: Präfix wiederverwenden
Jede Anfrage an ein Sprachmodell beginnt mit Dingen, die sich nicht ändern: der festen Anweisung („Du sortierst Kundenmails in fünf Kategorien …“), den Kategoriebeschreibungen, vielleicht einer Preisliste oder einem Vertragstext. Erst danach kommt der Teil, der jedes Mal anders ist — die aktuelle Mail, die Frage. Ohne Caching verarbeitet das Modell bei jeder Anfrage alles neu, auch die tausendfach gesehene Anweisung, und Sie zahlen sie tausendfach zum vollen Eingabepreis.
Prompt-Caching ändert das. Der Anbieter behält die verarbeitete Fassung des unveränderten Anfangs — des Präfix — eine Weile im Speicher. Kommt die nächste Anfrage mit demselben Anfang, wird dieser Teil nicht neu berechnet, sondern aus dem Zwischenspeicher geholt und zu einem Bruchteil abgerechnet. Zwei Bedingungen müssen erfüllt sein: Der Anfang muss Zeichen für Zeichen identisch sein, und er muss eine Mindestlänge überschreiten. Was ein Token ist und warum deutscher Text mehr davon braucht, erklärt der Artikel Was sind Tokens?.
Unveränderliches an den Anfang, Veränderliches ans Ende, Mindestlänge einhalten, Anfragen innerhalb der Haltezeit bündeln — dann kostet der wiederkehrende Teil ein Zehntel. Was nicht sofort beantwortet werden muss, als Batch schicken: die Hälfte. Beides kombinierbar.
Caching bei OpenAI, Anthropic und Google
Die drei Anbieter setzen dasselbe Prinzip unterschiedlich um. Die Tabelle fasst die Regeln zusammen, wie sie am 10. September 2026 in den Dokumentationen standen.
| OpenAI (ab GPT-5.6) | Anthropic (Claude) | Google (Gemini) | |
|---|---|---|---|
| Aktivierung | automatisch | Markierung („cache_control“) im Aufruf | implizit automatisch; explizite Caches zusätzlich möglich |
| Mindestlänge | 1.024 Token | 1.024 (Sonnet 5), 4.096 (Haiku 4.5), 512 (Opus 5) | 4.096 (3.8 Flash, 3.1 Pro) |
| Cache-Treffer | 0,1× Eingabepreis | 0,1× Eingabepreis | 3.8 Flash: 0,075 $ statt 0,75 $ |
| Anlegen | 1,25× Eingabepreis | 1,25× (5 Min.) bzw. 2× (1 Std.) | Standardpreis; explizit zusätzlich Speicher 0,50 $ je Mio. Token und Stunde (3.8 Flash) |
| Haltezeit | 30 Min. nach letztem Zugriff | 5 Min. oder 1 Std., ab letztem Zugriff verlängert | implizit: nicht garantiert; explizit: selbst festgelegt |
| Reihenfolge | gesamter Präfix muss identisch sein | Werkzeuge → System → Nachrichten; Änderung vorn macht alles dahinter ungültig | große, gemeinsame Inhalte an den Anfang |
OpenAI: für ältere Modelle gelten abweichende Haltezeiten (5 bis 10 Minuten im Speicher, optional 24 Stunden). Anthropic: Cache-Treffer bei den neuesten Modellen teils günstiger als 0,1×; wir rechnen mit dem allgemeinen Faktor. Google: Gemini 3.1 Pro Cache-Treffer 0,20 $ (≤ 200k), Speicher 4,50 $ je Mio. Token und Stunde. Preise ändern sich — maßgeblich sind die Anbieter.
Der wichtigste Unterschied für die Praxis: Bei OpenAI und Google passiert Caching automatisch, sobald die Bedingungen stimmen; bei Anthropic markieren Sie den Block, bis zu dem zwischengespeichert werden soll — was mehr Kontrolle gibt, aber auch bedeutet, dass ohne Markierung nichts passiert. Alle drei weisen in der Antwort aus, wie viele Token aus dem Cache kamen. Diese Zahl ist Ihr Kontrollinstrument: Steht dort null, greift der Cache nicht, und einer der Fehler weiter unten ist die Ursache.
Ohne Cache, mit Cache, als Batch
Die drei Zustände am Beispiel eines Mail-Sortierers mit Claude Sonnet 5 (2/10 $ je Million Token, Cache-Treffer 0,20 $, Preise 10.09.2026): 1.760 Mails im Monat, je 2.000 Token Eingabe — davon 1.500 feste Anweisung — und 100 Token Ausgabe.
Die 1.500 Token feste Anweisung werden bei jeder der 1.760 Mails komplett neu berechnet. 3,52 Millionen Eingabe-Token zu 2 $ sind 7,04 $ — vier Fünftel der gesamten Rechnung von 8,80 $ gehen für Text drauf, den das Modell schon tausendmal gesehen hat.
Die Anweisung steht am Anfang, überschreitet die Mindestlänge von 1.024 Token und die Mails kommen innerhalb der Haltezeit. Nur die 500 Token je Mail sind neu (0,88 Mio. × 2 $ = 1,76 $), die 2,64 Millionen Anweisungs-Token kosten als Cache-Treffer 0,20 $ je Million: 0,53 $. Summe 4,05 $ — die Rechnung ist mehr als halbiert.
Muss die Sortierung nicht sofort passieren, gehen die Mails gesammelt als Batch: 50 % Rabatt auf alle Posten, Ergebnis binnen 24 Stunden — bei Anthropic meist in unter einer Stunde. Rund 2,03 $ im Monat, weniger als ein Viertel der Ausgangsrechnung. Für Anthropic-Batches empfiehlt die Dokumentation die 1-Stunden-Haltezeit.
Caching praktisch: fünf Regeln
Festes nach vorn
Anweisung, Kategorien, Beispiele, Unterlagen zuerst — in genau dieser Reihenfolge bei jeder Anfrage. Die wechselnde Mail oder Frage kommt ganz zum Schluss.
Mindestlänge erreichen
Liegt die feste Anweisung unter 1.024 Token (Anthropic Haiku 4.5 und Google: 4.096), greift nichts. Beispiele und Regeln, die ohnehin nützlich sind, in den festen Teil ziehen.
Innerhalb der Haltezeit bündeln
Mails alle fünf Minuten gesammelt verarbeiten statt einzeln über den Tag verteilt. Bei Anthropic mit 5-Minuten-Cache muss innerhalb von fünf Minuten die nächste Anfrage kommen — sonst zahlen Sie das Anlegen erneut.
Trefferquote prüfen
Jede Antwort enthält die Zahl der Cache-Token. Nach der Einrichtung zehn Anfragen schicken und nachsehen: Ab der zweiten müssen Treffer erscheinen.
Anweisung stabil halten
Jede Änderung am festen Teil — ein Komma, ein Beispiel, eine Werkzeugdefinition — legt den Cache neu an. Änderungen sammeln und gebündelt ausrollen, nicht täglich.
Batch-Verarbeitung: die Hälfte für Geduld
Der zweite Rabatt braucht keine Anordnung und keine Mindestlänge, nur Zeit. Wer Anfragen gesammelt einreicht und die Antworten später abholt, zahlt bei OpenAI, Anthropic und Google 50 % weniger auf Ein- und Ausgabe (Dokumentationen, 10.09.2026). OpenAI verarbeitet Batches innerhalb eines 24-Stunden-Fensters — bis zu 50.000 Anfragen je Batch, Eingabedatei bis 200 MB. Anthropic nimmt bis zu 100.000 Anfragen oder 256 MB je Batch; die meisten Batches sind laut Dokumentation in unter einer Stunde fertig, nach 24 Stunden verfallen unbearbeitete Anfragen ohne Berechnung, Ergebnisse bleiben 29 Tage abrufbar. Google gewährt dieselben 50 % auf seine Preise.
Batch eignet sich für alles, was ohnehin „über Nacht“ laufen darf: die Klassifizierung des Tagespostfachs, die Übersetzung eines Katalogs, das Auswerten von Umfragen, das Anreichern von Datensätzen, monatliche Berichte. Ungeeignet ist es für alles, worauf ein Mensch wartet — Chatbots, Assistenten im Kundengespräch, die Antwort auf eine gerade eingegangene Anfrage. Beide Rabatte lassen sich kombinieren: Anthropic bestätigt ausdrücklich, dass Cache-Multiplikatoren und Batch-Rabatt zusammenwirken, und empfiehlt für Batches mit gemeinsamem Kontext die 1-Stunden-Haltezeit, weil ein 5-Minuten-Cache während der Verarbeitung ablaufen kann.
Wann sich was lohnt
Caching lohnt sich bei Anthropic ab dem ersten Treffer. Das Anlegen kostet das 1,25-Fache, der Treffer ein Zehntel — zusammen 1,35-mal den Eingabepreis für zwei Anfragen statt 2,0-mal. Mit der 1-Stunden-Haltezeit (Anlegen 2×) rechnet es sich ab dem zweiten Treffer. Bei OpenAI (Anlegen 1,25×, ab GPT-5.6) gilt dieselbe Rechnung. Umgekehrt heißt das: Wer die feste Anweisung nur einmal am Tag nutzt und der Cache jedes Mal abgelaufen ist, zahlt 25 % mehr als ohne Caching — bei Anthropic deshalb die Markierung weglassen, wenn die Anfragen zu selten kommen.
Caching lohnt sich umso mehr, je größer der feste Anteil. Beim Mail-Sortierer sind es 75 % der Eingabe; bei einem Chatbot mit 5.000 Token Wissensbasis und 600 Token Frage über 89 %. Bei einer kurzen Anweisung von 300 Token und langen, wechselnden Dokumenten bringt Caching nichts — dort liegt der Hebel bei der Antwortlänge und beim kleineren Modell; welches Modell zu welcher Aufgabe passt, zeigt der Artikel Kleines oder großes Modell?.
Batch lohnt sich immer, wenn Zeit ist. Kein Mindestvolumen, keine Bedingungen, 50 %. Die einzige Frage ist organisatorisch: Kann die Aufgabe warten? Bei den meisten Büro-Automatisierungen lautet die ehrliche Antwort ja — die Mails müssen nicht in der Sekunde sortiert sein, in der sie ankommen, sondern bevor jemand das Postfach öffnet.
Mindestlängen, Haltezeiten und Preisfaktoren wurden am 10. September 2026 in den Dokumentationen von OpenAI, Anthropic und Google nachgeschlagen und gelten teils nur für bestimmte Modellgenerationen. Maßgeblich ist immer die aktuelle Dokumentation des Anbieters; prüfen Sie die Trefferquote in Ihren eigenen Antworten.
Typische Fehler, die den Cache zerstören
Variablen am Anfang. Der Klassiker: „Heute ist der 10. September 2026. Du bist ein Assistent für …“ — das Datum macht jeden Präfix einzigartig, ab Mitternacht ist der Cache wertlos, und bei Uhrzeit oder Ticketnummer im ersten Satz greift er nie. Gleiches gilt für Kundennamen, Session-IDs, Zufallsbeispiele. Alles Veränderliche nach hinten.
Unter der Mindestlänge. Eine knappe Anweisung mit 600 Token wird bei keinem Anbieter zwischengespeichert; bei Claude Haiku 4.5 und Gemini 3.8 Flash liegt die Schwelle bei 4.096 Token. Die Antwort weist null Cache-Token aus — wer nicht nachsieht, merkt es nicht.
Anfragen zu selten. Eine Anfrage alle zwei Stunden trifft bei OpenAI (30 Minuten) und Anthropic (5 Minuten oder 1 Stunde) einen leeren Cache. Bündeln oder auf Caching verzichten.
Werkzeuge oder Modell zwischendurch geändert. Bei Anthropic stehen Werkzeugdefinitionen vor der Systemanweisung; eine Änderung dort macht alles dahinter ungültig. Bei OpenAI gilt: Modellwechsel, geänderte Werkzeuge oder Ausgabeformate — neuer Präfix, neuer Cache.
Verlauf ohne Ende mitschleppen. Bei Chats wächst der Präfix mit jeder Nachricht; das ist gut für den Cache (der alte Teil bleibt gleich), aber schlecht für die Rechnung, weil auch Cache-Treffer nicht kostenlos sind. Alte Nachrichten zusammenfassen, sobald der Verlauf die eigentliche Frage um ein Vielfaches übersteigt.
Beispielrechnung: Angebots-Entwurf mit Preisliste
Ein Betrieb lässt Claude Sonnet 5 aus Kundenanfragen Angebots-Entwürfe schreiben: 10 Anfragen am Werktag, 220 im Monat. Der feste Teil — Anweisung, Firmenstil, Preisliste — hat 6.000 Token und steht am Anfang; die Kundenanfrage 800 Token; der Entwurf 1.200 Token Ausgabe. Preise Anthropic vom 10.09.2026: 2 $ Eingabe, 0,20 $ Cache-Treffer, 2,50 $ Anlegen (5 Minuten), 10 $ Ausgabe.
- Ohne Caching: 220 × 6.800 = 1,496 Mio. × 2 $ = 2,99 $ Eingabe + 220 × 1.200 = 0,264 Mio. × 10 $ = 2,64 $ Ausgabe → 5,63 $
- Mit Caching (Anfragen werktags gebündelt, Anlegen einmal je Werktag = 22 × 6.000 Token × 2,50 $ = 0,33 $): 0,176 Mio. neu × 2 $ = 0,35 $ + 1,188 Mio. Treffer × 0,20 $ = 0,24 $ + 0,33 $ Anlegen + 2,64 $ Ausgabe → 3,56 $
- Zusätzlich als Batch über Nacht (−50 %): rund 1,78 $
- Fehler „Datum am Anfang“: jeder Präfix neu → 220 × Anlegen 6.000 Token × 2,50 $ = 3,30 $ statt 0,33 $ Eingabe-Anlegen — die Rechnung steigt auf rund 6,29 $, mehr als ohne Caching
Euro mit EZB-Kurs 09.09.2026 (1 € = 1,1652 $): 5,63 $ ≈ 4,83 €, 3,56 $ ≈ 3,06 €, 1,78 $ ≈ 1,53 €. Eigene Rechnung; Bündelung so, dass der 5-Minuten-Cache je Werktag einmal angelegt wird.
Die Beträge sind klein — der Mechanismus ist es nicht. Bei 22.000 Angeboten statt 220 stehen 563 gegen 178 Dollar, und der Fehler mit dem Datum kostet dann 66 Dollar im Monat für nichts. Der KI-Kostenrechner bildet das Caching mit dem Schalter „Anteil zwischengespeicherter Eingaben“ ab; tragen Sie den Anteil Ihres festen Teils ein und sehen Sie, was der Cache für Ihr Vorhaben bringt. Was neben den Token noch anfällt, rechnet der Artikel Was eine KI-Automatisierung wirklich kostet durch.
Häufige Fragen
Was ist Prompt-Caching?
Der Anbieter speichert den verarbeiteten Anfang Ihrer Eingabe — Anweisungen, Wissensbasis, Unterlagen — zwischen und berechnet ihn bei Wiederverwendung günstiger: bei OpenAI (ab GPT-5.6) und Anthropic ein Zehntel des Eingabepreises, bei Gemini 3.8 Flash 0,075 statt 0,75 $ je Million (Dokumentationen, 10.09.2026). Voraussetzung: unveränderter Anfang, ausreichende Länge.
Wie lang muss die Eingabe für Caching mindestens sein?
OpenAI: 1.024 Token ab GPT-5.6. Anthropic: 1.024 (Sonnet 5), 4.096 (Haiku 4.5), 512 (Opus 5). Google: 4.096 bei Gemini 3.8 Flash und 3.1 Pro (implizit). Stand 10.09.2026. Kürzere Anweisungen werden nicht zwischengespeichert.
Wie lange bleibt der Cache erhalten?
OpenAI: 30 Minuten nach dem letzten Zugriff (ab GPT-5.6). Anthropic: 5 Minuten (Anlegen 1,25×) oder 1 Stunde (Anlegen 2×), ab letztem Zugriff verlängert. Google: explizite Caches mit Speichergebühr je Million Token und Stunde (3.8 Flash: 0,50 $). Stand 10.09.2026.
Was bringt die Batch-Verarbeitung?
50 % Rabatt auf Ein- und Ausgabe bei OpenAI, Anthropic und Google, wenn Antworten warten dürfen. OpenAI: 24-Stunden-Fenster; Anthropic: meist unter einer Stunde, spätestens nach 24 Stunden verfallen unbearbeitete Anfragen (Dokumentationen, 10.09.2026). Mit Caching kombinierbar.
Warum greift mein Cache nicht?
Meist: Variable (Datum, Name, Ticketnummer) am Anfang; Anweisung unter der Mindestlänge; Pause länger als die Haltezeit; Werkzeuge oder Modell zwischendurch geändert. Die Antwort des Anbieters weist die Cache-Token aus — dort nachsehen.
- OpenAI: Prompt Caching — Mindestlänge 1.024 Token ab GPT-5.6, Treffer 0,1×, Anlegen 1,25×, 30 Minuten Haltezeit, identischer Präfix, Ungültigkeit bei Modell-/Werkzeugwechsel; ältere Modelle 5–10 Minuten bzw. 24 Stunden
- OpenAI: Batch API — 50 % Rabatt, 24-Stunden-Fenster, bis 50.000 Anfragen, Eingabedatei bis 200 MB
- Anthropic: Prompt caching — Mindestlängen 512/1.024/4.096 Token je Modell, 5-Minuten- und 1-Stunden-Cache, Anlegen 1,25×/2×, Treffer 0,1×, Reihenfolge Werkzeuge → System → Nachrichten
- Anthropic: Batch processing — 50 % Rabatt, meist unter 1 Stunde, Verfall nach 24 Stunden ohne Berechnung, 100.000 Anfragen oder 256 MB, Ergebnisse 29 Tage, Empfehlung 1-Stunden-Cache
- Anthropic: Pricing — Claude Sonnet 5 2/10 $, Cache-Multiplikatoren, Batch und Cache kombinierbar
- Google: Context caching — implizites Caching ab 4.096 Token (Gemini 3.8 Flash, 3.1 Pro), große gemeinsame Inhalte an den Anfang
- Google: Gemini API Pricing — Gemini 3.8 Flash Cache 0,075 $, Speicher 0,50 $ je Mio. Token und Stunde; Gemini 3.1 Pro Cache 0,20 $, Speicher 4,50 $; Batch −50 %
- EZB: Euro-Referenzkurs US-Dollar — 1 € = 1,1652 $ am 09.09.2026