10 způsobů, jak ušetřit na AI API nákladech v roce 2026

Praktický playbook pro snížení LLM nákladů o 40–80 % bez ztráty kvality. Caching, model routing, batch API, prompt komprese a další taktiky s reálnými čísly.

Účet za AI API roste rychleji než revenue? Nejsi sám. Většina týmů, kterým jsme se dívali pod ruku, utrácí o 40–70 % víc, než musí. Tady je 10 taktik, které fungují v produkci.

1. Routing modelů podle složitosti

Nepoužívej GPT-5 na všechno. Klasifikace, krátké odpovědi a routing může dělat GPT-4o mini nebo Claude Haiku za 10–20× nižší cenu. Komplexní reasoning nech na flagship modelu. Jednoduchý "router" prompt na malém modelu rozhodne, kam dotaz pošle.

2. Prompt caching

Anthropic, OpenAI i Gemini podporují cache opakovaných částí promptu (system prompt, RAG kontext, few-shot příklady). Cached tokeny stojí 10–25 % normální ceny. U agentů s velkým system promptem to bývá největší jednorázová úspora.

3. Batch API místo realtime

Pokud nepotřebuješ odpověď do sekund (klasifikace logů, embedding, hromadné generování), použij batch endpoint. 50% sleva oproti běžnému API u OpenAI i Anthropic.

4. Zkracuj system prompty

Každý request platí celý system prompt znovu (pokud necachuješ). 2 000 zbytečných tokenů × 100k requestů = 200M tokenů měsíčně navíc. Audituj prompty, mažeš mrtvé instrukce.

5. max_tokens limit

Model rád generuje delší odpovědi než potřebuješ. Tvrdě limituj max_tokens. U JSON response formátu to dramaticky snižuje výstupní tokeny.

6. Strukturovaný output místo "vysvětli proč"

Když potřebuješ jen výsledek, nech model vrátit JSON. Free-form "step by step thinking" zní hezky, ale platíš za každý token. Pro reasoning modely (o1, GPT-5 thinking) je to často největší položka faktury.

7. Streaming a early termination

Streamuj odpovědi a zastav generování, jakmile máš co potřebuješ (např. první JSON blok). Šetří output tokeny v hraničních case-ech.

8. Cache výsledků (ne jen promptu)

Identický vstup = identický výstup? Cachuj. Redis nebo i jednoduchá tabulka v Postgresu. U FAQ bota nebo klasifikace se cache hit ratio běžně dostane nad 30 %.

9. Embeddings + retrieval místo kontextu

Místo cpaní celé dokumentace do contextu udělej RAG. 5 relevantních chunků (500 tokenů) je levnější než 50k token dump a často přesnější.

10. Měř, nehádej

Bez monitoringu nezachytíš runaway loop, infinite agenta nebo bug, který strojí $200/den. Connect OpenAI/Anthropic přes Tokeny a sleduj denní spend.

Kolik to celkově ušetří?

Realistický mix těchto taktik dává 40–80 % snížení faktury u většiny use casů. Začni routingem a cachem — to jsou typicky největší rychlé výhry.

Související: Optimalizace promptů · Token window strategie · Spočítej si reálné náklady