Bagaimana bil API Anthropic sebenarnya berfungsi

Jawapan pantas: apa sebenarnya yang anda dikenakan bayaran

Anthropic mengenakan bil Claude API per token, secara prabayar. Anda membeli kredit di developer console, dan setiap permintaan menolak baki tersebut merentasi tiga meter: token input (semua yang anda hantar), token output (semua yang dijana model, termasuk thinking token), dan trafik prompt cache (write dikenakan 1.25x kadar input, read dikenakan 0.1x). Tiada langganan untuk API itu sendiri, dan langganan Claude Pro atau Max tidak termasuk kredit API. Output ialah meter yang mahal. Claude Sonnet 4.6 disenaraikan pada $3.00 per juta token input dan $15.00 per juta token output, jurang 5x. Claude Opus 4.7 disenaraikan pada $5.00 input dan $25.00 output. Jika bil anda lebih tinggi daripada jangkaan, semak volum output dan pertumbuhan sejarah perbualan sebelum apa-apa lagi.

Tiga meter: token input, output, dan cache

Input meliputi lebih daripada sekadar mesej pengguna. System prompt, keseluruhan sejarah perbualan, definisi tool, hasil tool, dan imej semuanya dikira sebagai token input pada setiap permintaan yang menyertakannya. Output pula meliputi semua yang ditulis semula oleh model, dan pada model yang berupaya reasoning itu termasuk thinking token yang mungkin tidak pernah anda paparkan kepada pengguna. Prompt caching ialah meter ketiga dan yang paling kerap tidak digunakan oleh pasukan. Anda menanda prefix yang stabil (system prompt panjang, dokumen, senarai tool tetap) dengan breakpoint cache_control. Permintaan pertama membayar premium write 1.25x kadar input untuk cache lalai 5 minit; setiap permintaan yang menggunakan semula prefix tersebut dalam tempoh itu membacanya semula pada 0.1x. Cache 1 jam juga tersedia pada kadar write 2x. Berikut jadual kadar penuh untuk dua model flagship Claude pada harga rasmi.

Contoh sebenar: satu chatbot, satu hari

Ambil contoh chatbot sokongan pada Claude Sonnet 4.6 dengan kadar rasmi: 10,000 permintaan sehari, setiap satu membawa system prompt 2,000 token ditambah 1,500 token sejarah dan mesej pengguna, dijawab dengan balasan 500 token. Jadual di bawah menunjukkan beban kerja yang sama dengan dan tanpa system prompt di-cache. Tanpa caching, kos sehari mencecah $180.00, kira-kira $5,400 sebulan. Meng-cache system prompt (dengan andaian kira-kira 300 kali cache tamat tempoh sehari pada tetingkap 5 minit) memangkasnya kepada kira-kira $128 sehari, kira-kira $3,840 sebulan. Perhatikan apa yang tidak berubah: kos output. Caching hanya menyentuh input, itulah sebabnya disiplin output lebih penting daripada mana-mana tuas kos yang lain.

Sebab bil Anthropic mengejutkan pasukan

Empat pola berikut menjelaskan kebanyakan persoalan "kenapa bil ini beberapa kali ganda daripada anggaran". 1. Output ialah 5x input, dan thinking dikira sebagai output. Anggaran biasanya bersandar pada kadar input kerana angka itulah yang pertama disebut. Tetapi jawapan panjang, format yang bertele-tele, dan extended thinking semuanya dikenakan bil pada kadar output. Model yang menaakul 3,000 token sebelum menjawab dalam 500 token mengenakan bil 3,500 token output untuk sesuatu yang kelihatan seperti balasan ringkas. 2. Sejarah dikenakan bil semula pada setiap giliran. API bersifat stateless, jadi setiap giliran menghantar semula keseluruhan perbualan sebagai input. Chat dengan purata 20 giliran tidak berkos 20x satu giliran; kosnya jauh lebih besar, kerana giliran ke-20 membawa 19 giliran sebelumnya sebagai input. Kos input berkembang secara kira-kira kuasa dua terhadap panjang perbualan melainkan anda memangkas atau meringkaskannya. 3. Langganan dan kredit API adalah berasingan. Claude Pro dan Max meliputi aplikasi Claude, bukan API. Pasukan mengandaikan langganan menyerap trafik API, kemudian baru sedar console diam-diam menolak baki prabayar dengan auto-reload diaktifkan. 4. Semua yang ada dalam permintaan ialah input, dan atribusinya sukar. Definisi tool, hasil tool, imej, dan system prompt semuanya dikenakan bil sebagai input pada setiap permintaan yang menyertakannya. Sebarkan itu merentasi beberapa API key, environment, dan ciri tanpa logging per-key, dan tiada siapa yang boleh memastikan ciri mana yang membelanjakan wang itu sehingga invois tiba.

Pengebilan Anthropic vs OpenAI, berdampingan

Kedua-dua penyedia mengukur dengan cara yang sama: per token, kadar input dan output berasingan, kredit prabayar sebagai lalai. Perbezaan yang benar-benar memberi kesan kepada bil anda terletak pada mekanik cache dan kawalan perbelanjaan. Perbezaan praktikalnya ada pada caching. OpenAI menerapkan prompt caching secara automatik tanpa yuran write dan memberi diskaun pada bahagian yang di-cache. Anthropic mewajibkan anda memasang breakpoint cache_control sendiri, mengenakan premium write, dan membayarnya semula melalui read yang jauh lebih murah pada 0.1x kadar input. Untuk beban kerja dengan prompt stabil yang panjang, caching Anthropic yang dipasang dengan betul adalah tuas yang lebih kuat; jika salah pasang (timestamp dalam system prompt, senarai tool yang tidak stabil), cache itu diam-diam tidak pernah terkena dan anda membayar harga penuh ditambah premium write.

Cara menganggar kos API Anthropic anda sebelum melancarkan

Setiap respons API menyertakan objek usage dengan input_tokens dan output_tokens yang tepat, ditambah cache_creation_input_tokens dan cache_read_input_tokens apabila caching aktif. Objek itulah kebenaran sebenar. Tokenizer sisi klien yang dibina untuk penyedia lain mengira token Claude terlalu rendah, jadi jangan buat anggaran menggunakannya. Prosedurnya: hantar beberapa permintaan yang mewakili, baca objek usage, dan purata-kan hitungannya. Kemudian gunakan formula: kos = (input_tokens / 1,000,000 x kadar input) + (output_tokens / 1,000,000 x kadar output), ditambah komponen cache write dan read jika anda meng-cache. Darabkan dengan volum harian yang dijangka, dan untuk produk multi-turn tambahkan ruang pertumbuhan kerana sejarah mendorong input naik pada setiap giliran. Anthropic juga menyediakan endpoint count_tokens jika anda mahu tahu jumlah token sebelum menghantar apa-apa.

curl https://api.anthropic.com/v1/messages \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "claude-sonnet-4-6",
    "max_tokens": 1024,
    "messages": [{"role": "user", "content": "Summarize this ticket: ..."}]
  }'

# Respons menyertakan kebenaran sebenar untuk model kos anda:
# "usage": {"input_tokens": 2412, "output_tokens": 486,
#           "cache_read_input_tokens": 0, "cache_creation_input_tokens": 0}

Lima cara mengurangkan bil API Anthropic anda

Taktik kelima itulah tempat gateway benar-benar berguna. APIsRouter ialah gateway serasi OpenAI yang mencatat model, token input, token output, dan kos dolar yang tepat setiap permintaan, setiap API key, supaya setiap ciri atau environment mendapat key sendiri dan baris sendiri dalam usage view. Ia menyenaraikan Claude Sonnet 4.6 pada $2.40 input dan $12.00 output per juta token dan Claude Opus 4.7 pada $4.00 dan $20.00, 20% di bawah harga rasmi, dikenakan bil pay as you go tanpa langganan; top up pertama anda di /topup digandakan. Mengarahkan integrasi OpenAI SDK sedia ada anda kepadanya cuma perubahan dua baris:

• Cache prefix anda yang panjang dan stabil. System prompt atau dokumen yang berulang merentasi permintaan dikenakan bil sepersepuluh kadar input pada setiap cache read selepas write pertama.
• Pangkas sejarah dan hadkan max_tokens. Ringkaskan atau buang giliran lama berbanding menghantarnya semula, dan tetapkan max_tokens mengikut keperluan tugas supaya jawapan yang melarat tidak mengenakan bil ribuan token output tambahan.
• Halakan mengikut tugas, bukan tabiat. Simpan Opus untuk langkah yang benar-benar memerlukannya dan tolak klasifikasi pukal, ekstraksi, dan draf kepada model lebih murah seperti deepseek-v4-flash atau glm-5.
• Batch apa-apa yang bersifat asinkron. Batches API memproses permintaan dalam masa 24 jam pada separuh harga, sesuai untuk backfill, evaluasi, dan job waktu malam.
• Letakkan visibiliti kos per-key di hadapan trafik anda. Kebanyakan bil yang mengejutkan adalah masalah atribusi: tiada siapa yang boleh memastikan ciri atau pelanggan mana yang membelanjakan wang itu sehingga invois tiba.

from openai import OpenAI

client = OpenAI(
    api_key="sk-APIsRouter-...",
    base_url="https://api.apisrouter.com/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-4-6",
    messages=[{"role": "user", "content": "Summarize this ticket: ..."}],
)

# Bilangan token dikembalikan pada setiap respons; console gateway
# turut merekodkan kos tepat permintaan ini di bawah key ini.
print(response.usage.prompt_tokens, response.usage.completion_tokens)

Soalan lazim