Akuntansi biaya API agen keuangan

Pilih unit pekerjaan sebelum memperkirakan biaya

Tentukan apakah Anda mengukur satu brief perusahaan, satu perbandingan laporan, satu pembaruan watchlist, atau satu eksperimen kuantitatif. Aplikasi multi-agen dapat membuat banyak permintaan model di dalam unit itu. Pisahkan tugas yang selesai secara teknis dari artefak yang diterima peninjau. Biaya per artefak diterima menangkap retry dan pekerjaan yang ditolak, yang tidak terlihat pada metrik biaya per respons. Pertahankan definisi tugas saat membandingkan model; jika tidak, run yang lebih murah mungkin hanya membaca lebih sedikit sumber atau melewati tahap tinjauan wajib.

Pertahankan ledger permintaan yang terhubung ke job

Catat identitas job, tahap, peran model, model yang diminta, identitas permintaan yang diamati, nomor percobaan, dan status akhir. Simpan penggunaan token serta catatan billing yang berlaku bila tersedia. Timeout client tidak membuktikan bahwa tidak ada komputasi atau permintaan gratis. Pertahankan status billing belum terselesaikan sampai dapat direkonsiliasi. Jangan pernah menaruh key, prompt privat, atau dokumen sumber berlisensi lengkap dalam ledger biaya yang akan dibagikan kepada audiens yang lebih luas.

{
  "job_id": "REQUIRED",
  "stage": "research_synthesis",
  "model_role": "review",
  "requested_model": "CURRENT_CATALOG_MODEL_ID",
  "request_id": null,
  "attempt": 1,
  "input_tokens": null,
  "output_tokens": null,
  "charge": null,
  "billing_status": "unreconciled",
  "artifact_status": "pending"
}

Terapkan kontrak penagihan yang sebenarnya

Gunakan sumber harga terkini untuk model yang dipilih dan catat versi atau tanggal pengambilannya bersama perkiraan. Bedakan input biasa, input cache, output, dan kategori tertagih lainnya sesuai kontrak. Jangan menghitung dua kali subset cache yang sudah termasuk dalam total input. Harga penyedia resmi dan biaya gateway adalah kontrak berbeda; tidak satu pun boleh diam-diam menggantikan yang lain. Jika response tidak memiliki usage, gunakan bukti billing berwenang bila tersedia dan pertahankan ketidakpastian sampai saat itu.

Hitung bagian non-LLM dari riset keuangan

Tambahkan akses data keuangan, ekstraksi dokumen, penyimpanan, komputasi lokal, dan peninjauan manusia sebagai kategori terpisah. Run eksperimen Qlib atau pelatihan FinRL dapat mengonsumsi banyak resource tanpa membuat permintaan chat. Notebook FinGPT dapat menggabungkan percakapan agen remote dengan inferensi sentimen lokal. Menjaga jalur tersebut terpisah menjelaskan di mana optimisasi dapat membantu. Saat melaporkan biaya langganan atau infrastruktur bersama, nyatakan metode alokasi, jangan berpura-pura setiap tugas menghasilkan tagihan mandiri.

Pahami mengapa biaya multi-agen berlipat

TradingAgents memiliki peran model dan tahap riset iteratif yang terpisah; total bergantung pada volume sumber aktual dan ronde yang dikonfigurasi. Framework lain menambahkan koordinasi, retrieval, retry, atau revisi kode berulang. Hitung operasi dari log, bukan dari jumlah agen yang disebutkan. Pengajuan panjang yang sama dapat diulang dalam beberapa prompt. Periksa di mana konteks digunakan ulang dan apakah setiap tinjauan tambahan menghasilkan manfaat penerimaan yang berbeda. Graph yang lebih besar tidak otomatis menjadi alur kerja riset yang lebih ekonomis atau akurat.

Kurangi pekerjaan berulang sambil mempertahankan bukti

Ekstrak dokumen sekali per sumber dan versi parser, lalu berikan paket bukti terbatas ke tahap berikutnya. Gunakan ulang perhitungan deterministik berdasarkan input dan identitas formula. Batasi ronde debat dan percobaan ulang, serta pilih peran model sesuai kebutuhan tugas aktual. Validasi dampaknya pada output diterima, bukan hanya jumlah permintaan. Ringkasan agresif dapat menghilangkan caveat yang paling penting; cache reuse dapat menyajikan pengajuan usang. Setiap optimisasi membutuhkan cara untuk mendeteksi input lama dan mempertahankan sumber asli untuk peninjauan.

Bandingkan alur kerja pada paket tugas yang sama

Gunakan set penerbit, batas waktu, paket sumber, dan kriteria penerimaan yang sama. Catat artefak selesai, artefak ditolak, job parsial, dan koreksi manusia. Bandingkan distribusi biaya tugas yang dihasilkan, bukan memilih satu run yang menguntungkan. Untuk watchlist terjadwal, pisahkan event tidak berubah dari event sumber baru karena pekerjaannya berbeda. Untuk riset kuantitatif, sertakan jumlah hipotesis yang dicoba dan compute lokal. Publikasikan konfigurasi dan batas bukti bersama angka terukur berikutnya agar peninjau lain dapat memahami cakupan perbandingan.

Status bukti dan pengukuran

Halaman ini menyediakan metode akuntansi, bukan harga terukur per laporan atau tabel harga model terkini. Sumber proyek resmi menetapkan tanggung jawab runtime yang berbeda; halaman harga saat ini menyediakan ketentuan komersial. Tidak ada ledger penggunaan alur keuangan APIsRouter yang dibuat untuk panduan ini. Kasus terukur harus mencakup bukti permintaan yang disamarkan, biaya yang direkonsiliasi, biaya resource non-model, dan jumlah artefak yang diterima.

Pertanyaan umum