Comptabilisation des coûts d'API d'un agent financier

Choisissez l'unité de travail avant d'estimer le coût

Définissez si vous mesurez une note sur une entreprise, une comparaison de résultats, une mise à jour de liste de suivi ou une expérience quantitative. Une application multi-agent peut effectuer de nombreuses requêtes de modèle dans cette unité. Séparez les tâches techniquement terminées des artefacts acceptés par un relecteur. Le coût par artefact accepté capture les nouvelles tentatives et le travail rejeté qu'une métrique de coût par réponse ignore. Gardez la définition de la tâche stable lorsque vous comparez les modèles ; sinon une exécution moins chère peut simplement avoir lu moins de sources ou sauté une étape de revue requise.

Tenez un registre de requêtes relié à la tâche

Enregistrez l'identité de la tâche, l'étape, le rôle du modèle, le modèle demandé, l'identité de requête observée, le numéro de tentative et le statut final. Conservez l'utilisation des tokens et la preuve de facturation applicable lorsqu'elle est disponible. Un délai d'attente du client ne prouve ni qu'aucun calcul n'a eu lieu ni que la requête était gratuite. Maintenez un état de facturation non résolu jusqu'au rapprochement. Ne placez jamais les clés, les prompts privés ou des documents sources sous licence complets dans un registre de coûts qui sera partagé avec un public plus large.

{
  "job_id": "REQUIRED",
  "stage": "research_synthesis",
  "model_role": "review",
  "requested_model": "CURRENT_CATALOG_MODEL_ID",
  "request_id": null,
  "attempt": 1,
  "input_tokens": null,
  "output_tokens": null,
  "charge": null,
  "billing_status": "unreconciled",
  "artifact_status": "pending"
}

Appliquez le contrat de facturation réel

Utilisez la source de tarification actuelle du modèle sélectionné et enregistrez sa version ou sa date de récupération avec l'estimation. Distinguez les entrées ordinaires, les entrées mises en cache, la sortie et les autres catégories facturées selon ce contrat. Ne comptez pas deux fois un sous-ensemble mis en cache déjà inclus dans les entrées totales. Les prix officiels du fournisseur et les frais de passerelle relèvent de contrats différents ; aucun ne doit remplacer silencieusement l'autre. Si une réponse ne contient pas d'utilisation, utilisez la preuve de facturation faisant autorité lorsqu'elle est disponible et conservez l'incertitude jusque-là.

Comptabilisez les parties non-LLM de la recherche financière

Ajoutez l'accès aux données financières, l'extraction documentaire, le stockage, le calcul local et la revue humaine comme catégories séparées. Une expérience Qlib ou un entraînement FinRL peut consommer des ressources importantes sans effectuer de requête de chat. Un notebook FinGPT peut combiner une conversation distante avec un modèle local d'inférence de sentiment. Garder ces chemins distincts explique où l'optimisation peut aider. Lorsque vous rendez compte des coûts partagés d'abonnement ou d'infrastructure, indiquez la méthode d'affectation au lieu de prétendre que chaque tâche a généré une charge facturée indépendamment.

Comprenez pourquoi les coûts multi-agents se multiplient

TradingAgents possède des rôles de modèle et des étapes de recherche itératives distincts ; le total dépend du volume réel des sources et du nombre de tours configurés. D'autres frameworks ajoutent coordination, récupération, nouvelles tentatives ou révisions de code répétées. Comptez ces opérations dans les journaux plutôt qu'à partir du nombre d'agents nommés. Le même long document peut être répété dans plusieurs prompts. Inspectez où le contexte est réutilisé et si chaque revue supplémentaire apporte un bénéfice d'acceptation distinct. Un graphe plus grand n'est pas automatiquement un workflow de recherche plus économique ou plus exact.

Réduisez le travail répété tout en préservant les preuves

Extrayez les documents une fois par source et version de parseur, puis transmettez des paquets de preuves délimités aux étapes suivantes. Réutilisez les calculs déterministes selon l'identité de l'entrée et de la formule. Limitez les tours de débat et les tentatives et choisissez les rôles de modèle selon les exigences réelles de la tâche. Validez l'effet sur la sortie acceptée, et pas seulement sur le nombre de requêtes. Un résumé agressif peut omettre la réserve la plus importante ; la réutilisation du cache peut servir un document obsolète. Chaque optimisation doit pouvoir détecter les entrées périmées et préserver la source originale pour la revue.

Comparez les workflows sur le même paquet de tâche

Utilisez le même ensemble d'émetteurs, la même date de coupure, le même paquet source et les mêmes critères d'acceptation. Enregistrez les artefacts terminés, rejetés, les tâches partielles et les corrections humaines. Comparez la distribution obtenue des coûts de tâche plutôt que de sélectionner une exécution favorable. Pour une liste de suivi planifiée, séparez les événements inchangés des événements de nouvelle source, car leur travail diffère. Pour la recherche quantitative, incluez le nombre d'hypothèses tentées et le calcul local. Publiez la configuration et les limites des preuves avec tout chiffre mesuré ultérieurement afin qu'un autre relecteur puisse savoir ce que couvre la comparaison.

État des preuves et des mesures

Cette page fournit une méthode de comptabilisation, et non un prix par rapport mesuré ou un tableau de tarifs de modèles actuel. Les sources officielles des projets établissent les différentes responsabilités runtime ; la page de tarification actuelle fournit les conditions commerciales. Aucun registre d'utilisation d'un workflow financier APIsRouter n'a été généré pour ce guide. Un cas mesuré doit inclure les preuves de requêtes masquées, les frais rapprochés, les coûts de ressources non liées au modèle et le nombre d'artefacts acceptés.

Questions fréquentes