Облік вартості API фінансового агента

До оцінки вартості оберіть одиницю роботи

Визначте, чи вимірюєте одну довідку про компанію, одне порівняння прибутків, одне оновлення списку спостереження або один кількісний експеримент. Багатоагентна програма може виконати багато запитів моделі всередині цієї одиниці. Відокремлюйте завдання, що технічно завершилися, від артефактів, прийнятих рецензентом. Вартість прийнятого артефакту враховує повтори й відхилену роботу, які показник вартості відповіді пропускає. Під час порівняння моделей зберігайте визначення завдання сталим, інакше дешевший запуск може лише прочитати менше джерел або пропустити обов’язковий етап перевірки.

Ведіть журнал запитів, пов’язаний із завданням

Записуйте ідентичність завдання, етап, роль моделі, запитану модель, спостережувану ідентичність запиту, номер спроби та фінальний статус. Коли доступні, зберігайте використання токенів і відповідний платіжний запис. Тайм-аут клієнта не доводить, що обчислення не відбулося або запит був безкоштовним. Зберігайте невирішений стан платежу до узгодження. Ніколи не додавайте ключі, приватні prompt або повні ліцензовані документи джерел до журналу вартості, яким ділитимуться з ширшою аудиторією.

{
  "job_id": "REQUIRED",
  "stage": "research_synthesis",
  "model_role": "review",
  "requested_model": "CURRENT_CATALOG_MODEL_ID",
  "request_id": null,
  "attempt": 1,
  "input_tokens": null,
  "output_tokens": null,
  "charge": null,
  "billing_status": "unreconciled",
  "artifact_status": "pending"
}

Застосовуйте фактичний платіжний контракт

Для вибраної моделі використовуйте актуальне джерело тарифів і записуйте його версію або дату отримання разом з оцінкою. Відрізняйте звичайний вхід, кешований вхід, результат та інші категорії оплати відповідно до контракту. Не рахуйте двічі кешовану частину, уже включену до загального входу. Ціни офіційного провайдера та списання шлюзу є різними контрактами; жоден не має мовчки замінювати інший. Якщо у відповіді немає usage, за наявності використовуйте авторитетні платіжні докази й зберігайте невизначеність до їх отримання.

Враховуйте не-LLM частини фінансового дослідження

Додавайте доступ до фінансових даних, витягування документів, сховище, локальні обчислення та людську перевірку як окремі категорії. Експеримент Qlib або запуск навчання FinRL може споживати значні ресурси без чатового запиту. Ноутбук FinGPT може поєднувати віддалену розмову агента з локальним висновком про настрої. Розрізнення цих шляхів пояснює, де може допомогти оптимізація. Повідомляючи спільні витрати на підписку або інфраструктуру, вкажіть метод розподілу, а не вдавайте, що кожне завдання створило окремо виставлене списання.

Зрозумійте, чому багатоагентні витрати множаться

TradingAgents має окремі ролі моделей та ітеративні дослідницькі етапи; загальна сума залежить від фактичного обсягу джерел і налаштованих раундів. Інші фреймворки додають координацію, отримання даних, повтори або повторні ревізії коду. Рахуйте ці операції за журналами, а не оцінюйте за кількістю названих агентів. Один довгий звіт може повторюватися в кількох prompt. Перевіряйте, де повторно використовується контекст і чи кожна додаткова перевірка дає окрему користь для прийняття. Більший граф автоматично не означає економніший або точніший процес.

Зменшуйте повторну роботу, зберігаючи докази

Витягуйте документи один раз для кожної версії джерела й парсера, а потім передавайте наступним етапам обмежені пакети доказів. Повторно використовуйте детерміновані розрахунки за ідентичністю входів і формули. Обмежуйте раунди обговорення та спроби повтору, а ролі моделей обирайте за фактичними вимогами завдання. Перевіряйте вплив на прийнятий результат, а не лише кількість запитів. Агресивне підсумовування може пропустити найважливе застереження; повторне використання кешу може повернути застаріле подання. Кожна оптимізація має вміти виявити застарілі входи та зберегти оригінальне джерело для перевірки.

Порівнюйте процеси на тому самому пакеті завдання

Використовуйте той самий набір емітентів, часову межу, пакет джерел і критерії прийняття. Записуйте завершені артефакти, відхилені артефакти, часткові завдання та людські виправлення. Порівнюйте отриманий розподіл вартості завдань, а не обирайте один сприятливий запуск. Для запланованого списку спостереження відокремлюйте незмінні події від подій із новим джерелом, бо їхня робота різна. Для кількісного дослідження додавайте кількість перевірених гіпотез і локальні обчислення. Разом із подальшим виміряним показником публікуйте конфігурацію та межі доказів, щоб рецензент міг зрозуміти фактичне охоплення порівняння.

Статус доказів і вимірювання

Ця сторінка надає метод обліку, а не виміряну вартість звіту або актуальну таблицю цін моделей. Офіційні джерела проєктів встановлюють різні обов’язки середовищ виконання; сторінка актуальних тарифів надає комерційні умови. Для цього посібника журнал використання фінансового процесу APIsRouter не створювався. Виміряний кейс має містити знеособлені докази запитів, узгоджені списання, витрати не-модельних ресурсів і кількість прийнятих артефактів.

Поширені запитання