Chạy Open Interpreter trên một endpoint tương thích OpenAI tùy chỉnh.
Updated 2026-07-30
Open Interpreter phơi bày api_base trực tiếp. Trỏ nó vào https://api.apisrouter.com/v1, thêm tiền tố id model bằng openai/ để LiteLLM nói chat completions, và model viết cùng chạy code trên máy của bạn có thể là bất kỳ id nào trong catalog dưới một key.
Câu trả lời nhanh: api_base cộng tiền tố model openai/.
Open Interpreter tài liệu hóa một đường endpoint tùy chỉnh ở cả hai giao diện. Trên CLI, truyền --api_base với endpoint và --model với id mang tiền tố openai/. Trong Python, đặt interpreter.llm.api_base, interpreter.llm.api_key, và interpreter.llm.model trước khi gọi chat(). Tiền tố không phải trang trí. Open Interpreter chạy trên LiteLLM, và LiteLLM giải quyết client provider nào để dùng từ chuỗi model. openai/claude-sonnet-4-6 nghĩa là "nói giao thức chat-completions của OpenAI tới bất cứ gì api_base nói, với claude-sonnet-4-6 làm trường model." Bỏ tiền tố và LiteLLM suy luận provider từ tên trần thay vào đó, định tuyến một id claude-* về phía client của Anthropic và bỏ qua endpoint bạn đã cấu hình.
export OPENAI_API_KEY=sk-APIsRouter-...
interpreter \
--api_base https://api.apisrouter.com/v1 \
--model openai/claude-sonnet-4-6Open Interpreter làm gì với model của nó.
Open Interpreter (openinterpreter trên GitHub, khoảng 66K star) trao cho một language model một trình thông dịch code trên máy của bạn: bạn nêu mục tiêu bằng ngôn ngữ tự nhiên, model viết Python hoặc shell, Open Interpreter thực thi nó cục bộ, và đầu ra được nạp lại vào hội thoại cho bước tiếp theo. Vòng lặp đó khiến nó khác biệt về chất so với một chat client. Model không tạo ra văn xuôi; nó tạo ra code chạy với quyền hạn người dùng của bạn, và nó lặp lại đối chiếu với các lỗi thực từ hệ thống thực của bạn. Hai hệ quả theo sau cho việc định tuyến. Thứ nhất, chất lượng model trực tiếp là một thuộc tính an toàn và đúng đắn: một model ảo giác flag hoặc đọc sai một traceback tạo ra một vòng đi-về thất bại khác, và ở chế độ tự chạy nó tạo ra một cái bạn không xem xét. Thứ hai, vòng lặp đói token theo một cách cụ thể: mỗi lượt gửi lại hội thoại, code, và đầu ra đã bắt được đang lớn dần, nên các phiên debug dài cộng dồn context nhanh chóng. Cài đặt api_base di chuyển toàn bộ vòng lặp này vào một endpoint. Vì trường model đi qua dưới dạng một chuỗi trơn sau tiền tố openai/, một id Claude, một id GPT, và một id DeepSeek là các lựa chọn hoán đổi được bằng một flag thay vì các thiết lập provider riêng biệt.
Cài đặt đầy đủ: Python API và một profile.
Đường Python đặt cùng ba giá trị trên interpreter.llm và thêm hai cài đặt LiteLLM không thể tự khám phá cho một id tùy chỉnh: context_window và max_tokens. Open Interpreter dùng context_window để quyết định giữ bao nhiêu lịch sử hội thoại trước khi cắt bớt, nên để trống hoặc mặc định trên một model 200k sẽ cắt sớm hơn nhiều so với cần thiết; hãy khai báo những gì model thực sự hỗ trợ. Cho một thiết lập bền vững, cùng các khóa đó sống trong một profile YAML dưới một khối llm: (mở thư mục profile bằng interpreter --profiles). Một profile giữ endpoint, model, và cài đặt cửa sổ ngoài lịch sử shell của bạn và khiến cấu hình chia sẻ được qua các máy, với key vẫn được cung cấp bởi môi trường.
import os
from interpreter import interpreter
interpreter.llm.api_base = "https://api.apisrouter.com/v1"
interpreter.llm.api_key = os.environ["APISROUTER_API_KEY"]
interpreter.llm.model = "openai/claude-sonnet-4-6"
# LiteLLM cannot infer these for a custom id; declare them:
interpreter.llm.context_window = 200000
interpreter.llm.max_tokens = 8192
interpreter.llm.supports_functions = True
interpreter.chat("Profile data.csv and plot the top 10 rows by revenue.")Chọn model viết code cho bạn.
So sánh model ở đây bất thường cụ thể: cho hai model cùng một tác vụ và đếm số vòng đi-về tới một kết quả hoạt động. Góc nhìn sử dụng theo từng key cộng thêm chi phí token mỗi phiên, cùng với số vòng đi-về là toàn bộ so sánh. Sau một endpoint mỗi ứng viên là một flag.
- Vòng lặp chính muốn một model viết code chạy được và đọc traceback tốt ngay lần đầu; claude-sonnet-4-6 và gpt-5.5 là mức trung dung đáng tin cậy, và mỗi vòng đi-về thất bại mà một model tốt hơn tránh được là token và thời gian chờ tiết kiệm.
- deepseek-v4-pro là ứng viên mạnh cho các phiên nặng về code nơi khối lượng quan trọng; qua một endpoint, thử nó trên chính tác vụ của bạn là một thay đổi --model duy nhất.
- Các phiên tiện ích nhanh (đổi tên file, biến đổi một lần, chuyển định dạng) không cần lý luận frontier; claude-haiku-4-5-20251001 hoặc glm-5.2 giữ chúng nhanh và rẻ.
- Chế độ tự chạy (-y) loại bỏ bước xem xét của con người giữa việc sinh code và thực thi. Nếu bạn dùng nó, hãy dùng nó với model mạnh nhất bạn chạy, trong một sandbox hoặc container, không bao giờ với một model bạn vẫn đang đánh giá.
Trả theo mức sử dụng · thấp hơn giá chính thức
Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.
| Mô hình | Giá chính thức | Giá của chúng tôi |
|---|---|---|
| Claude Sonnet 4.6 | $3.00 / $15.00 per M | $2.40 / $12.00 per M |
| GPT-5.5 | $5.00 / $30.00 per M | $4.00 / $24.00 per M |
| DeepSeek V4 Pro | $0.43 / $0.87 per M | $0.40 / $0.90 per M |
| Claude Haiku 4.5 20251001 | $1.00 / $5.00 per M | $0.80 / $4.00 per M |
| GLM-5.2 | $1.14 / $4.00 per M | $1.10 / $4.00 per M |
Các kiểu lỗi đặc thù của Open Interpreter.
Một id model trần định tuyến vòng qua endpoint của bạn. Không có tiền tố openai/, LiteLLM giải quyết provider từ tên: các id claude-* hướng tới client của Anthropic, và kết quả là một lỗi xác thực hoặc định tuyến đối chiếu với một host bạn chưa từng cấu hình. Nếu lỗi nhắc tới một SDK vendor thay vì gateway của bạn, tiền tố đang thiếu. Giả định context mặc định cắt bớt phiên của bạn. Với một id LiteLLM không nhận ra, không gì điền vào cửa sổ context; Open Interpreter rơi về hành vi thận trọng và cắt lịch sử sớm. Khai báo context_window một cách tường minh, vì một phiên debug code mất đi các nỗ lực trước đó sẽ lặp lại cùng sai lầm. Phiên lớn dần, hóa đơn lớn dần. Mỗi lượt gửi lại hội thoại cộng code cộng đầu ra đã bắt được. Một phiên dán một dataframe lớn hoặc một log dài vào vòng lặp mang nó trong mọi request tiếp theo. Ưu tiên để model viết code kiểm tra file thay vì dán nội dung file vào chat, và bắt đầu phiên mới khi tác vụ thay đổi. Không khớp gọi hàm. Open Interpreter có thể dùng lệnh gọi hàm có cấu trúc khi được hỗ trợ; cờ supports_functions tồn tại cho các id mà việc phát hiện đoán sai. Nếu các block code đến bị lỗi định dạng trên một model bạn biết là có năng lực, đặt nó thành True một cách tường minh; nếu một model thực sự thiếu hỗ trợ tool, đặt False để đường fallback vào cuộc. Phía thực thi là của bạn. api_base di chuyển traffic model; code vẫn chạy cục bộ với quyền hạn của bạn. Một gateway không sandbox bất cứ gì, nên hãy giữ tự chạy trong container và để bước xem xét an toàn nằm trong vòng lặp ở mọi nơi khác.
Ai định tuyến Open Interpreter qua một gateway.
- Lập trình viên dùng Open Interpreter như một công cụ tự động hóa hàng ngày muốn sinh code chất lượng Claude, đa dạng GPT, và các id tiện ích nhanh sau một key.
- Người làm dữ liệu chạy các vòng phân tích khám phá, nơi một phiên có thể tiêu tốn context bất ngờ và sử dụng theo từng key khiến chi phí mỗi notebook-tương-đương hiện rõ.
- Kỹ sư so sánh các model viết code trên số-vòng-đi-về-tới-hoạt-động, benchmark trung thực nhất có, một flag --model mỗi ứng viên.
- Người thích nghịch chạy các job interpreter theo lịch hoặc trong container, nơi một endpoint biến-môi-trường và một secret thắng một bộ credential theo từng vendor.
- Lập trình viên không có quyền truy cập billing của một vendor cụ thể. Truy cập dựa trên nạp tiền không yêu cầu thẻ loại bỏ phụ thuộc đăng ký theo từng provider.
Xác minh endpoint và debug phiên đầu tiên.
Liệt kê model của gateway trước; id sau openai/ phải khớp chính xác một id đã phục vụ, kể cả hậu tố phiên bản. Lỗi phiên đầu theo một khuôn mẫu. Lỗi nhắc tới anthropic hoặc một SDK vendor khác nghĩa là tiền tố openai/ đang thiếu và LiteLLM định tuyến theo tên. Một lỗi 401 nghĩa là key không hiển thị trong shell đã khởi chạy interpreter, hoặc được đặt cho một biến khác với biến đang dùng; với tiền tố đúng chỗ, OPENAI_API_KEY hoặc một api_key tường minh đều hoạt động. Một lỗi model-not-found từ gateway là một id gõ sai. Một lỗi kết nối thường nghĩa là api_base mất hậu tố /v1; client nối thêm /chat/completions vào bất cứ base nào bạn cung cấp. Khi vòng lặp chạy, console APIsRouter hiển thị model theo từng request, số lượng token, và chi tiêu. Phiên interpreter là trường hợp kinh điển của một khối lượng công việc cảm giác nhỏ nhưng hóa đơn trung bình, và góc nhìn sử dụng là cách bạn thấy phiên nào thực sự mang tải token.
curl -s https://api.apisrouter.com/v1/models \
-H "Authorization: Bearer $APISROUTER_API_KEY" | head -50Câu hỏi thường gặp
Open Interpreter có thể chạy model Claude hoặc DeepSeek qua một endpoint không?
Có. Với api_base trỏ vào gateway và tiền tố openai/ trên id model, LiteLLM nói chat completions chuẩn tới endpoint đó và chuyển tiếp id dưới dạng một chuỗi trơn. Id Claude, GPT, DeepSeek, và GLM đều hoạt động với cùng hai cài đặt.
Vì sao id model cần tiền tố openai/?
Open Interpreter chạy trên LiteLLM, thứ chọn client provider của nó từ chuỗi model. Tiền tố openai/ ép client giao thức OpenAI nhắm vào api_base của bạn. Một id claude-* trần giải quyết về client của Anthropic thay vào đó và bỏ qua endpoint của bạn.
Biến môi trường nào giữ key?
Với tiền tố openai/ đang dùng, OPENAI_API_KEY là lựa chọn quy ước, hoặc đặt interpreter.llm.api_key tường minh trong Python, hoặc truyền --api_key trên CLI. Giữ key ngoài các profile và script; môi trường là nơi phù hợp cho nó.
Tôi có cần đặt context_window thủ công không?
Với các id tùy chỉnh, có. LiteLLM không thể suy luận cửa sổ cho một model nó không nhận ra, và Open Interpreter cắt lịch sử hội thoại đối chiếu với con số này. Khai báo cửa sổ thực của model (200000 cho các id Claude trong bảng) nếu không các phiên dài sẽ mất context trước đó.
Định tuyến qua một gateway có làm tự chạy (-y) an toàn không?
Không. Gateway mang traffic model; code được sinh ra vẫn thực thi cục bộ với quyền hạn của bạn. Tự chạy loại bỏ bước xem xét, nên hãy giới hạn nó trong container hoặc sandbox bất kể endpoint nào phục vụ model.
Một phiên interpreter dùng bao nhiêu token?
Nó tăng theo số lượt và những gì đi vào vòng lặp: mỗi vòng đi-về gửi lại hội thoại, code, và đầu ra đã bắt được. Các tác vụ tiện ích ngắn thì khiêm tốn; các phiên debug dài với dữ liệu dán vào cộng dồn nhanh chóng. Góc nhìn sử dụng theo từng key trong console APIsRouter hiển thị con số thực mỗi phiên.