指南
关于接入、价格和集成的实用文章。
Ollama API 替代方案:何时使用托管端点正在寻找 Ollama API 的替代方案?了解托管 OpenAI 兼容端点如何在并发、上下文和成本上胜过本地 Ollama,以及如何切换。
LLM API 与 LangChain:连接自定义接口通过 LangChain 将 ChatOpenAI 指向自定义基础 URL 来使用 LLM API:适用于链式调用、流式输出、工具调用和 JSON 输出的有效代码。
LLM 流式输出未知错误:原因与修复在聊天应用或智能体中看到 LLM 流式输出未知错误?检查 Base URL、密钥、429 限制、请求大小和代理,然后使用 curl 测试。
Uncensored LLM Hub:一个接口,支持对话与智能体使用 Uncensored LLM Hub 接口,适用于聊天应用和智能体:兼容 OpenAI,支持流式输出、函数调用、JSON 模式及 100,000 token 上下文窗口。
自行部署 LLM,或使用 API 跳过如何在自有硬件上部署 LLM 模型,内存和 GPU 时间的真实成本,以及何时使用每百万 token $0.15 / $0.50的 API 更划算。
无审查 Ollama 模型:本地与云端对比无审查 Ollama 模型与托管 API,为你的工作流找到最佳的按量付费 LLM API,立即开始。