Guias
Artigos práticos sobre configuração, preços e integração.
Alternativa à API Ollama: quando usar um endpoint hospedadoProcurando uma alternativa à API Ollama? Veja quando um endpoint compatível com OpenAI hospedado supera o Ollama local em concorrência, contexto e…
API LLM com LangChain: Conectar um endpoint personalizadoUse uma API LLM com LangChain apontando ChatOpenAI para uma URL base personalizada: código funcional para cadeias, streaming, chamada de funções e…
Erro desconhecido no streaming da LLM: causas e correçõesVendo unknown error from llm stream em um app de chat ou agente? Verifique a base URL, chave, limites 429, tamanho da requisição e proxies.
Uncensored LLM Hub: Um endpoint para chat e agentesUse o endpoint do Uncensored LLM Hub para apps de chat e agentes: compatível com OpenAI, streaming, chamada de funções, modo JSON e janela de…
Como hospedar um LLM você mesmo ou usar uma APIComo hospedar modelos LLM no seu próprio hardware, quanto a memória e o tempo de GPU custam e quando uma API de $0,15 / $0,50 por 1M sai mais barata.
Modelos Ollama sem censura: Local vs NuvemCompare modelos Ollama sem censura com APIs hospedadas. Decida se a inferência local ou a API em nuvem se adequam ao seu fluxo de trabalho LLM sem…