ES ▾

Empieza con crédito de prueba

Correo y contraseña; la clave aparece al instante en pantalla.

https://api.uncensoredllmhub.com/v1

Alternativa a la API de Ollama: cuándo usar un endpoint alojado

Una alternativa a la API de Ollama tiene sentido cuando tu aplicación supera la capacidad de una sola máquina: más usuarios simultáneos, prompts más largos o un portátil que preferirías no dejar encendido. Este artículo compara Ollama local con un endpoint compatible con OpenAI alojado y muestra el pequeño cambio de código para cambiar.

Actualizado

Un ordenador local conectado a una torre de servidor alojado, ilustrando el cambio de Ollama a una API alojada
Rack de servidores y una balanza de equilibrio con monedas junto a una nube brillante, comparando el autoalojamiento con una API

Puntos clave

  • Ollama es excelente para trabajo privado, sin conexión y de un solo usuario; un endpoint alojado gana cuando necesitas concurrencia y acceso siempre activo.
  • Cambiar son dos líneas para la mayoría de las aplicaciones: URL base e ID de modelo.
  • Este servicio ofrece una ventana de 100.000 tokens, 8 peticiones simultáneas con una clave completa y precios de pago por uso.
  • Mantén Ollama para experimentos y usa la API alojada para tráfico de producción. Muchos equipos usan ambos.

Respuesta corta: quién debería cambiar

Quédate con Ollama si trabajas solo, quieres todo sin conexión o prefieres elegir e intercambiar pesos tú mismo. Es gratis de ejecutar, privado por diseño y su modo compatible con OpenAI en /v1 facilita la integración.

Considera una alternativa a la API de Ollama si se cumple alguna de estas condiciones: varias personas o procesos hacen llamadas al modelo a la vez, necesitas el servicio disponible mientras tu propio ordenador entra en suspensión, tus prompts son largos y tu memoria GPU no es suficiente, o pasas más tiempo cuidando del servidor que desarrollando el producto. Un endpoint alojado convierte el modelo en una URL y una clave. Intercambias el control sobre los pesos por no tener que gestionar hardware.

Este sitio es uno de esos endpoints: una API de texto compatible con OpenAI que ejecuta un único modelo de pesos abiertos ajustado para responder sin rechazos de contenido para uso adulto lícito. No es una API oficial de ningún proveedor de modelos. Los detalles están en la documentación.

Ollama local y un endpoint alojado, lado a lado

AsuntoOllama localEndpoint alojado aquí
Modelo de costoTu hardware y energía$0,15 por 1M de tokens de entrada, $0,50 por 1M de tokens de salida
ConcurrenciaLimitado por tu GPU y configuraciones como ranuras paralelas8 peticiones simultáneas con una clave completa
ContextoConfigurado por modelo; limitado por VRAM100.000 tokens, prompt más completación
DisponibilidadMientras tu máquina esté encendidaSiempre accesible por HTTPS
PrivacidadLos datos nunca salen del equipoLos prompts no se usan para entrenamiento
Elección del modeloCualquier modelo que puedas descargar y ajustarUn modelo, ID uncensored
ConfiguraciónInstalar, descargar pesos, ajustarCrear una clave, establecer URL base

La última fila de privacidad necesita honestidad. Lo local es más fuerte ahí. Si un documento nunca debe salir de tu red, ejecútalo localmente. Si solo necesitas que los prompts no alimenten el conjunto de entrenamiento de alguien, un servicio alojado que lo diga es aceptable para muchos proyectos.

Concurrencia y tiempo de actividad

Ollama puede servir peticiones simultáneas, pero el rendimiento está limitado por tu GPU. Una vez que se superponen varias llamadas, cada una se ralentiza, y una petición que necesita un cambio de modelo puede bloquear la cola. Para un solo desarrollador esto rara vez importa. Para un bot con veinte chats abiertos sí.

Con una clave completa aquí obtienes 8 peticiones simultáneas y 300 peticiones por minuto. Una clave de prueba obtiene 2 y 60. Cuando superas el límite, la API responde con HTTP 429: el código de error rate_limited significa demasiadas por minuto, concurrency significa demasiadas a la vez, y un encabezado Retry-After: 5 marca sobrecarga temporal. Tu cliente debe esperar y reintentar. Una petición en streaming mantiene su ranura hasta que termina el streaming, así que cierra los streaming que ya no leas.

No cito porcentajes de tiempo de actividad porque ninguno está publicado para este servicio. Si el tiempo de actividad es un requisito estricto, pruébalo con tu propio tráfico durante el período de prueba y mantén un plan de respaldo.

Longitud de contexto y memoria

El contexto es donde las configuraciones locales sienten la presión. La caché de clave-valor crece con cada token, por lo que un prompt largo compite con los pesos del modelo por la memoria de la GPU. Ollama te permite aumentar el contexto por modelo, pero una ventana más grande en una tarjeta de consumo suele significar un modelo más pequeño o más cuantizado.

Aquí la ventana es de 100.000 tokens y la completión puede usar lo que quede, por lo que max_tokens es opcional. Eso es suficiente para un documento largo más una respuesta larga, o un historial de roleplay que dura horas. Las entradas grandes tienen un precio, que puedes calcular exactamente: un prompt de 60.000 tokens cuesta 60.000 / 1.000.000 x $0,15 = $0,009, y una respuesta de 2.000 tokens cuesta 2.000 / 1.000.000 x $0,50 = $0,001. Una llamada de documento largo cuesta cerca de un centavo.

Qué cambia en tu código

Si ya llamas a Ollama a través de su ruta compatible con OpenAI, cambias la URL base, la clave y el nombre del modelo. Nada más.

from openai import OpenAI

# Before: local Ollama
# client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")
# model = "llama3"

# After: hosted endpoint
client = OpenAI(base_url="https://api.uncensoredllmhub.com/v1", api_key="YOUR_KEY")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise the plot of Hamlet in three sentences."}],
)
print(r.choices[0].message.content)

El streaming funciona igual. Este ejemplo en Node usa el paquete oficial de OpenAI.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredllmhub.com/v1",
  apiKey: process.env.LLM_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Write a limerick about servers." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

Si usaste las rutas /api/chat nativas de Ollama, necesitas una pequeña reescritura al formato de completiones de chat, principalmente renombrando campos. Se admiten llamadas a funciones (tools, tool_choice), modo JSON (response_format) y los parámetros de muestreo. Los endpoints disponibles son POST /v1/chat/completions, POST /v1/responses y GET /v1/models. No hay endpoint de embeddings, así que si tu aplicación usa Ollama para embeddings, mantén esa parte local.

Coste: cuándo sale más barato lo alojado

Lo local no es gratis. Una GPU que ejecuta un modelo de tamaño medio cuesta dinero comprarla, consume energía y permanece inactiva entre peticiones. Una API alojada cobra solo por tokens, por lo que un uso bajo y pico favorece lo alojado por amplio margen.

Un ejemplo práctico: una aplicación de chat con 5.000 peticiones al mes, cada una con 3.000 tokens de entrada y 400 tokens de salida. Entrada: 5.000 x 3.000 = 15.000.000 tokens, o 15 x $0,15 = $2,25. Salida: 5.000 x 400 = 2.000.000 tokens, o 2 x $0,50 = $1,00. La factura mensual es de $3,25. El tráfico sostenido alto cambia las matemáticas, y una GPU ya poseída que corre las 24 horas puede ganar. Compara con tus propias cifras de electricidad y hardware, y revisa la tarifa actual de otros proveedores antes de decidir.

El crédito es prepago, no caduca, y las peticiones fallidas o rechazadas no se cobran. Las recargas van de $20 a $500 con bonos desde $50, y puedes pagar con cripto. Consulta precios para los detalles.

Un híbrido sensato y cómo empezar

No tienes que elegir uno. Desarrolla y ejecuta experimentos privados en Ollama, luego dirige el tráfico de producción a la URL alojada cambiando una variable de entorno. Nuestra guía en alojar un LLM tú mismo lista lo que implica una configuración autoalojada, y modelos Ollama sin censura cubre opciones locales si prefieres mantenerte sin conexión.

Para probar el endpoint, crea una cuenta en la página de claves de API y reclama el crédito de prueba de $0,50 con un clic. No necesita tarjeta, dura 7 días y está limitado a uno por persona. Ejecuta tus prompts reales a través de él antes de mover nada.

Preguntas y respuestas

¿Es la API alojada compatible con el endpoint de OpenAI de Ollama?

Ambas siguen el formato de completiones de chat de OpenAI, por lo que el código escrito para la ruta /v1 de Ollama suele necesitar solo una nueva URL base, clave y ID de modelo.

¿Puedo usar la API nativa de Ollama contra este servicio?

No. Usa las rutas estilo OpenAI: /v1/chat/completions, /v1/responses y /v1/models.

¿Puedo ejecutar un modelo de mi elección?

No. El servicio ejecuta un único modelo de pesos abiertos, seleccionado con el ID uncensored. Si necesitas elegir pesos tú mismo, sigue usando Ollama.

¿Soporta embeddings?

No. Solo es generación de texto, así que mantén un modelo de embeddings local o separado si necesitas uno.

Tu clave está a un formulario de distancia

Crea una cuenta, copia la clave, cambia la URL base. Esa es toda la configuración.

Obtener clave de API

https://api.uncensoredllmhub.com/v1