Ratgeber
Praxisartikel zu Einrichtung, Preisen und Integration.
Ollama-API-Alternative: Wann du einen gehosteten Endpunkt nutzen solltest sinnvoll istSuchst du eine Ollama-API-Alternative? Schau, wann ein gehosteter OpenAI-kompatibler Endpunkt bei Parallelität, Kontext und Kosten besser…
LLM-API mit LangChain: Eigenen Endpunkt verbindenVerwende eine LLM-API mit LangChain, indem du ChatOpenAI auf eine benutzerdefinierte Base URL zeigst: funktionierender Code für Chains, Streaming,…
Unbekannter Fehler im LLM-Streaming: Ursachen und LösungenUnbekannter Fehler im LLM-Streaming? Prüfe Base URL, Key, 429-Limits, Request-Größe und Proxies. Teste dann mit curl.
Uncensored LLM Hub: Ein Endpunkt für Chat und AgentsNutze den Endpunkt des Uncensored LLM Hub für Chat-Apps und Agents: OpenAI-kompatibel, Streaming, Function Calling, JSON-Modus und ein…
LLM selbst hosten oder mit einer API arbeitenSo hostest du LLM-Modelle auf eigener Hardware, was Speicher und GPU-Zeit wirklich kosten und wann eine API für $0,15 / $0,50 pro 1 Mio. Token die…
Unzensierte Ollama-Modelle: Lokal vs. CloudVergleiche unzensierte Ollama-Modelle mit gehosteten APIs. Entscheide, ob lokale Inferenz oder Cloud-API für deine unzensierte LLM-Arbeitsweise passt.