Ollama

Ein selbst gehostetes LLM-Gateway legt einen einzigen authentifizierten Endpunkt vor deine MCP-Tool-Server und LLM-Anbieter. Diese Anleitung richtet docker-mcp-gateway für den Tool-Zugriff und LiteLLM als Router mit automatischem Fallback…

KI-Training und Inferenz belasten eine GPU auf fast entgegengesetzte Weise – und falsch dimensionierter VRAM ist der häufigste Fehler. Hier erfährst du, wie du einen GPU VPS für…

Wenn LiteLLM der quelloffene, selbstgehostete Standard fürs Routing von LLM-Traffic ist, dann neigt jede der wichtigsten Alternativen in eine andere Richtung. Portkey legt Governance und Guardrails obendrauf, Kong…

Ollama und Jan sind beide beliebte Open-Source-Projekte zum Ausführen von KI auf deinem eigenen Rechner – sie lösen jedoch leicht unterschiedliche Probleme. Ollama ist eine Laufzeitumgebung: eine CLI…

Wenn du 2026 Large Language Models auf eigener Hardware betreiben willst, dominieren zwei Namen die Diskussion: Ollama und LM Studio. Beide ermöglichen lokale LLM-Nutzung, beide unterstützen beliebte Modelle…

Wenn du eine App auf LLMs aufbaust und aufhören willst, Daten an OpenAI zu senden, dominieren zwei self-hostbare Optionen den OpenAI-kompatiblen-API-Bereich: Ollama und LocalAI. Beide sind Open Source,…

Hermes Agent von Nous Research ist ein selbstlernender, Open-Source-KI-Agent, der auf einem VPS läuft, Kontext über Sessions hinweg behält und über Telegram, Discord oder Slack erreichbar bleibt. Diese…

ChatGPT beherrscht mit seinen 180 Millionen Nutzern die Schlagzeilen. Währenddessen läuft über die Hälfte des LLM-Marktes "On-Premises" – also lokal. Das ist kein Tippfehler. Mehr Unternehmen vertrauen heute…

Ollama macht das lokale Ausführen von Large Language Models (LLMs) unkompliziert – keine Cloud-APIs, keine Abrechnung pro Token und keine Daten, die deine Infrastruktur verlassen. Kombiniert mit der…