Ollama holt offene Sprachmodelle auf den eigenen Rechner: ein Befehl im Terminal lädt ein Modell aus der Bibliothek und startet es, auf macOS, Windows oder Linux. Andere Programme sprechen das Modell über eine Schnittstelle an, die sie schon von OpenAI kennen, deshalb lässt sich zum Beispiel Hermes Agent direkt daran anschließen. Open Source unter MIT-Lizenz.
Lokale KI
2 posts
-
-
Hermes Agent
Nous Research nennt Hermes Agent „The Agent That Grows With You“: ein Open-Source-Agent unter MIT-Lizenz, der sich Projekte und einmal gefundene Lösungen merkt. Er ist über Telegram, Discord, Slack, WhatsApp, Signal, E-Mail oder das Terminal erreichbar, plant Aufgaben in normaler Sprache und gibt größere Arbeiten an eigene Unteragenten ab. Es gibt eine App für macOS und Windows, auf Linux läuft er im Terminal.
Das Sprachmodell dahinter ist frei wählbar: Nous Portal und andere Cloud-Anbieter, oder über Ollama ein Modell auf dem eigenen Rechner. Dann bleibt die KI lokal.
