Hermes

Hermes ist ein Open-Source-Agent von Nous Research. Sein eingebauter Assistent hermes model kann HiAPI als eigenen Endpunkt hinzufügen, du brauchst also kein Verwaltungstool von Drittanbietern. Die Schritte unten verwenden claude-opus-5-5 als Beispiel; diese Anleitung wurde unter Windows mit Hermes 0.22.5 verifiziert.

1. Hermes installieren

1.1 Voraussetzungen

1.2 Windows (PowerShell)

Überspringe den Einrichtungsassistenten und konfiguriere das Modell erst nach der Installation:

& ([scriptblock]::Create((irm https://hermes-agent.nousresearch.com/install.ps1))) -SkipSetup

Standardinstallation (öffnet den Einrichtungsassistenten):

iex(irm https://hermes-agent.nousresearch.com/install.ps1)

1.3 macOS / Linux

curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash -s -- --skip-setup

1.4 Installation überprüfen

Öffne das Terminal neu und führe aus:

hermes --version

Die Versionsnummer zu sehen genügt; fahre fort, sobald eine Ausgabe erscheint.

1.5 Andere Installationsmethoden

Das Installationsskript und die Versionsanforderungen folgen der offiziellen Hermes-Installationsdokumentation.

2. Den HiAPI-Endpunkt konfigurieren

Hermes hat zwei modellbezogene Befehle mit unterschiedlichem Zweck; verwechsle sie nicht:

Um HiAPI hinzuzufügen, verwende hermes model; beende also zuerst die Sitzung (Ctrl+C oder /quit).

2.1 Den Einrichtungsassistenten ausführen

hermes model

Wähle Custom endpoint (self-hosted / VLLM / etc.) (manche Versionen zeigen Custom endpoint (enter URL manually)).

2.2 Jede Abfrage ausfüllen

Wähle für Claude-Modelle Anthropic Messages als API compatibility mode. Mit claude-opus-5-5 als Beispiel:

Setze im Modus Anthropic Messages die API-Base-URL auf die Stammadresse https://api.hiapi.ai ohne /v1; Hermes hängt /v1/messages selbst an. Der HiAPI API-Key wird bei der Eingabe verborgen oder als Sternchen angezeigt; füge ihn ein und drücke Enter.

2.3 GPT, DeepSeek und andere Modelle verbinden

Fülle für GPT, DeepSeek und andere Modelle die übrigen Punkte wie in der obigen Tabelle aus, ändere nur die beiden folgenden und ersetze Model name durch den passenden Modellnamen. Beachte, dass die Adresse hier /v1 enthält.

Die für diese Anleitung getesteten Kombinationen sind: Anthropic Messages für Claude, Chat Completions für GPT und DeepSeek. Wenn ein Modell das gewählte Protokoll nicht unterstützt, erhältst du einen 400.

2.4 Zu einem anderen Modell wechseln

Um innerhalb desselben Endpunkts das Modell zu wechseln, gib dies direkt in einer Sitzung ein:

/model custom:<model-id>

Oder führe hermes model erneut aus, um das Standardmodell zu ändern. Suche beim Wechsel zu einem anderen Modell den Modellnamen in der Liste der Textmodelle und bestätige, dass der Kontext mindestens 64K beträgt. Weitere Optionen für eigene Endpunkte findest du in der Hermes-Dokumentation zu eigenen Endpunkten.

3. Manuelle Konfiguration (optional)

Die manuelle Konfiguration unten funktioniert für GPT, DeepSeek und andere Modelle, die Chat Completions verwenden; verwende für Claude den Assistenten hermes model oben. Wenn du den Assistenten nicht verwenden kannst, bearbeite ~/.hermes/config.yaml direkt (base_url muss /v1 enthalten):

model:
  default: <model-id>
  provider: custom
  base_url: https://api.hiapi.ai/v1
  api_key: YOUR_HIAPI_API_KEY

Du kannst statt eines Klartext-Keys auch eine Umgebungsvariable verwenden; key_env ist die Art, wie Hermes eine Umgebungsvariable liest, lasse das also unverändert:

model:
  default: <model-id>
  provider: custom
  base_url: https://api.hiapi.ai/v1
  key_env: HIAPI_API_KEY

Schreibe dann in ~/.hermes/.env:

HIAPI_API_KEY=YOUR_HIAPI_API_KEY

Ersetze YOUR_HIAPI_API_KEY durch deinen HiAPI API-Key. Starte nach dem Ändern der Konfiguration mit /new eine neue Sitzung oder starte Hermes neu, bevor du testest.

4. Überprüfen

4.1 Chat

Öffne Hermes, bestätige, dass es den HiAPI-Anbieter verwendet, und sende „Hallo, stell dich in einem Satz vor.” Eine normale Antwort bedeutet, dass die Verbindung funktioniert.

4.2 Tool-Aufruf

Lege zuerst im Ordner, in dem du Hermes startest, die Datei tool-call-test.txt an, schreibe eine Zeile hello hiapi hinein und speichere sie. Sende dann „Rufe ein Tool nur einmal auf. Lies den gesamten Inhalt von tool-call-test.txt und gib ihn exakt so zurück. Rate den Inhalt nicht aus dem Dateinamen.” Bestätige, dass ein Tool-Aufruf erscheint und hello hiapi zurückgibt.

5. Fehlerbehebung

Hier werden nur Probleme aufgeführt, die für Hermes spezifisch sind. Zu häufigen Fehlern wie 401, 404 und 429 siehe Häufige Fehler.

Diese Seite behandelt nur Textmodelle; zu Tool-Funktionen siehe die MCP-Anleitung.