OpenAI-kompatibel, mit angeschlossener Buchhaltung.
Richten Sie Ihren vorhandenen Client auf den Endpunkt, ändern Sie Basis-URL und Schlüssel und lassen Sie den Rest Ihres Codes stehen.
- Ohne Umbau kompatibel
- Budget je Schlüssel
- Kosten je Aufruf festgehalten
Ihre Namen für Ihre Modelle
Ein Deployment bildet den Namen, den Sie verwenden, auf einen Anbieter und ein Modell dahinter ab. Zu wechseln, was hinter dem Namen steht, ist eine Verwaltungsänderung und kein Release.
Ein Schlüssel, der nicht mit der Rechnung davonläuft
Jeder Schlüssel trägt sein eigenes Budget. Ist die Obergrenze erreicht, wird die Anfrage in der üblichen Fehlerform abgelehnt, mit dem Grund darin.
Geld reserviert, bevor die Anfrage hinausgeht
Die Plattform hält die schlimmstenfalls anfallenden Kosten eines Aufrufs zurück, bevor er nach oben geht, und rechnet den echten Betrag danach ab, deshalb kann paralleler Verkehr das Guthaben nicht überziehen.
Ein Eintrag, den Sie abstimmen können
Jeder Aufruf wird mit seinen Tokens, seinen Kosten, dem Schlüssel, der ihn abgesetzt hat, und der Person oder dem Agenten dahinter in die Spur geschrieben.
Betriebliche Details
- Übliche Fehlerformen, deshalb kommen bestehende Clients mit Ablehnungen zurecht
- Auch Antworten im Datenstrom melden den Verbrauch
- Schlüssel werden als Hashes gespeichert und einmal angezeigt
- Ausgabengrenzen je Organisation und je Schlüssel, in der Konsole gesetzt
Was Ihr Team bekommt
Fünf Teile, ein Konto, ein Satz Berechtigungen.
Chat und Fusion
Fragen Sie mehrere Modelle zugleich, gestützt auf Ihre eigenen Dokumente, mit Belegen, die Sie öffnen können.
Agenten
Automatisierungen, die die Arbeit erledigen, vor jedem unumkehrbaren Schritt nachfragen und eine Spur hinterlassen.
Wissen
Ihre Dokumente, nach Bedeutung durchsuchbar, mit Zugriff pro Wissensbasis und pro Gruppe.
Code und Daten
Funktionen, ein Dokumentenspeicher und gehostete Websites, ohne die Plattform zu verlassen.
Routing
Ein Name vor Ihren Modellen und Regeln, die entscheiden, welches Modell den Aufruf beantwortet.
Ändern Sie zwei Zeilen und probieren Sie es
Die Basis-URL und den Schlüssel. Alles andere in Ihrem Client bleibt, wo es ist.