Compatibile con OpenAI, con la contabilità inclusa.
Si punta il client esistente all'endpoint, si cambiano URL di base e chiave, e il resto del codice resta com'è.
- Compatibile senza modifiche
- Budget per chiave
- Costo registrato per chiamata
I suoi nomi per i suoi modelli
Un deployment associa il nome che lei usa a un fornitore e a un modello a monte. Cambiare ciò che sta dietro al nome è un intervento amministrativo, non un rilascio.
Una chiave che non scappa con la fattura
Ogni chiave porta il proprio budget. Raggiunto il tetto, la richiesta viene rifiutata nel formato di errore standard, con il motivo dentro.
Denaro riservato prima che la richiesta parta
La piattaforma trattiene il costo peggiore possibile di una chiamata prima che vada a monte e regola l'importo reale al ritorno, quindi il traffico parallelo non può superare il saldo.
Un record che si può riconciliare
Ogni chiamata viene scritta nella traccia con i suoi token, il suo costo, la chiave che l'ha eseguita e la persona o l'agente che c'è dietro.
Dettagli operativi
- Formati di errore standard, quindi i client esistenti gestiscono i rifiuti
- Anche le risposte in streaming riportano il consumo
- Le chiavi sono conservate come impronte e mostrate una sola volta
- Limiti di spesa per organizzazione e per chiave, impostati nella console
Cosa ottiene il team
Cinque parti, un account, un unico insieme di permessi.
Chat e Fusion
Più modelli interrogati insieme, fondati sui propri documenti, con citazioni che si possono aprire.
Agenti
Automazioni che svolgono il lavoro, chiedono conferma prima di ogni passo irreversibile e lasciano una traccia.
Conoscenza
I propri documenti, cercabili per significato, con accesso concesso per base e per gruppo.
Codice e dati
Funzioni, un archivio di documenti e siti ospitati, senza uscire dalla piattaforma.
Routing
Un solo nome davanti ai propri modelli, e regole che scelgono quale risponde a ogni chiamata.
Cambi due righe e provi
L'URL di base e la chiave. Tutto il resto del client resta dov'è.