Un solo nome davanti a ogni modello che si usa.
Una rotta è una decisione, non un modello. Un client chiede dynamic/support, e le regole che si impostano scelgono quale modello risponde a quella chiamata precisa.
- Chiamata come dynamic/nome
- Nessuna modifica nel client
- Rilasciata con lo storico delle versioni
Una decisione disegnata, non scritta in codice
Una rotta è un grafo di pochi passi: una condizione, una ripartizione, un tetto, un modello, un rifiuto. È conservata come dato e verificata prima del salvataggio, quindi è un modulo da compilare e non un linguaggio di espressioni da imparare.
Condizioni su ciò che la chiamata porta già con sé
La chiave, la persona, la finalità dichiarata, il modello richiesto, la lunghezza del prompt, la lunghezza dell'ultimo messaggio, la presenza di immagini e quante chiamate al secondo stanno facendo questa chiave, questa persona e questa organizzazione. Nulla che solo la risposta potrebbe dire.
Tetti che indirizzano invece di rifiutare
Un limite di cadenza e un limite di budget hanno ciascuno due uscite: entro il limite e oltre. Il traffico oltre il tetto va al modello più economico, oppure a un rifiuto scritto nella rotta, invece di spendere ciò che nessuno aveva previsto.
Un ripiego, e un modo per provarlo
Ogni modello di una rotta ha un ramo per il caso di errore, quindi il rifiuto di un fornitore non chiude la chiamata. E dynamic/beta/nome esegue il grafo ancora in lavorazione su traffico reale da un client di staging, prima che qualcuno lo metta davanti a tutti.
Dettagli operativi
- La risposta indica nelle proprie intestazioni quale rotta ha deciso e quale percorso ha seguito
- In una rotta si possono mettere solo i modelli abilitati in questa organizzazione
- Un rifiuto torna nel formato di errore standard, con lo stato, la frase e il codice scelti da chi l'ha scritta
- Ogni rilascio è una versione, e una precedente si può ripristinare
- Una rotta tolta dagli elenchi dei modelli continua a rispondere alle integrazioni che già la chiamano
Cosa ottiene il team
Cinque parti, un account, un unico insieme di permessi.
Chat e Fusion
Più modelli interrogati insieme, fondati sui propri documenti, con citazioni che si possono aprire.
Agenti
Automazioni che svolgono il lavoro, chiedono conferma prima di ogni passo irreversibile e lasciano una traccia.
Conoscenza
I propri documenti, cercabili per significato, con accesso concesso per base e per gruppo.
Codice e dati
Funzioni, un archivio di documenti e siti ospitati, senza uscire dalla piattaforma.
API
Un endpoint compatibile con OpenAI, con un budget per chiave e una ricevuta per ogni chiamata.
La provi prima su una sola chiave
Punti un client di staging all'indirizzo della bozza, legga il percorso che riporta la risposta, poi rilasci.