Compatible OpenAI, avec la comptabilité incluse.
Pointez votre client existant vers le point de terminaison, changez l'URL de base et la clé, et gardez le reste de votre code.
- Compatible sans retouche
- Budget par clé
- Coût enregistré par appel
Vos noms pour vos modèles
Un déploiement associe le nom que vous employez à un fournisseur et à un modèle en amont. Changer ce qui se trouve derrière le nom est un geste d'administration, pas une mise en production.
Une clé qui ne peut pas partir avec la facture
Chaque clé porte son propre budget. Une fois le plafond atteint, la requête est refusée dans la forme d'erreur standard, avec le motif dedans.
L'argent réservé avant le départ de la requête
La plateforme retient le coût maximal d'un appel avant qu'il ne parte en amont et régularise le montant réel ensuite, donc un trafic parallèle ne peut pas dépasser le solde.
Un enregistrement que vous pouvez rapprocher
Chaque appel est écrit dans la piste avec ses jetons, son coût, la clé qui l'a émis et la personne ou l'agent derrière lui.
Détail opérationnel
- Des formes d'erreur standard, donc les clients existants gèrent les refus
- Les réponses en flux rapportent elles aussi la consommation
- Les clés sont stockées sous forme d'empreintes et montrées une seule fois
- Des limites de dépense par organisation et par clé, réglées dans la console
Ce que votre équipe reçoit
Cinq parties, un compte, un seul jeu de permissions.
Chat et Fusion
Interrogez plusieurs modèles à la fois, à partir de vos propres documents, avec des citations que vous pouvez ouvrir.
Agents
Des automatisations qui font le travail, demandent avant toute étape irréversible et laissent une trace.
Connaissances
Vos documents, cherchés par le sens, avec un accès accordé par base et par groupe.
Code et données
Des fonctions, une base de documents et des sites hébergés, sans quitter la plateforme.
Routing
Un seul nom devant vos modèles, et des règles qui choisissent lequel répond à chaque appel.
Changez deux lignes et essayez
L'URL de base et la clé. Tout le reste de votre client ne bouge pas.