Formats compatibles
LLMoxy prend en charge plusieurs formats de requête. Les applications existantes n'ont généralement besoin que de remplacer l'URL de base et la clé API pour migrer.
Compatible OpenAI
Configuration du SDK OpenAI :
TS
Principales routes :
| Route | Usage |
|---|---|
POST /v1/chat/completions | Chat Completions. |
POST /v1/completions | Anciennes complétions de texte. |
POST /v1/responses | Responses API. |
POST /v1/embeddings | Embeddings. |
POST /v1/images/generations | Génération d'images. |
POST /v1/audio/transcriptions | Transcription audio. |
POST /v1/audio/translations | Traduction audio. |
POST /v1/audio/speech | Synthèse vocale. |
GET /v1/realtime | WebSocket Realtime. |
Anthropic Messages
BASH
Les routes Anthropic acceptent system, max_tokens, temperature, top_p, top_k, stop_sequences, tools, tool_choice, thinking, metadata.user_id, et d'autres champs.
Gemini
BASH
Les listes de modèles de style Gemini peuvent utiliser GET /v1beta/models.
Routes compatibles non encore implémentées
Actuellement Relay renvoie non implémenté pour les routes compatibles OpenAI suivantes :
POST /v1/images/variations/v1/files/v1/fine-tunesDELETE /v1/models/{model}
