Matériel

Du poste DGX Spark au rack GB300 NVL72, huit paliers de puissance.

Modèles ouverts

GLM, Kimi, DeepSeek, Nemotron, MiniMax, Mistral, Qwen : interchangeables via LiteLLM.

Runtime d’inférence

vLLM, Triton, Dynamo, llama.cpp, Unsloth et dwarfstar pour servir les modèles.

Orchestration multi-agents

Harness, LiteLLM, routeur sémantique, MCP et mémoire à trois couches.

API externes

OpenAI, Anthropic, Azure, Bedrock, OpenRouter : le débord hybride maîtrisé.