Unsloth

Runtime d’inférence

Unsloth accélère le réglage fin d’un facteur deux tout en réduisant la mémoire nécessaire, par les méthodes LoRA et QLoRA. La spécialisation d’un modèle ouvert sur vos données métier s’effectue sur place, sans transfert vers un tiers.

Points clés : Réglage fin · LoRA et QLoRA · Souverain.