Entrenamiento de modelos MoE

Entrena modelos Mixture of Experts (MoE) con DeepSpeed o HuggingFace para escalar la capacidad del modelo con poco cómputo (hasta 5× menos coste que los modelo…

/skills/emerging-techniques-moe-training