Flash Attention para transformers
Optimiza la atención de los transformers con Flash Attention, logrando de 2 a 4 veces más velocidad y hasta 20 veces menos consumo de memoria. Útil para secuen…
Optimiza la atención de los transformers con Flash Attention, logrando de 2 a 4 veces más velocidad y hasta 20 veces menos consumo de memoria. Útil para secuen…