Runway Characters : un modèle de 57 milliards de paramètres en temps réel
Runway publie une recherche sur le service en temps réel d'un transformeur de diffusion vidéo de 57 milliards de paramètres, sur quatre H100 par session.
🎧 Écouter le résumé
0:00 / 0:00Le modèle doit générer un bloc de quatre images 704x1088 toutes les 166,7 ms, pour un seul utilisateur. Le lancement exigeait huit H100 par session ; les optimisations ramènent l'étape de diffusion de 240,9 ms à 159,3 ms sur quatre H100, et un noyau fusionné à 147,4 ms. Le travail sur le cache d'attention passe de 69,7 ms à 6,2 ms par étape.
Source : Runway, publié le 5 novembre 2026.