Introduction aux méthodes d’accélération de réseaux de neurones

Cette ressource fait partie du « Dossier Intelligence Artificielle [4] ».

Malgré des performances impressionnantes, le déploiement des réseaux de neurones profonds reste limité. Ceci s'explique en partie par le coût important (en termes de temps de calcul, d'espace mémoire et d'énergie) nécessaire à l'inférence.

Cette ressource présente les méthodes de compression et d'accélération des réseaux de neurones au travers de trois grandes catégories : l'élagage, la décomposition et recomposition de couches et la quantification. Les performances de ces approches sont données pour des tâches de vision (classification, détection segmentation) avec des architectures état de l'art (ResNets, MobileNets et EfficientNets).

Contenu de la ressource :

1. Introduction
2. Notations et Formalisme
3. Élagage (pruning)
4. Décompositions et recompositions
5. Quantification
6. Conclusion