Exécuter du machine learning localement avec un Coral USB Accelerator n'est pertinent que si le modèle, le runtime et l'environnement hôte sont compatibles. Vérifiez toute la chaîne logicielle avant de vous fier à un chiffre en TOPS ou à une liste générale de compatibilité.
Qu'est-ce que le Coral USB Accelerator ?
Le Coral USB Accelerator est un accessoire USB intégrant un Edge TPU pour l'inférence en machine learning. L'inférence applique un modèle entraîné à de nouvelles données. L'accélérateur ne vise pas l'entraînement complet d'un modèle ; un apprentissage par transfert limité à la dernière couche existe pour certains modèles de classification structurés à cet effet.
| Point à vérifier | Ce qu'il faut savoir |
|---|---|
| Performance de calcul | 4 TOPS en pointe |
| Rendement | Jusqu'à 2 TOPS par watt ; cela ne signifie pas que l'appareil consomme toujours 2 watts |
| Connexion | USB 3.0 pour les performances visées ; l'USB 2.0 limite la liaison |
| Logiciel | Modèle TensorFlow Lite entièrement quantifié en 8 bits et compilé pour l'Edge TPU |
| Environnement | Vérifiez ensemble le système, l'architecture du processeur, la version de Python et libedgetpu/PyCoral |
Quelle différence avec l'inférence sur CPU ?
Une exécution complète sur l'Edge TPU exige un modèle TensorFlow Lite entièrement quantifié en 8 bits et compilé pour l'Edge TPU. Les opérations non prises en charge sont exécutées par le CPU ; même une petite partie incompatible peut donc déterminer la latence totale.
Vérifiez la sortie du compilateur et mesurez le modèle exact avec les données réelles sur l'hôte et le port USB prévus. Les comparaisons générales en millisecondes ou en images par seconde ne sont pas transposables sans préciser modèle, hôte, format d'entrée et protocole de mesure.
Quels usages sont possibles ?
- Classification d'images — reconnaître localement objets, anomalies ou animaux si le modèle choisi est entièrement pris en charge.
- Détection d'objets — par exemple détection de présence ou comptage, après mesure avec les données réelles.
- Reconnaissance de mots-clés — classification audio locale avec un modèle correctement compilé.
- Détection d'anomalies — analyser des données de capteurs lorsque le modèle et les opérateurs Edge TPU correspondent.
Vérifiez le modèle, le logiciel et l'hôte
- Modèle et compilateur. Vérifiez la quantification complète en 8 bits, les opérateurs pris en charge et tout repli sur le CPU.
- Runtime et hôte. Validez ensemble le système, l'architecture du processeur, la version de Python, libedgetpu/PyCoral et l'USB 3.0.
- État de maintenance. Les dépôts officiels PyCoral et Edge TPU sont archivés ; considérez ce matériel comme une voie Edge TPU existante et vérifiez l'installation actuelle avant l'achat.
- Mesure. Testez vitesse, température et stabilité avec les données et la charge réelles.
- Alternatives. Une carte Coral ou un module M.2 n'est pas automatiquement interchangeable ; vérifiez interface, hôte, refroidissement, alimentation et logiciel.
Premiers pas
Commencez par le modèle exact et la latence visée. Notez ensuite le framework, le compilateur, l'hôte, le système d'exploitation, l'architecture du processeur et la version de Python. Vous évitez ainsi qu'un matériel adapté soit bloqué par un environnement logiciel non pris en charge.
Vous ne savez pas si modèle, runtime et hôte sont compatibles ? Envoyez-nous le modèle exact et votre configuration.
