Embedded AI Deployment für Mikrokontroller

Dieser eintägige Kurs fokussiert das Ausführen von KI auf einem Mikrocontroller. Nach einem kompakten Setup trainieren und übernehmen wir ein kleines Baseline-CNN in PyTorch und erfassen Referenzwerte für Top-1-Accuracy, Batch-1-Latenz, Peak-RAM und geschätzten Flash-Footprint.
Im ersten Praxisblock wenden wir Post-Training-Quantisierung mit INT8 an, kalibrieren mit einem repräsentativen Datensatz und besprechen per-Tensor versus per-Channel-Skalierung sowie typische Genauigkeits-Trade-offs, wie sie sich in TFLite-Micro- oder ExecuTorch-Pipelines auswirken. Im zweiten Block führen wir strukturiertes Channel-Pruning durch, definieren sinnvolle Ziel-Sparsities, feintunen das Modell zur Stabilisierung der Genauigkeit und vergleichen die Effekte auf Latenz, RAM und Flash mit der rein quantisierten Variante.
Zum Abschluss kombinieren wir beide Techniken, untersuchen unterschiedliche Reihenfolgen (Pruning vor Quantisierung bzw. Quantisierung vor Pruning) und wählen den besten Kompromiss im Hinblick auf die Randbedingungen typischer Mikrocontroller-Plattformen. Das optimierte Modell bereiten wir abschließend so auf, dass es in einen TFLite-Micro- oder ExecuTorch-kompatiblen Exportpfad integriert werden kann. So entsteht ein kompakter, aber entscheidungsfähiger Workflow von der PyTorch-Baseline bis zum embedded-fähigen Modellartefakt.