Live-Klassifizierungstool für Tests in der realen Welt

Willkommen zurück zu unserer Serie über Edge Impulse, einen der Hauptakteure in der Welt des Embedded Machine Learning. Edge Impulse wurde speziell konzipiert, um Entwicklern die Tools an die Hand zu geben, die sie für die Integration von Machine Learning-Funktionen in Edge-Geräte benötigen. Neben vielen anderen Funktionen ist die Live-Klassifizierung ein wesentliches Merkmal für Tests in der Praxis. Mit der Live-Klassifizierung können Sie Ihr Modell innerhalb des Browsers mit Daten validieren, die direkt von einem beliebigen Gerät oder einem unterstützten Development Board erfasst wurden. Durch die Live-Klassifizierung entfällt die Notwendigkeit, das Modell bei jeder Iteration des Modells neu einzusetzen. Für die Verwendung der Live-Klassifizierung muss zunächst ein Impuls erstellt werden, wie in den vorangegangenen Einträgen dieser Serie beschrieben. Ein Impuls ist eine Sammlung von Daten, Vorverarbeitungsblöcken und Lernblöcken, die zur Klassifizierung neuer Daten verwendet werden können. Sobald Sie einen Impuls erstellt haben, können Sie Ihr Gerät mit Edge Impulse verbinden und mit der Live-Klassifizierung beginnen.

Begriff der Live-Klassifizierung

Live-Klassifizierung im Kontext von Edge Impulse bezieht sich auf die Cloud-basierte Verarbeitung und Analyse von Daten, die direkt von Sensoren auf Edge-Geräten stammen, und zwar nahezu in Echtzeit. Im Live-Klassifizierungsmodus streamt Edge Impulse kontinuierlich Daten von Ihrem Gerät und klassifiziert sie anhand Ihres Modells. Die Klassifikationsergebnisse können in Echtzeit angezeigt werden. Zudem lassen sich die Schwellenwerte für die Klassifikation anpassen, um die Genauigkeit zu verbessern. Damit kann das Modell debuggt und eventuelle Probleme identifiziert werden. Durch die Validierung des Modells mit realen Daten wird außerdem die Wahrscheinlichkeit erhöht, dass es nach der Bereitstellung auch für andere Nutzer gut funktioniert.

Für eine Live-Klassifizierung benötigen Sie eines der unterstützten Development Boards, ein Smartphone oder einen Desktop-Computer. Wenn Sie ein unterstütztes Development Board verwenden, muss es über USB mit einem Desktop-Computer mit Internetanschluss verbunden sein. Die Daten werden vom Desktop-Computer über das Edge Impulse Command Line Interface (CLI) oder WebUSB an den Edge Impulse Ingestion Service übertragen. Der Hauptvorteil von WebUSB besteht darin, dass Daten von jedem vollständig unterstützten Development Board direkt über Ihren Browser erfasst werden können, ohne dass zusätzliche Software auf Ihrem Computer installiert werden muss. Der Data Forwarder des CLI kann wiederum auf jedem Development Board verwendet werden, das nicht offiziell unterstützt wird.

Das Live-Klassifizierungstool im Edge Impulse Studio bietet einige Einstellungen, an denen der Entwickler Veränderungen vornehmen kann. So können Sie zunächst festlegen, von welchem Gerät eingehende Daten akzeptiert werden sollen. Wenn die Karte über mehrere Sensoren verfügt, können Sie festlegen, mit welchem Sensor die Live-Klassifizierung durchgeführt werden soll. Außerdem können Sie die Abtastlänge (in Millisekunden) und die Abtasthäufigkeit anpassen, um die Modellleistung zu verbessern (Abbildung 1). Jeder Lernblock besitzt zudem einen Schwellenwert. Bei dem Schwellenwert kann es sich um die Mindestkonfidenz handeln, die ein neuronales Netz benötigt, oder um den maximalen Anomalie-Score, bevor ein Sample als Anomalie gekennzeichnet wird. Diese Schwellenwerte lassen sich konfigurieren, um die Empfindlichkeit dieser Lernblöcke zu optimieren. Dies wirkt sich sowohl auf die Live-Klassifizierung als auch auf die Modelltests aus.

Wenn das Zielgerät im Edge Impulse Studio mit dem Entwicklungscomputer verbunden ist, klicken Sie auf die Schaltfläche Live-Klassifizierung. Diese Schaltfläche befindet sich in der oberen rechten Ecke der Benutzeroberfläche. Sobald Sie auf die Schaltfläche „Live-Klassifizierung“ geklickt haben, startet der Stream der Daten von Ihrem Gerät. Wie Sie dabei vorgehen, hängt von Ihrem Gerät und Ihrem Development Board ab. Sobald die Daten von Ihrem Gerät gestreamt werden, sehen Sie die Klassifizierungsergebnisse in Echtzeit (Abbildung 2). Diese Ergebnisse werden in einer Tabelle angezeigt und in einem Diagramm dargestellt. Sie können die Schwellenwerte für die Klassifizierung anpassen, um die Genauigkeit zu verbessern. Bei den Schwellenwerten für die Klassifizierung handelt es sich um die Werte, die festlegen, wie sicher das Modell sein muss, um eine Klassifizierung vorzunehmen. Sie können diese Werte anpassen, um die Genauigkeit der Klassifizierung zu verbessern.

Im Folgenden finden Sie einige zusätzliche Tipps zur Durchführung von Live-Klassifizierungen mit Edge Impulse:

• Sorgen Sie für eine stabile Internetverbindung Ihres Gerätes. Dadurch wird sichergestellt, dass die Daten ohne Probleme an Edge Impulse übertragen werden.
• Verwenden Sie einen ausreichend großen Datensatz für das Training Ihres Modells. Je mehr Daten Sie verwenden, desto besser kann das Modell neue Daten klassifizieren.
• Verwenden Sie unterschiedliche Daten für das Training Ihres Modells. Dadurch kann das Modell bei neuen Daten besser verallgemeinern.
• Stimmen Sie die Hyperparameter Ihres Modells ab. Bei den Hyperparametern handelt es sich um die Einstellungen, die das Verhalten des Modells steuern. Die Abstimmung der Hyperparameter kann die Genauigkeit des Modells verbessern.

Fazit

Die Live-Klassifizierung mit Edge Impulse ist ein leistungsstarkes Tool, das zur Validierung und Verbesserung der Leistung von Machine-Learning-Modellen für Embedded-Geräte verwendet werden kann. Durch das Streaming von Daten aus dem Gerät in Echtzeit können Entwickler mit Edge Impulse beobachten, wie sich das Modell verhält, und bei Bedarf Anpassungen vornehmen, um sicherzustellen, dass das Modell einsatzfähig ist und in der realen Welt gut funktioniert. Im nächsten Beitrag befassen wir uns damit, wie Edge Impulse moderne Entwicklungsverfahren (DevOps) unterstützt und dabei die Versionskontrolle und die sichere Bereitstellung von trainierten Modellen aus der Cloud auf Edge-Geräten ermöglicht.