Fraunhofer-Institut für Integrierte Schaltungen IISDurch Machine Learning (ML) wird elektronischen Systemen ermöglicht, aus vorhandenen Daten selbstständig zu lernen und dieses erlernte Wissen einzusetzen, um eigenständig Bewertungen, Vorhersagen und Entscheidungen zu treffen. Solche Anwendungen sind sehr rechenintensiv und werden deshalb klassischerweise auf PCs und Cloud-Servern durchgeführt. Dank neuer Konzepte und Algorithmen sowie leistungsfähiger Spezialprozessoren ist es inzwischen möglich, maschinelles Lernen direkt auf den im Feld eingesetzten Geräten auszuführen (= Embedded Machine Learning).
Embedded Machine Learning kann die Qualitätssicherung und Zustandsüberwachung unterstützen
Implementierung und Integration von maschinellem Lernen auf Embedded-Geräten
© xiaoliangge – stock.adobe.com
Embedded Machine Learning
Embedded-Geräte für Machine-Learning-Anwendungen können in der Industrie vielfältige Aufgaben erfüllen. Ein typisches Beispiel sind Sensorgeräte, die akustische oder optische Auffälligkeiten und Abweichungen detektieren, und so die Qualitätssicherung in der Produktion oder die Zustandsüberwachung von Anlagen unterstützen. Neben Kameras für die Überwachung visueller Parameter und Mikrofonen zur Erfassung von Schallwellen kommen beispielsweise auch Vibrations-, Berührungs-, Spannungs-, Strom-, Drehzahl-, Druck- und Temperatursensoren zum Einsatz.
Warum Embedded Machine Learning?
Vor allem durch das Internet of Things (IoT) steigt die Zahl eingesetzter Sensoren rasant an und mit ihr auch die Menge an Daten, die von Embedded- und IoT-Systemen erfasst werden. Obwohl auch die Übertragungstechnologie sich weiterentwickelt und mit dem neuen 5G-Netz ein leistungsfähiges Datennetz zur Verfügung stehen wird, ist eine vollständige Übertragung von Sensordaten in die Cloud nicht immer sinnvoll oder möglich. Dafür gibt es verschiedene Gründe, die in vielen Fällen für den Einsatz von Embedded Machine Learning sprechen:
| Leistungsaufnahme | Funksender und -empfänger benötigen relativ hohe Leistungen |
| Netzkosten | Überlastung der Netze sowie Kosten für den entstehenden Datenverkehr |
| Abdeckung | nicht überall sind die Abdeckung oder die verfügbaren Datenraten ausreichend, z.B. in Untergeschossen, Tunneln, entlegenen Gebieten etc. |
| Latenz | zu große Roundtrip-Zeit für Übertragung von Sensordaten und Rückübertragung der Aktoranweisungen, insbesondere bei Echtzeitanwendungen, die eine schnelle Reaktion benötigen |
| Privacy | Audio- und Videoaufnahmen aus Industrieanlagen dürfen oft nicht nach außen gelangen – hier könnte das Ausspähen durch die Vor-Ort-Verarbeitung von Daten erschwert werden |
| Datenhoheit | Nutzer bzw. Anlagenbetreiber sollen über den Verbleib der Daten bestimmen können |
| Security und Safety | Gefahr der Manipulation von Daten und Geräten |
| Formfaktor | z.B. müssen geeignete Antennen ins Gerät integriert werden können |
Optionen für Embedded Machine Learning
Um die genannten Probleme zu vermeiden, kann häufig zumindest ein Teil der Sensorsignale lokal im Embedded-Gerät verarbeitet werden. Für einfache Sensordaten ist dies mit Standard-Mikrocontrollern möglich. Mikrocontroller sind beispielsweise für einfache Machine-Learning-Probleme und Anwendungen mit wenigen Kanälen und niedriger Abtastrate, bei denen die Auswertung nicht zu häufig erfolgen muss, gut geeignet. Für komplexere Auswertungen, z.B. im Falle von Bildsensoren, kommen auch spezialisierte Deep-Learning-Beschleuniger zum Einsatz. Für andere Anwendungen, wie z.B. Spracherkennung, kann ein Beschleuniger-IP-Core auf einem FPGA sinnvoll sein und bei Anwendungen mit großen Stückzahlen stellen ASICs eine geeignete Option dar.
Unser Angebot
Das Fraunhofer IIS deckt sowohl mikrocontroller-basiertes Machine Learning wie auch die Verwendung von Embedded-Chips mit Deep-Learning-Beschleunigern ab. Für ein gegebenes Problem ermitteln wir nach einer Analyse der Systemanforderungen die geeigneten Algorithmen und besten Hardware-Optionen. Anschließend führen wir mit unseren Kunden eine Trade-Off-Analyse für diese Optionen durch, um die optimale Lösung zu finden. Die schließlich gewählte Option kann von uns auf kommerzieller oder eigens entwickelter Hardware implementiert und in das Zielsystem integriert werden.
Unsere Vorgehensweise zur Lösung von Machine-Learning-Problemen auf Embedded-Geräten
Die Auswertung von Sensordaten ist ein Kern des Leitthemas Kognitive Sensorik am Fraunhofer IIS. Beim Thema Embedded Machine Learning baut das Fraunhofer IIS auf seiner langjährigen Erfahrung auf den Gebieten Maschinelles Lernen, Embedded-Plattformen, Sensorik, Signalverarbeitung und neuromorphe Hardware auf.