Fraunhofer-Institut für Integrierte Schaltungen IIS
Contact Press / Media
Dr.-Ing. Markus Eppel
Gruppenleiter Advanced Analog Circuits
Fraunhofer IIS
Am Wolfsmantel 33
91058 Erlangen
Telefon +49 9131 776-4415
ADELIA: Analoge Technik schafft effizienten KI-Beschleuniger
Er ist einer der ersten modernen und skalierbaren analogen KI-Beschleuniger und setzt dabei sogar noch auf analoges Computing: Der im Projekt ANDANTE entstandene Beschleuniger ADELIA Gen2 demonstriert in unterschiedlichen Anwendungen, wie Sprachaktivitätserkennung mit unter 200 µW an Leistungsaufnahme möglich ist – und das ganz ohne Kompromisse bei der Genauigkeit.
In vielen energieautarken Sensorgeräten kommt es auf Mobilität oder eine kleine Bauform an. Der eigene Energievorrat einer Batterie oder von sogenannten Harvesting-Systemen, die Energie aus der Umgebung sammeln, reicht oft nicht für eine lokale Datenauswertung im Mikroprozessor aus. Die Daten werden deshalb häufig drahtlos an Rechencluster zur Auswertung übertragen, was aufwändig ist. Sogenannte KI-Beschleuniger wie ADELIA machen das anders und erlauben die lokale Datenauswertung direkt auf dem Chip. Das spart Energie beim Senden, entlastet das Funkmedium und erlaubt ereignisbasierte Systemlösungen mit geringer Latenz. Auch die Datensicherheit erhöht sich, weil die Rohdaten den Sensorknoten im Zweifel gar nicht erst verlassen. Forschende sprechen dann von sogenannter »Edge AI«, bei der intelligente Datenanalysen direkt auf dem Chip ausgeführt werden.
Das Potenzial für solche Edge-AI-Anwendungen ist groß, das Internet der Dinge (IoT) ist ein boomender Milliardenmarkt. Für 2028 wird die Anzahl verbundener IoT-Geräte auf bis zu 45 Milliarden Geräte weltweit prognostiziert. Das bedeutet ein enormes und stetig steigendes Volumen des drahtlosen Datenverkehrs. Zu dessen Entlastung muss die ständige Datenauswertung der KI-basierten Sensorik energiesparender ablaufen als ein regelmäßiges oder anfragebasiertes Versenden der Daten.
Zuständig für die Datenauswertung sind sogenannte Inferenz-Beschleuniger. Inferenz bedeutet Schlussfolgerung, denn die Beschleuniger liefern die Grundlage für die Entscheidungen der Künstlichen Intelligenz. Herkömmliche Geräte auf den Smartphones nutzen digitale Inferenz-Beschleuniger. Häufig ist die Technologie in sogenannten Neural Engines in Smartphoneprozessoren zu finden, die Verfahren des maschinellen Lernens nutzen.
ADELIA geht einen Schritt weiter. Durch Kombination von analogem und digitalem Computing wird die Inferenz-Erzeugung im Vergleich mit rein digitalen Beschleunigern um den Faktor 10 effizienter.
ADELIA mit höherer Energieeffizienz, Genauigkeit, und geringerer Latenz
ADELIA steht für »Analog Deep Learning Inference Accelerator« und bietet große Vorteile: Die gemeinsame Entwicklung des Fraunhofer-Instituts für Elektronische Mikrosysteme und Festkörper-Technologien EMFT und des Fraunhofer IIS muss lediglich 200 μW an Leistung aufwenden, um menschliche Sprache in einem Audiosignal zu identifizieren. Die erste Anwendung auf dem neuen Beschleuniger ist ein neuronales Netz für die Sprachaktivitätserkennung. Dabei wurde eine Genauigkeit von 84 Prozent erreicht, auf einem Computer sind es nur vier Prozentpunkte mehr. Dafür ist für ADELIA Gen2 nur ein Bruchteil der Leistung notwendig.
Für die Auswertung von EKG-Signalen mit einem digitalen KI-Beschleuniger in der Medizin haben die Forschenden bereits einen Preis gewonnen. ADELIA schafft diese Aufgabe nun noch effizienter und könnte künftig helfen, Vorhofflimmern mit Smartwatches zu erkennen. »Je weniger Strom wir für alle Subsysteme brauchen, desto kleinere Akkus sind nötig oder mehr Batterielaufzeit können die Endprodukte anbieten«, erklärt Dr. Markus Eppel, Gruppenleiter Advanced Analog Circuits. Das schafft Nachhaltigkeit.
Neben dem Einsatz von analogem Computing ist gleichzeitig der Entwurf von spezialisierter Software notwendig. Das Team hat dazu Hard- und Softwareentwicklung im Co-Design aufeinander abgestimmt. In analogen Computern sind die Ergebnisse nicht wie im Digitalen immer genau und gleich. Markus Eppel hat ein Beispiel: »Die Rechnung 3 x 2 kann 6,2 oder 5,9 ergeben.« Die neue Software kann damit umgehen und bietet eine hohe Genauigkeit in der Schlussfolgerung ohne Einbußen. Im nächsten Schritt soll auch die Schlüsselworterkennung gewohnter Sprachassistenzsysteme auf ADELIA Gen2 ausgeführt werden. Dieses sogenannte Keyword-Spotting kennt man von den Aufrufen »Hey Siri« oder »Alexa«.
Großes Potenzial in der Zukunft
Entstanden ist der ADELIA Gen2 ASIC im ECSEL JU-Projekt ANDANTE, in dem bei einem Volumen von 40,58 Millionen Euro insgesamt zehn Partner beteiligt sind. Mit dem erfolgreichen Test geht es jetzt an die Weiterentwicklung. Das Team möchte den Beschleuniger leistungsfähiger und energieeffizienter machen und neue Anwendungsfälle ausprobieren. Das neuronale Netz ermöglicht nämlich eine große Bandbreite an Anwendungen: Eppel nennt neben der EKG-Auswertung auch die Objekt- und Umfelderkennung durch Bildauswertung. Der Forscher ist zuversichtlich, dass in Zukunft noch vieles mit dem analogen System möglich sein wird.
ADELIA: Analoge Technik schafft effizienten KI-Beschleuniger
