Mit Neuromorpher Hardware zur »Schnelldenker«-KI

Blitzreaktionen wären für viele Anwendungen nötig. Etwa beim Autonomen Fahren: Rollt ein Ball auf die Straße, dicht gefolgt von einem Kind, sind schnelle Entscheidungen überlebenswichtig. Üblicherweise werden die Aufgaben, die die Künstliche Intelligenz stemmen soll – etwa das Erkennen des Kindes auf der Fahrbahn – in zahlreiche kleine Rechenoperationen heruntergebrochen, die dann eine nach der anderen abgearbeitet werden: Ein Flaschenhals. Dazu kommt ein weiterer Engpass: Die Daten, die für die Berechnung dieser vielen kleinen Schritte nötig sind, müssen jeweils aus einem größeren Speicher in den Prozessor geladen werden, ebenso gilt es, die entsprechenden Ergebnisse dort zu speichern. Die Menge an Daten, die pro Zeiteinheit zwischen Speicher und Prozessor hin- und hergeschoben werden können, ist jedoch begrenzt. 

 

Neuromorphe Hardware: Flaschenhals adé!

Bei der Neuromorphen Hardware weitet man diese Flaschenhälse nicht nur, sondern man umgeht sie. Das gelingt, indem man für jede Rechenoperation – hauptsächlich gibt es in künstlichen neuronalen Netzen drei: Addition, Multiplikation und eine nichtlineare Funktion – spezielle Schaltungen baut, und diese mehrmals dupliziert. Diese »Mini-Prozessoren« arbeiten parallel ab, was der klassische Chip nacheinander erledigen würde. Zudem ist ein Teil der Daten beim sogenannten »in-memory-computing« (bzw. »near-memory-computing«) direkt dort gespeichert, wo sie gebraucht werden. Die Verarbeitung der Daten findet also entweder im Speicher selbst oder direkt neben diesem statt. Dieses von der Biologie abgeschaute Konzept ist nicht nur schneller, sondern auch viel energieeffizienter, und ermöglicht es daher, die Intelligenz genau dort hinbringen, wo sie benötigt wird – im Endgerät. Dies wird auch als Edge AI bezeichnet.

Analog oder digital?

Generell gibt es drei Ansätze, Neuromorphe Hardware zu realisieren und die Signale zu repräsentieren. Zunächst einmal stellt sich die Frage: Analog oder Digital? Der analoge Ansatz ist der schwierigere, aber wahrscheinlich auch der effizientere. Experimentalchips zeigen, dass die analoge Verarbeitung weniger Energie braucht – was elementar ist, wenn die Intelligenz ins Endgerät verlegt werden soll. Während der analoge Ansatz direkt mit kontinuierlichen Signalen – also z.B. direkt mit Strömen und Spannungen – arbeitet, müssen die Signale für den digitalen Ansatz in Zeit und Wert diskretisiert werden. Es ist also ein zusätzlicher Schritt nötig. Der Pluspunkt digitaler Implementierungen: Störsignale lassen sich besser kompensieren. Doch durch neuartige spezielle Trainingsmethoden kann man auch im Analogen zunehmend einfacher mit Störsignalen umgehen – beide Ansätze bleiben daher relevant. Am Fraunhofer IIS widmen sich die Forscherinnen und Forscher dem Hardware-Software-Co-Design, sie denken bei der Entwicklung der Algorithmen also schon an die Hardware und umgekehrt.

Oder: Gepulst?

Eine weitere Möglichkeit: Spiking Neural Networks. Während bei den klassischen Deep Neural Networks die Signale kontinuierlich gesendet werden – man also einen konstanten Datenstrom hat, der entweder aus digitalen oder analogen Signalen besteht – setzt man bei den energieeffizienten und robusten Spiking Neural Networks auf binäre Pulse: Statt ein kontinuierliches Signal abzugeben, »feuern« die Neuronen kurze Impulse, sogenannte Spikes, durch die Puls-modulierte Signale an die anderen Neuronen übertragen werden. Die Verarbeitung hingegen kann weiterhin analog oder digital erfolgen.

Neuromorphe Hardware: passgenau und maßgeschneidert

Wie die neuromorphe Hardware genau ausgestaltet wird, hängt weniger von den Anwendungen als vielmehr von den technischen Anforderungen ab. Liegt der Fokus auf der Flexibilität, bieten sich digitale Schaltungen an, steht dagegen die Energieeffizienz ganz oben, sollte der analoge Ansatz betrachtet werden. Ein Beispiel: Besteht das Eingangssignal aus analogen Körperschallsignalen (z.B. Messung von Vibrationen), bietet sich zunächst der analoge Ansatz an. Bei digitalen Kameras, wo sowohl Eingangs- als auch Ausgangssignal digital sind, ist im ersten Schritt der digitale Ansatz naheliegend. Die Forscherteams am Fraunhofer IIS haben mittlerweile große Expertise gesammelt –sowohl hinsichtlich des digitalen als auch des analogen sowie des Spiking Neural Networks-Ansatzes – und entwickeln passgenau Neuromorphe Hardware, die die jeweiligen Anforderungen bestmöglich erfüllt.