Neuromorphes Computing

ADELIA – Analog Deep-Learning-Inferenz-Beschleuniger

Das Projekt ADELIA von Fraunhofer IIS und Fraunhofer IMPS hat am Innovationswettbewerb »Energieeffizientes KI-System« des Bundesministeriums für Bildung und Forschung (BMBF) in der Kategorie ASIC-22FDX teilgenommen. Ziel war die Entwicklung eines energieeffizienten Crossbar-Analogbeschleunigers.

Pressemitteilung zu ADELIA

Flyer zu ADELIA

ANDANTE – KI für neue Geräte und Technologien in der Edge

Laufzeit: 1.7.2020 – 30.6.2023
Konsortium: 8 Partner aus Deutschland, weitere 23 europäische Partner
Fördermittelgeber: ECSEL Joint Undertaking Initiative der EU und Bundesministerium für Bildung und Forschung
Projektwebseiten: https://www.andante-ai.eu/ https://www.elektronikforschung.de/projekte/andante

Ziel des Projekts ANDANTE ist es, KI-Chips und -Plattformen für Edge-Anwendungen zu entwickeln, die halbleiter-technologischen Grundlagen für diese Chips zu erarbeiten und relevante Edge-Anwendungen mit diesen Chips zu realisieren.

Das Fraunhofer IIS entwickelt im Rahmen dieses Projekts einen analogen mixed-signal Hardware-Beschleuniger-Chip für neuronale Netze (NN). Die analoge Schaltungstechnik ermöglicht es, die für neuronale Netze zentralen Additions- und Multiplikationsberechnungen mit Hilfe einfachster Schaltungen zu realisieren und damit einen signifikanten Vorteil bezüglich Chipflächenbedarf, Energieeffizienz und Latenz im Vergleich zu digitalen Konzepten zu erzielen. Die analoge Implementierung geht einher mit einigen Imperfektionen wie Rauschen, fertigungsbedingten Nichtlinearitäten und Bauteilvarianzen, die dafür spezielle hardware-aware Training- und Simulations-Tools benötigt. Das Fraunhofer IIS entwickelt deswegen Tools, um für reale analoge Beschleuniger ein kleinstmögliches NN mit gewünschter Genauigkeit und minimalem Energieverbrauch zu erhalten. Im Laufe des Projekts wird, in enger Zusammenarbeit mit dem Fraunhofer EMFT und dem Fraunhofer IPMS, ein KI-Chip in der 22FDX^® Globalfoundries Technologie entwickelt und produziert. Die erste Pilotanwendung, die auf KI-Chip und Plattform laufen soll, ist Voice Activity Detection (z.B. für Smart Speaker und Smart-Home-Geräte).

KI-FLEX – Rekonfigurierbare Hardwareplattform zur KI-basierten Sensordatenverarbeitung für das autonome Fahren

Laufzeit: 1.9.2019 – 31.8.2023
Konsortium: 8 Partner aus Deutschland
Fördermittelgeber: Bundesministerium für Bildung und Forschung
Projektwebseiten: www.iis.fraunhofer.de/ki-flex https://www.elektronikforschung.de/projekte/ki-flex

Im Projekt »KI-FLEX« entwickeln acht Projektpartner eine leistungsstarke, energieeffiziente Hardware-Plattform und das dazugehörige Software-Framework für autonomes Fahren. Die »KI-FLEX«-Plattform soll Daten von Laser-, Kamera- und Radarsensoren im Auto zuverlässig und schnell verarbeiten und zusammenführen. Dabei kommen Methoden der Künstlichen Intelligenz (KI) zum Einsatz. Das Fahrzeug verfügt so jederzeit über ein präzises Abbild der realen Verkehrsbedingungen, kann sich selbst in diesem Umfeld verorten und auf Basis dieser Informationen in jeder Fahrsituation die richtige Entscheidung treffen.

Der Beitrag des Fraunhofer IIS besteht in der Entwicklung eines flexiblen DLI-Beschleuniger-Kerns für den Multi-Core-Deep-Learning-Beschleuniger, welcher gemeinsam mit weiteren DLI-Beschleunigern in einen flexiblen, zukunftsfähigen ASIC integriert werden soll. Die Architektur des ASICs ist dabei so ausgelegt, dass zukünftige Verbesserungen von NN-Architekturen, das heißt neu aufkommende NN-Typen und -Konzepte, damit weiterhin realisiert werden können. Dafür werden kritische Stellen gezielt rekonfigurierbar designt, um eine Brücke von der Starrheit eines ASICs hin zur Flexibilität eines FPGAs zu bauen.

LODRIC – Low-power Digital deep learning Inference Chip

Laufzeit: 1.8.2021 – 31.7.2024
Konsortium: 3 Partner aus Deutschland
Fördermittelgeber: Bundesministerium für Bildung und Forschung 
Projektwebseite: https://www.elektronikforschung.de/projekte/pilot-inno-lodric

Das Projekt LODRIC verlängert die erfolgreiche Zusammenarbeit des Konsortiums, bestehend aus der FAU Erlangen-Nürnberg und dem Fraunhofer IIS, aus dem vorangegangenen Projekt »Lo3-ML«.

In seiner Fortsetzung geht es um die Entwicklung einer Entwurfsmethodik für energiesparsame digitale KI-Chips mit eingebetteten nichtflüchtigen Speicherelementen und deren prototypische Anwendung anhand drei verschiedener Applikationen. Dabei soll die Hauptinnovation des Projektes »Lo3-ML«, namentlich die Entwicklung datenflussorientierter Rechnerarchitekturen in Verbindung mit verteiltem, nicht-volatilem Gewichtsspeicher und stark (ternär) quantisierten Gewichten aufgegriffen und gezielt methodisch weiterentwickelt werden.

Das Fraunhofer IIS ist mit den drei Disziplinen Medizintechnik, Entwurf von digitalen Schaltungen und Embedded AI vertreten. Letztere wird dabei ihre Kompetenzen im Bereich hardware-aware Training ausbauen. Dabei wird eine für die Beschleunigertechnologie spezifische Tool Chain weiterentwickelt, durch die zum einen eine signifikante Verkleinerung (Optimierung) des neuronalen Netzes erreicht wird und zum anderen dessen Genauigkeit trotz hoher Quantisierung der Neuronengewichte durch iteratives Nachtrainieren erhalten bleibt.

MANOLO – Vertrauenswürdige und effiziente KI für Cloud-Edge-Computing

Laufzeit: 1.1.2024 – 31.12.2026 
Konsortium: 2 Partner aus Deutschland, 16 weitere europäische Partner 
Fördermittelgeber: Rahmenprogramm Horizont Europa der Europäischen Union
Projektwebseite: https://manolo-project.eu/

Im Projekt MANOLO wird ein komplettes Paket vertrauenswürdiger Algorithmen und Tools einwickelt, das die Effizienz und Performance von KI-Systemen verbessert. Im Fokus stehen das energieeffiziente Training der KI-Modelle mit qualitätsgeprüften Daten sowie das Ausführen ressourcenschonender KI-Modelle auf einem breiten Spektrum von Geräten für den Einsatz an der Edge bis zur Cloud.

Das Fraunhofer IIS konzentriert sich im Projekt darauf, KI-Anwendungen an die Edge zu bringen. Dafür werden Algorithmen und Tools entwickelt, die automatisiert nach geeigneten Neuronalen Netzen suchen und diese optimieren (Neural Architecture Search, NAS). Dabei entstehen effiziente Algorithmen für Deep Neural Networks (DNN), die auf verschiedenster Hardware ausgeführt werden können. Geplant ist die Erprobung in Wearables und in Robotern – sowohl auf klassischen Microcontrollern als auch auf eigens entwickelten KI-Beschleunigern. Darüber hinaus erforscht das Fraunhofer IIS Methoden, um aus DNN-Modellen Spiking Neural Networks (SNN) zu erzeugen, was den Einsatz neuartiger neuromorpher Algorithmen ermöglicht.

NEUROKIT2E – Open-Source Deep-Learning-Plattform für Embedded Hardware und Europa​

Laufzeit: 1.6.2023 – 31.5.2026​
Konsortium: Vier Partner aus Deutschland, 22 weitere aus Europa
Fördermittelgeber: KDT Joint Undertaking Initiative der EU und des Bundesministeriums für Bildung und Forschung

NEUROKIT2E verfolgt das Ziel, ein unabhängiges Open-Source-Framework für Edge-/Embedded-KI zu entwickeln, das eine internationale Gemeinschaft von Nutzern und eine Vielzahl von Anwendungsbereichen unterstützen kann. Dieses europäische Framework speziell für eingebettete KI soll mit bestehenden Frameworks kompatibel sein sowie die Entwicklung und Implementierung von KI-Anwendungen auf eingebetteter Hardware erleichtern.​

Das Fraunhofer IIS wird seine Multicore Mixed-Signal DNN-Inferenzbeschleuniger-Architektur basierend auf analogen Crossbar-Arrays für ultra-low power Anwendungen in NEUROKIT2E einbringen. Hinzu kommen die Weiterentwicklung einer Mapper- und Compiler-Toolchain sowie von Tools zur Optimierung neuronaler Netze. Dies ermöglicht eine effiziente Design-Space-Exploration, um so die optimale Architektur in Bezug auf KPIs (Key Performance Indicators) wie Energieverbrauch, Latenz sowie Durchsatz für den jeweiligen Anwendungsfall zu identifizieren. Darüber hinaus wird das Fraunhofer IIS Tools entwickeln, die das effiziente Mapping von SNNs auf embedded Hardware erlauben.

SEC-Learn – Sensor-Edge-Cloud for Federated Learning

Laufzeit: 1.7.2020 – 30.6.2024
Konsortium: 11 Fraunhofer-Institute aus den Verbünden Mikroelektronik und IUK-Technologie
Fördermittelgeber: Fraunhofer-Vorstandsprojekt (bis 2021 InnoPush Programm des Bundesministerium für Bildung und Forschung) 

Im Projekt SEC-Learn entsteht ein System von verteilten energiesparenden Edge Devices, die gemeinsam lernen, ein komplexes Problem der Signalverarbeitung durch maschinelles Lernen zu lösen. Der Fokus des Projekts liegt dabei zum einen auf der Entwicklung schneller, energie- und platzeffizienter Hardwarebeschleuniger für Spiking Neural Networks (SNN), zum anderen auf deren Verschaltung zu einem föderierten System, in dem jedes Gerät autonom agieren und lernen kann, seine Lernerfolge allerdings durch föderiertes Lernen mit allen anderen Geräten teilt.

Dieses Konzept ermöglicht zahlreiche Anwendungen, vom autonomen Fahren bis hin zur Zustandsüberwachung, wo eine dezentrale Datenverarbeitung durch KI mit einem zentralen System zum Training verbunden werden muss – ohne dabei den Datenschutz zu verletzen oder exzessiven Stromverbrauch und Datenverkehr zu verursachen.

Die im Projekt verwendeten Hardwarebeschleuniger entstehen dabei unter Koordination des Fraunhofer IIS in enger Kooperation mit dem Fraunhofer EMFT und dem Institutsteil EAS des Fraunhofer IIS. Dafür entwickelt das Fraunhofer IIS am Standort Erlangen neuromorphe mixed-signal Schaltungen für spezialisierte Neuronen- und Synapsenmodelle, die zugehörigen Softwaretools für hardware-aware Training und Simulation sowie eine skalierbare Chip-Architektur, die es in Zukunft ermöglichen soll, verschiedenste Anwendungsprobleme bedienen zu können.

Mehr Informationen zum Projekt SEC-Learn