Fraunhofer-Institut für Integrierte Schaltungen IISEin Problem vieler KI-Netze: Sie sind gut – richtig gut – und dabei manchmal etwas groß und übergenau. In der Konsequenz fließen viel Energie, Arbeitsspeicher und Rechenzeit in komplexe Berechnungen, obwohl einfachere Modelle die gestellte Aufgabe effizienter lösen könnten. Doch wie wird aus einem übermäßig komplizierten neuronalen Netz eine kompakte Künstliche Intelligenz (KI), die auch auf kleinen Geräten zuverlässig läuft – zum Beispiel in einem Stirnband zur Schlafüberwachung? Hier kommt Neural Architecture Search ins Spiel.
Big data technology and data science illustration. Data flow concept. Querying, analysing, visualizing complex information. Neural network for artificial intelligence. Data mining. Business analytics.
© NicoElNino – stock.adobe.com
Big data technology and data science illustration. Data flow concept. Querying, analysing, visualizing complex information. Neural network for artificial intelligence. Data mining. Business analytics.
© NicoElNino – stock.adobe.com
Big data technology and data science illustration. Data flow concept. Querying, analysing, visualizing complex information. Neural network for artificial intelligence. Data mining. Business analytics.
© NicoElNino – stock.adobe.com
Big data technology and data science illustration. Data flow concept. Querying, analysing, visualizing complex information. Neural network for artificial intelligence. Data mining. Business analytics.
© NicoElNino – stock.adobe.com
Big data technology and data science illustration. Data flow concept. Querying, analysing, visualizing complex information. Neural network for artificial intelligence. Data mining. Business analytics.
© NicoElNino – stock.adobe.com
Effizienzkur für Künstliche Intelligenz
20. Februar 2025 | Neural Architecture Search – eine Suchmaschine für energieeffiziente KI
Der Entwurf neuronaler Netze erfordert Geduld und gleicht komplizierten Architekturplänen. Eine Einsparung hier erhöht die Komplexität dort. Eine Verbesserung dort erzeugt ineffektiv genutzten Raum an anderer Stelle. Um das Optimum herauszuholen, muss man viel händisch nachjustieren und die einfachste Lösung ist schnell mal übersehen. Doch es gibt Wege, diesen Prozess durch Neural Architecture Search – kurz NAS – zu automatisieren. Das vereinfacht und beschleunigt den Entwurfsprozess deutlich. Unternehmen sparen damit Geld und Ressourcen in der Entwicklung und können Produkte schneller auf den Markt bringen.
Mit NAS wird die Suche nach dem perfekten neuronalen Netz in die Hand von Computern gelegt. Sie können in einem definierten Suchraum durch ihre Rechenpower und mithilfe einer gut konfigurierten Suchstrategie, viel schneller erkennen, welche Abwandlung eines neuronalen Netzes die beste Performance bringt, am energieeffizientesten ist oder mit besonders wenig Speicher auskommt. Und zwar jeweils für einen bestimmten Einsatzzweck wie Objekt-, Sprach- oder Mustererkennung in einer speziellen Healthcare-, oder Industrieanwendung.
Auf die Hardware zugeschnitten: KI-Optimierung für die Edge
Bestimmte KI-Anwendungen entfalten ihren vollen Nutzen erst dann, wenn neuronale Netze direkt im Produkt verarbeitet werden. So müssen die Daten nicht in die Cloud wandern, sondern werden in Echtzeit in den Endgeräten – an der Edge – verarbeitet. Die KI operiert auf den Chips oder Mikrocontrollern dieser Endgeräte, die gewisse Beschränkungen mit sich bringen. Gesucht ist also das Netz, das unter den gegebenen Eigenheiten der Hardware die besten Ergebnisse erzielt. Um das zu finden, entwickelt das Team um Michael Rothe im Bereich Kommunikationssysteme neue Vorgehensweisen und Werkzeuge, mit denen NAS besonders »hardware-aware« wird.
Die Entwicklung geschieht im Rahmen von MANOLO, einem von der Europäischen Union geförderten Projekt zur Verbesserung der Effizienz und Performance von KI-Systemen. Einer der Anwendungsfälle für NAS, den das Fraunhofer IIS derzeit mit dem Projektpartner Bitbrain in MANOLO testet, ist die Schlafüberwachung mithilfe eines Stirnbands, das Hirnströme misst. Das Stirnband kann sowohl in der Schlafforschung als auch beim Endanwender zu Hause eingesetzt werden. Da hier kleine, energieeffiziente Hardware gefragt ist, setzt das Team auf den analogen KI-Beschleuniger-Chip ADELIA. Das neuronale Netz, das gesucht ist, muss vor allem auf dessen begrenzte Datenbreite und Speichergröße abgestimmt sein. Im Fall von ADELIA muss dem fraglichen Netz während des Datentrainings zudem beigebracht werden, mit Ungenauigkeiten in den Berechnungen umzugehen, die durch das Rauschen entstehen, das bei analoger Signalverarbeitung auftritt.
Die Suche nach dem perfekten neuronalen Netz für den perfekten Schlaf
Bisher funktioniert die Schlafüberwachung mit dem EEG-Stirnband von Bitbrain so: Die im Stirnband integrierten Sensoren erfassen die Hirnströme schlafender Personen und leiten die Signale per Bluetooth an einen Computer in der Nähe weiter. Auf dem arbeitet eine Software mit neuronalem Netz daran, die Signale auszuwerten und daraus Dauer und Art der verschiedenen Schlafphasen abzuleiten. Durch die Datenübertragung erfolgt die Analyse zeitverzögert. Neuere Entwicklungen in der Neurotechnologie zielen jedoch darauf ab, das Gehirn während des Schlafs zu stimulieren, um bestimmte kognitive Funktionen wie das Gedächtnis zu verbessern. Dazu müssen den Schlafenden zum richtigen Zeitpunkt bestimmte Töne vorgespielt werden. Damit das Stirnband die Schlafphasen in Echtzeit erkennen und daraufhin Töne ausspielen kann, muss die KI ins Stirnband. So kann das Gerät seinen Funktionsumfang ausweiten – von der Schlafüberwachung hin zur gezielten Verbesserung der Schlafqualität. Dafür wird das bestehende neuronale Netz mit NAS kompakter und energieeffizienter gestaltet. Das ist notwendig, um die Berechnungen der KI direkt im Endgerät verarbeiten zu können.
Neben den spezifischen Hardware-Parametern richtet sich die KI-Optimierung mit NAS auch nach den Zielgrößen, die für die geplante Anwendung entscheidend sind. Besonders komplex wird die Optimierung, wenn viele Ziele gleichzeitig erfüllt werden müssen. Beim EEG-Stirnband kommt es zum Beispiel auf den Speicherbedarf, den Energieverbrauch, die Latenz und die Genauigkeit an: Das neuronale Netz, das bisher auf einem Rechner lief, soll auf die begrenzten Rechenressourcen der Edge-Hardware angepasst werden. Es wird also stark komprimiert, um den Speicherbedarf gering zu halten. Gleichzeitig soll der Energieverbrauch niedrig sein, weil der Akku des Stirnbands die ganze Nacht durchhalten muss. Um die auditiven Stimuli zeitlich passgenau ausspielen zu können, ist auch eine geringe Latenz wichtig. Und die Berechnungen müssen zuverlässig sein, damit das Stirnband die Schlafphasen richtig erkennt.
Eine Suchmaschine für neuronale Netze
Die Kunst liegt darin, das neuronale Netz so anzupassen, dass es möglichst einfach gestrickt und doch leistungsstark im Ergebnis ist. Das entwickelte NAS-Toolset wird auf diese Mehrzieloptimierung hin ausgerichtet. Dazu generiert es in einem ersten Schritt verschiedene Abwandlungen des Netzes. Anschließend berechnet es deren Performance voraus – und zwar hinsichtlich Speicherbedarf, Energieverbrauch, Latenz und Genauigkeit. Auf dieser Basis wählt es dann das Netz aus, das die Anforderungen bestmöglich erfüllt. Das kann man sich vorstellen, wie die Entwicklung einer Art Suchmaschine für neuronale Netze. Die soll am Ende so funktionieren: Man gibt ein, welche Art von neuronalem Netz benötigt wird, definiert unter welchen Hardwarebedingungen es laufen und nach welchen Kriterien es optimiert werden soll und erhält anschließend ein entsprechend angepasstes Netz, das ideal auf die Hardware zugeschnitten ist.
Einmal aufgesetzt lässt sich das entwickelte Toolset für andere Healthcare- und Industrieanwendungen und deren spezifische Erfordernisse anpassen. So sind Edge-Geräte mit integrierter KI schneller bereit für den Einsatz. Gleichzeitig kann deren Energieverbrauch mit NAS gezielt heruntergeschraubt werden, was zur nachhaltigen Entwicklung von KI beiträgt.