Fraunhofer-Institut für Integrierte Schaltungen IIS
Fraunhofer-Institut für Integrierte Schaltungen IIS
3D render AI artificial intelligence technology CPU central processor unit chipset on the printed circuit board for electronic and technology concept select focus shallow depth of field
© istock

© iStock

Efficient AI

Energieeffiziente KI für die Zukunft - On-Device Inferenz und Training

schnell, privat, energieeffizient, sensornah, selbstlernend, mobil

Sei es für die Automatisierung von Prozessen, sei es für die Analyse großer Datenmengen: Intelligente und selbstlernende Systeme werden in Unternehmensprozessen zunehmend wichtiger. Bisher müssen diese intelligenten Systeme stets in Verbindung mit einer Cloud stehen, da diese die benötigte Rechenleistung für KI-Modelle bereitstellt. Mit Edge AI, kurz für Edge Artificial Intelligence, kommt nun die nächste Generation von intelligenten Systemen ins Haus: Die Intelligenz wird dabei direkt in die Endgeräte verlagert.

Datenschutz und Datenverarbeitung

Wir setzen zum Einbinden von Videos den Anbieter YouTube ein. Wie die meisten Websites verwendet YouTube Cookies, um Informationen über die Besucher ihrer Internetseite zu sammeln. Wenn Sie das Video starten, könnte dies Datenverarbeitungsvorgänge auslösen. Darauf haben wir keinen Einfluss. Weitere Informationen über Datenschutz bei YouTube finden Sie in deren Datenschutzerklärung unter: https://policies.google.com/privacy

Vorteile von Edge AI

Energieeffizienz und Ressourcenschonung

Die TinyML braucht, um ML-Anwendungen auszuführen, bis zu tausendmal weniger Strom im Vergleich zu einer Standard-GPU. Der Grund hierfür ist unter anderem das lokale Ausführen der Modelle, statt die Daten hin- und herzusenden. Aus diesem Grund können die TinyML-Geräte je nach Anwendungsfall teilweise jahrelang ohne Batterien betrieben werden.

Auch die Größe der benötigten Batterien und somit die Nutzung von wertvollen Ressourcen verringert sich durch die erhebliche Energieeinsparung.

Echtzeit

 

Da das Modell lokal ausgeführt wird, müssen die Rohdaten, um die Inferenz durchzuführen, nicht erst an die Cloud gesendet und im verarbeiteten Zustand wieder zurückgesendet werden. Dadurch verringert sich die Latenzzeit der Ausgabe sowie der Bedarf an Kommunikationsbandbreite, was wiederum eine schnelle Reaktion ermöglicht.

Unabhängigkeit, Datenschutz und Sicherheit

 

Der Anwender steht in keiner Abhängigkeit zu einem Cloud-Service-Anbieter. Da die Daten somit nicht mit Externen geteilt werden müssen, trägt dies letztlich auch zum Schutz der Privatsphäre bei.

Außerdem besteht keine Abhängigkeit von einer Kommunikationsverbindung.
Das Risiko möglicher Störungen bei der Übertragung zwischen dem eingebetteten System und der Cloud wird also beseitigt.

Become a Certified Data Scientist Specialized in TinyML

TinyML ermöglicht Machine Learning auf Mikrocontrollern und öffnet Türen zu vielfältigen Anwendungsgebieten. Die Schulung richtet sich an Fachkräfte mit Datenanalyse-Erfahrung und an Hardware-Entwickler, die ihr Wissen in Machine Learning vertiefen möchten.

Sie lernen, ML-Anwendungen auf Mikrocontrollern zu entwickeln, Herausforderungen frühzeitig zu erkennen und entsprechende Strategien zu entwickeln. Nutzen Sie unser umfassendes Know-how für Ihren Erfolg.

Unser Leistungsangebot

Forschung/Entwicklung

Wir bieten Ihnen Teil- oder komplette F&E-Dienstleistungen.

 

  • Embedded AI: Entwicklungstool zur Entwicklung von embedded KI-Lösungen zur Kosteneinsparung und Qualitätssteigerung Ihrer Anwendung.
  • Optimiertes KI-Modell für Ihre Hardware: eine maßgeschneiderte Lösung angepasst an Ihre Hardware mit optimierter Leistung durch KI.
  • Mentoring: Wir begleiten Sie bei Ihren F&E-Projekten von der Datenaufnahme bis hin zur Entwicklung eines KI-Modells.

Beratung

Wir beraten und unterstützen Sie bei Ihrem individuellen Anliegen rund um Ihre KI-Lösungen.

 

  • Potenzialanalysen: Wir führen eine schnelle Potenzialanalyse zu Ihrem persönlichen Anliegen durch.
  • Richtungsentscheidungen: Wir geben Ihnen wegweisende Unterstützung durch die Erstellung eines automatisierten Reports, der Sie bei ersten Richtungsentscheidungen zu Ihrem persönlichen Projekt unterstützt. 
  • Hardwareempfehlungen: Wir beraten Sie bezüglich der geeigneten Hardware und geben Ihnen Empfehlungen für den Einsatz bei Ihrer KI-Lösung.
  • Persönliche Begleitung: Unser interdisziplinäres Team und das Netzwerk am IIS begleitet Sie bei Ihrem persönlichen Projekt.

Lizenzierung

Eventuell haben wir bereits das richtige KI-Modell entwickelt und dies kann direkt bei Ihrem Anwendungsfall integriert oder von Ihnen lizenziert werden.

 

Wir optimieren Ihre Anwendung durch standardisierte Abläufe und weitestgehende Automatisierung zeitintensiver Arbeiten speziell an Ihren Anwendungsfall angepasst.

Durch Training und automatische Reduktion komplexer KI-Modelle mittels Entfernen von Redundanzen generieren wir optimale KI-Modelle hinsichtlich Genauigkeit und Effizienz.

Wir unterstützen Sie bei einer schnellen Integration!

© pressmaster - Fotolia.com

Zertifizierte Schulung

Wir ermöglichen Ihnen einen schnellen Einstieg in die KI-Lösungen. Unser Schulungsangebot umfasst AutoML-Webinare, Kompetenzschulungen und Seminare zu verschiedenen KI-Themen.

Gerne nutzen wir Ihre Daten für ein maßgeschneidertes Seminar!

Kontaktieren Sie uns!

Wir realisieren die effiziente Bearbeitung Ihrer F&E-Projekte, sowie die Ausbildung von Nachwuchskräften mit diesem neuen Kompetenzprofil.

Kontaktieren Sie uns für eine individuelle Beratung unter:

machine-learning-lv@iis.fraunhofer.de

Anwendungen

 

© Adobe Stock

Vision

Von Agrarwirtschaft über Biodiversität bis hin zur Personenzählung.

KI-Analysen direkt hinter dem Kamerasensor ermöglicht zahlreiche neue Anwendungen, ohne viele Rohdaten in die Cloud zu senden. Die Privatsphäre bleibt stets geschützt.

Vision
 

© Fraunhofer IIS/Kurt Fuchs

Condition Monitoring

Durch Maschinelles Lernen in eingebetteten Systemen Zustände von Anlagen und Maschinen überwachen, um frühzeitig reagieren zu können oder die Effizienz zu steigern.

Condition Monitoring

© Adobe Stock

Retail

Wer kennt das nicht: Schon wieder lange Schlangen an der der Kasse.
Mit Privatsphäre schützender KI auf Edge Geräten ist Seamless Shopping jetzt schon möglich.

So bleibt mehr Zeit für die schönen Dinge.

 

© Fraunhofer IIS/Kurt Fuchs

Sports

Maschinelles Lernen in eingebetteten Systemen, z.B. Wearables für Sportanwendungen wie Fitness, Fußball, Boxen oder Basketball.

Sports
 

© Adobe Stock / RocknRoller Studios - stock.adobe.com

Speech & Audio

Maschinelles Lernen in eingebetteten Sensormodulen für kognitive Sprach- und Audioanalyse. Die Audiokommandos werden ohne Cloud-Verbindung erkannt.

Audio Demo
 

© Fraunhofer IIS

Tools

Machinelles Lernen in eingebetteten Sensormodulen für kognitive Handwerkzeuge, um Montageprozesse zu erkennen und die Qualität sicherzustellen.

KI4Tools

Konkrete Leistungen im Überblick

Wir bieten Komplettangebote, die ganz oder in Komponenten nach Ihren Anforderungen eingesetzt werden können. Alle Komponenten lassen sich beliebig kombinieren und Ihren Bedürfnissen anpassen.

Expand all Close all

Wir haben sehr gute Erfahrungen mit unseren Kunden in gemeinsamen sogenannten "Fast Track Joint Labs" gemacht. Hier entwickeln wir mit Ihnen zusammen innerhalb eines Monats eine erste Lösung für Ihre eingebettete KI-Anwendung.

Typisch ist dabei folgender Ablauf:

  • Kick-Off
  • Auswahl der benötigten Bestandteile der Lösung
  • Schnelles Proof of Concept
  • Zwischenreview der Ergebnisse
  • Gemeinsame Entwicklung der fertigen KI-Anwendung

Als Ergebnis entsteht eine lauffähige Lösung und das Know-How während des Projekts wird ausgetauscht.

Was bekommen Sie?

  • Wir führen Sie zügig durch ein gemeinsames Projekt bis zur fertigen KI-Pipeline in C/C++ oder Python.
  • Gemeinsam entwickelte Softwarebestandteile befähigen Sie, die Entwicklung nachzuvollziehen.

Wenn Sie bereits einen Datensatz haben, kann bereits nach wenigen Tagen ein Proof of Concept entstehen.

Ihre Vorteile

  • Know-how-Transfer passiert während des Projekts, nicht danach
  • Ihre Mitarbeiter werden zu KI-Experten für die Bearbeitung Ihrer Anwendungen (integrierte Weiterbildung).

Edge AI Suite

Einige unserer Kunden setzen zunehmend auf KI-Funktionen in Ihren Produkten. Damit Sie auch selbständig handlungsfähig sind, stellen wir eine Edge AI Suite bereit, mit dem unsere Kunden selbst eingebettete KI-Pipelines entwickeln, evaluieren und einsetzen können.

Was bekommen Sie?

  • Edge AI Suite in Form von aufeinander abgestimmten Jupyter Notebooks und von Fraunhofer entwickelten Bibliotheken im Hintergrund
  • Export finaler KI-Pipelines für eingebettete Systeme
  • Anpassung der Edge AI Suite an Ihre Problemstellungen, z.B. Verarbeitung bestimmter Datenquellen (Sensordaten, Audio, Video)
  • Einen halbtägigen Einführungsworkshop,
    falls möglich anhand Ihrer eigenen Daten

Optional

  • Wir empfehlen, um erweitertes Know-How aufzubauen, die Kombination mit dem Seminar.
  • Support für ein Jahr, ggf. auch inkl. Entwicklungsstunden
  • Wir unterstützen Sie auch gerne bei der finalen Integration,
    z.B. in der Form eines Joint Labs (siehe rechts).

Ihre Vorteile

  • Enormer Know-how-Transfer durch Best Practices implementiert in der Edge AI Suite
  • Sofortige Handlungsfähigkeit in ihren KI-Projekten
  • Wir lassen Sie nicht alleine in Ihren Projekten.

Wir bieten ein zweitägiges Zero-to-Hero-Seminar, um praxisnah die Grundlagen des maschinellen Lernens umsetzen zu können.
Das Seminar kann gerne mit Hilfe Ihrer Daten auf Sie zugeschnitten werden, falls Sie eine Weiterbildung für Ihre Organisationseinheit wünschen.

Was bekommen Sie?

  • Mit Ihren Daten und Wünschen erstellen wir eine angepasste Version unseres bewährten ML Seminars.
  • Ihre teilnehmenden Mitarbeitenden erlernen die Grundlagen des maschinellen Lernens inkl. Best Practices in der Theorie und anhand von Praxisbeispielen.
  • Sie bekommen die Seminarmaterialien inklusive des verwendeten Source Codes (Jupyter Notebooks).

Ihre Vorteile

  • Schneller Wissensaufbau im eigenen Team
  • Wissen, das sofort in die Praxis umsetzbar ist.

In einer Potenzialanalyse (Report in *PDF-Form) Ihres Datensatzes. bzw. Ihres Problems erhalten Sie Antworten auf folgende Fragen:

  • Wie gut ist Ihr Problem lösbar?
  • Welche KI-Verarbeitungsketten erfüllen Ihre Anforderungen?

Was bekommen Sie?

  • Übersicht über den Energiebedarf / Rechenbedarf vs. die erzielbare Leistung von KI-Pipelines auf eingebetteter Hardware
  • Der Report enthält eine Übersicht über pareto-optimale Lösungen sowohl mit klassischem ML, als auch mit Deep Learning.
    • → So können Sie entscheiden:
      • Braucht es zwingend Deep Learning?
      • Auf welcher Hardware passt eine Lösung am besten?

Ihre Vorteile

  • Schnelle Abschätzung der Umsetzbarkeit auf Ihrer Hardware
  • Frühe Informationen zu Hardwareentscheidungen