Leinen los für vertrauenswürdige KI

Künstliche Intelligenz unterstützt Ärzte bei der zielgenauen Diagnostik oder hilft dank Ressourcenoptimierung beim Klimaschutz. Dennoch kommt sie auch mit Risiken daher, die in der Entwicklung mitbedacht werden müssen. Das Fraunhofer IIS forscht in der Kompetenzsäule Human AI des ADA Lovelace Centers an vertrauenswürdiger KI. Das zugehörige Exponat ist nun sogar auf der MS Wissenschaft und im KI-Showroom des Fraunhofer IIS im Augustinerhof in Nürnberg zu sehen.

Zwei Personen bewerben sich bei einem Unternehmen. Beide sind gleich alt und gebildet. Einer der beiden ist ein Mann, die andere ist eine Frau. Blickt man auf das genaue Profil, weist die Frau bessere Qualifikationen für die Stelle auf. Klarer Fall also, oder? Nicht zwangsläufig, denn häufig wird leider nach wie vor bevorzugt der Mann eingestellt. „Wir Menschen unterliegen ganz natürlich Stereotypen und Vorurteilen“, weiß Dr. Stefan Kamin. Der Wissenschaftler des Fraunhofer IIS ist Koordinator der Kompetenzsäule „Human AI“ im ADA Lovelace Center for Analytics, Data and Applications und beschäftigt sich intensiv mit vertrauenswürdiger KI. Denn es ist mitnichten so, dass Algorithmen stets eine vorurteilsfreie Entscheidung treffen: Vor einigen Jahren war etwa Amazon in die Schlagzeilen geraten, weil eine zur Bewerberauswahl genutzte KI systematisch Frauen benachteiligt hatte.

Fälle wie diese zeigen, warum es vertrauenswürdige Künstliche Intelligenz braucht. Stefan Kamin ist davon überzeugt, dass es künftig nur noch KI-Innovationen geben kann, wenn die Gesellschaft den Algorithmen vertraut. Auch die Gesetzgebung beschäftigt sich seit einiger Zeit mit dem Thema. Der AI Act der EU gibt eine grobe Definition vor: Vertrauenswürdige KI muss robust, ressourcenschonend, transparent und möglichst objektiv sein. Sie muss die Privatsphäre der Nutzenden schützen, darf niemanden diskriminieren. Damit vertrauenswürdige KI Realität werden kann, braucht es aber jede Menge Arbeit. „Wir sind die Vermittler zwischen der Technik und den Menschen“, sagt Kamin. Die Vermittlungsarbeit fängt bei verschiedenen Fragestellungen rund um KI an: Welche Hemmnisse und welche Bedürfnisse bestehen in der Bevölkerung? Was bedeutet der Nutzen von KI für Bildung, Wirtschaft, Pflege, Einzelhandel und Co.?

Mensch und Technologie zusammen denken

Mit diesen Fragen möchte das Fraunhofer IIS eine Lücke schließen: In der Kompetenzsäule Human AI wird nicht nur die technische Ebene betrachtet, sondern explizit der Mensch mit in den Prozess einbezogen. Kommen ein Industriepartner oder ein Forschungsprojekt auf das Team zu, starten die Forschenden ihre „Übersetzungsarbeit“. Zentral sind die richtigen Daten. Eine KI kann nur so vorurteilsfrei sein wie die Daten, auf denen sie aufbaut. „Das ist eine riesige Herausforderung“, weiß Kamin. Man müsse objektive Trainingsdaten verwenden, die die Vielfalt und Variabilität der Menschen abbilden. „Wir müssen zuerst viel Wissen über die jeweilige Zielgruppe unseres Projekts generieren“, so Kamin. Dazu nutzt das Institut sowohl repräsentative Befragungsdaten als auch kleinere Fokusgruppen.

Wo die Grenzen und Möglichkeiten des Einsatzes von KI liegen, zeigt ein Exponat, das neben dem KI-Showroom des Fraunhofer IIS im Augustinerhof in Nürnberg auch auf dem Museums- und Forschungsschiff MS Wissenschaft zu sehen ist. „Who’s deciding here?“ heißt das Spiel, mit dem die Grenzen und Möglichkeiten des Einsatzes von Künstlicher Intelligenz dargestellt werden. Das Exponat stellt etwa die Frage, wen die KI im Falle der zwei Bewerbungen auswählen würde. Die Antwort: Sie entscheidet sich aktuell noch für den Mann, dort sollte also noch nicht auf die KI vertraut werden. Bei einer anderen Frage möchte das Exponat wissen, ob eine KI eine Lungenentzündung zuverlässig erkennen könnte. Die Antwort hier hingegen: Ja.

Vertrauenswürdige KI als absolute Notwendigkeit

Wer mitspielt, der begreift sofort die Notwendigkeit vertrauenswürdiger KI. Schließlich geht es bei der Gesundheit oder dem Job um sehr persönliche Lebensbereiche mit höchster Priorität. Human AI-Koordinator Stefan Kamin ist deshalb davon überzeugt, dass es weiterer Forschung rund um das Themenfeld bedarf. Spielerische Ansätze können eine passende Möglichkeit sein, um in der Bevölkerung sowohl Vorbehalte abzubauen als auch ein realistisches Bild zu zeichnen.

„Who’s deciding here?“ ist noch bis zum 15. September mit dem Ausstellungsschiff MS Wissenschaft in ganz Deutschland und anschließend in Österreich unterwegs. Einen Zwilling des Exponats können Interessierte im KI-Showroom des Fraunhofer IIS im Augustinerhof in Nürnberg erkunden. Öffnungszeiten: Mittwoch bis Freitag von 12:00 bis 19:00 Uhr sowie Samstag und Sonntag von 10:00 bis 17:00 Uhr.

Beitrag von Julian Hörndlein, Freier Journalist und PR-Texter