News

Wie in einem Flugzeugcockpit sollen Menschen anhand des „KI-Cockpits“ KI-Systeme künftig benutzerfreundlich und intuitiv überwachen können. Foto: © Hochschule Aalen | Human in Command Labor

Das vom Bundesministerium für Arbeit und Soziales (BMAS) im Rahmen des KI-Observatoriums der Abteilung Denkfabrik Digitale Arbeitsgesellschaft geförderte Projekt „KI-Cockpit“ folgt den Vorgaben der EU-Verordnung für Künstliche Intelligenz und zielt auf eine sichere und ethisch vertretbare Nutzung von Künstlicher Intelligenz (KI) ab. Prototypen des „KI-Cockpits" sind bereits in verschiedenen Anwendungsfeldern in Arbeit. An der Hochschule Aalen leiten Prof. Dr. Doris Aschenbrenner und Prof. Dr. Regina Kempen das Projekt. Dieses wird bis Ende 2024 mit 3,5 Mio. Euro gefördert.

Das Projekt „KI-Cockpit“ stellt eine wegweisende Initiative zur Entwicklung von KI-Steuerung und KI-Optimierung dar. Das Konsortium aus Forschungseinrichtungen und Industrie- und Praxispartnern will gemeinsam benutzerfreundliche und intuitive Software-Oberflächen entwickeln, mit denen Anwendende KI-Systeme überwachen, steuern und anpassen können.

Der Mensch steht im Mittelpunkt der Forschung. Die Kontrolle der autonomen Prozesse soll über die Einstellung sogenannter Autonomiestufen erfolgen, die – ähnlich wie in einem Flugzeugcockpit – den Grad der manuellen beziehungsweise automatischen Entscheidungsfindung festlegen. Zusätzlich werden kognitive Prozesse des Menschen während der Zusammenarbeit mit dem KI-Cockpit untersucht, um so die Interaktion in relevanten Entscheidungsfindungsphasen noch menschzentrierter zu gestalten. So soll ein allgemeingültiges Cockpit-Modell entstehen, das auf den Entwurf anderer KI-Systeme übertragbar ist und als Open-Source-Anwendung der Öffentlichkeit zur Verfügung gestellt wird.

Das Vorhaben ist streng an den Vorgaben des EU-AI Acts und dessen Weiterentwicklung ausgerichtet. „Unser Ansatz ‚Human in Command‘ stellt sicher, dass die menschliche Letztentscheidung bei Risiko-Anwendungen von Künstlicher Intelligenz realisiert werden kann", erklärt Prof. Dr. Doris Aschenbrenner, die das Projekt an der Hochschule Aalen zusammen mit Prof. Dr. Regina Kempen leitet. Diese fügt hinzu: „Es ist ein Schritt in Richtung einer sichereren und ethisch vertretbaren Nutzung Künstlicher Intelligenz.“ In den kommenden Jahren werden die Forschenden sowie Entwicklerinnen und Entwickler des Projekts intensiv daran arbeiten, das „KI-Cockpit" zu konfigurieren und zu verfeinern.

Derzeit sind verschiedene Prototypen in unterschiedlichen Anwendungsfeldern in Arbeit, darunter im Pflegebereich und die Nutzung Künstlicher Intelligenz beim Job-Matching. Rosmarie Steininger, CEO der Chemistree GmbH, betont: „Als Softwareunternehmen sehen wir Regulierung nicht als Hindernis, sondern als Katalysator für Innovation. Unsere Philosophie besteht darin, zu handeln und zu experimentieren, anstatt uns über regulatorische Hürden zu beklagen. In unserem Anwendungsfeld zielen wir darauf ab, unsere Job-Matching-Lösungen bereits heute auf die Anforderungen von morgen auszurichten.“