Wir freuen uns, den neuesten Kollegen, Dr. Marco Wilhelm, in der Fachgruppe "Künstliche Intelligenz in der Arbeitswelt" in der BAuA Dortmund begrüßen zu dürfen. Diesen Anlass möchten wir nutzen, um einen Einblick in unser Aufgabenverständnis und unsere Zukunftspläne zu geben. Dazu haben sich Dr. Martin Brenzke, Dr. Jan Grenzebach und Dr. Marco Wilhelm im "Erfrischungsbereich" der BAuA in Dortmund eingefunden und gemeinsam über die Themen Künstliche Intelligenz, Ressortforschung, Regulation und Politikberatung diskutiert.

Chancen und Risiken

Wir hätten uns kaum eine bessere Zeit aussuchen können, um zu KI und Arbeit zu forschen: In den letzten Monaten gab es kaum Lebensbereiche und Arbeitswelten, die nicht mit Künstlicher Intelligenz (KI) in Berührung gekommen sind. Damit die Entwicklung dieser produktiven Technologie auch in Zukunft einen nachhaltigen Nutzen für die Arbeit selbst, die Wirtschaft und die Gesellschaft im Allgemeinen hat, bietet unter anderem die Europäische Union mit dem KI-Rechtsakt (European Artificial Intelligence Act, 2024) einen Rahmen für die Einführung von Regeln zu KI. Als Teil der BAuA, die als Arbeitsschutz-Scharnier zwischen Arbeitswelt, Politik und Wissenschaft fungiert, sehen wir unsere Aufgabe in der Erforschung und Übersetzung wissenschaftlicher Erkenntnisse sowie der Technikfolgenabschätzung von KI innerhalb des gesteckten Rahmens.

Besonders relevant in diesem Kontext sind z. B. die sogenannten Hochrisiko-KI-Systeme. Gemäß der EU-KI-Verordnung sind Hochrisiko-KI-Systeme solche, die ein hohes Risiko für die Gesundheit, die Sicherheit oder die Grundrechte von Personen darstellen. Dazu zählen unter anderem Systeme zur biometrischen Identifizierung und Kategorisierung natürlicher Personen, KI-Systeme für die Verwaltung und den Betrieb kritischer Infrastruktur, KI-gestützte Entscheidungen, die die Bedingungen von Arbeitsverhältnissen beeinflussen, sowie KI-Systeme, die den Zugang zu Bildungseinrichtungen, Beschäftigung oder öffentlichen Leistungen steuern.

In unserer Arbeit fokussieren wir deshalb u.a. auf solche Systeme, die Entscheidungen über Arbeitnehmerinnen und Arbeitnehmer automatisiert treffen (bspw. Personalauswahl, Aufgabenzuweisung, Arbeitsorganisation). Diese Systeme sollten einer gründlichen Bewertung unterzogen werden.

Mit der fachlichen Einordnung der jüngsten Literatur in diesem Themenfeld stellen wir den Bedarfsträgern das Know-How zur Verfügung, um sichere Arbeitssysteme mit KI zu ermöglichen. In Forschungsprojekten beabsichtigen wir auch zu untersuchen, ob und wie bestimmte intendierte Regulierungen und Systeme implementierbar sind, und welche Folgen sich für die Arbeitswelt, für Arbeitnehmerinnen und Arbeitnehmer sowie für die KI-Systeme selbst ergeben. Wir stehen dazu im engen Austausch mit Kooperationspartnerinnen und -partnern an nationalen, europäischen und internationalen Universitäten, Forschungsinstituten und zukünftig auch mit Betrieben und der Zivilgesellschaft.

Wir möchten so einen Beitrag zur Minimierung der Risiken bei gleichzeitiger Nutzung der Potenziale durch den Einsatz von KI in Betrieben leisten. Politikberatung, Regulierung und Forschung - das ist der Dreiklang, der uns in die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA) gelockt hat.

Unsere Forschungsschwerpunkte

2021 ist Dr. Jan Grenzebach in die BAuA eingetreten. Er hat in der Fachgruppe "Physikalische Faktoren" ein Projekt zur kognitiven Beanspruchungsmessung in der akustischen Arbeitsumgebungsforschung geleitet. Er verstärkt die Fachgruppe "KI in der Arbeitswelt" seit März 2024.

Jan Grenzebach hat zuvor an der TU Chemnitz zur mathematischen Modellierung kognitiver Strukturen und der menschlichen Sensorik promoviert. Er hat sich dabei mit Klassifikationsverfahren des maschinellen Lernens auf selbst erhobenen Datensätzen beschäftigt und diese mit Methoden der Zeitreihenanalyse und der Statistik untersucht.

In Zukunft wird sein Schwerpunkt auf den Eigenschaften von Datenquellen liegen, die für das Training von Modellen im Bereich der Hochrisiko-KI verwendet werden. An die Qualität von Daten in Hochrisiko-KI-Systemen werden rechtliche Anforderungen erhoben, um den sicheren Betrieb zu gewährleisten. Verzerrungen von Datensätzen übertragen sich auf das Entscheidungsverhalten. Aufgabe von Jan Grenzebach wird sein, zu diesem Zweck datenwissenschaftliche Metriken zu entwickeln, die bei der Validierung notwendig sind. Er unterstützt als Dozent die Lehre der Hochschule des Bundes für öffentliche Verwaltung in Brühl. Jan Grenzebach ist auch in einem Gremium der DIN aktiv.

Seit Juni 2024 ist der Physiker Dr. Martin Brenzke Teil der Fachgruppe "Künstliche Intelligenz in der Arbeitswelt". Nach seiner Promotion zum Thema "maschinelles Lernen in der Kernfusionsforschung", angefertigt am Forschungszentrum Jülich in Kooperation mit der Heinrich-Heine-Universität Düsseldorf, arbeitete er als PostDoc am Forschungszentrum Jülich zur Analyse der Veränderung von Materialoberflächen unter Einwirkung von Plasma, einem elektrisch leitfähigen Zustand von Materie, in dem sich Elektronen und Atomkerne voneinander trennen, mittels maschinellen Lernens. Seit seiner Masterarbeit im Bereich Astroteilchenphysik an der RWTH Aachen University beschäftigt er sich mit statistischen Verfahren und Verfahren des maschinellen Lernens. Als Fortsetzung seiner Tätigkeiten im Bereich des maschinellen Lernens und der KI wird er sich nun bei der BAuA mit informationstechnischen Aspekten der Sicherheit und Privatsphäre bei der betrieblichen Nutzung von KI-Modellen beschäftigen.

Dr. Marco Wilhelm ist im April 2025 zur Fachgruppe dazugestoßen. Zuvor war der studierte Mathematiker langjährig an der Fakultät für Informatik der TU Dortmund tätig, wo er als wissenschaftlicher Mitarbeiter die Forschung im Bereich wissensbasierter KI maßgeblich mitgestaltet hat. In seiner Dissertation mit dem Titel "Probabilistic Inferences Under Maximum Entropy for Description Logics" befasste er sich mit wahrscheinlichkeitsbasierten Verfahren zur Repräsentation und Verarbeitung von unsicherem Wissen. Seine Forschungsinteressen reichen jedoch darüber hinaus und umfassen auch Themen wie qualitative Unsicherheit, kognitive Logiken sowie die Erklärbarkeit, Transparenz und Vertrauenswürdigkeit von KI-Systemen. Marco Wilhelm ist als Gutachter für verschiedene KI-Konferenzen und Fachzeitschriften tätig und engagiert sich unter anderem in der Organisation von KI-Konferenzen wie der deutschen KI 2017-Konferenz in Dortmund.

Unsere Pläne

Alle drei neuen Mitglieder haben Forschungsinteressen, die sich optimal ergänzen und komplementär die Komponenten von KI-Systemen abdecken:

Dr. Jan Grenzebach hat das BAuA-Projekt „Metriken zur Messung von Dateneigenschaften beim Training von Hochrisiko KI-Systemen: Grundrechtsgefährdende Verzerrungen in Softwareprodukten verstehen, vorhersagen und vermeiden“ entwickelt. Grundlage für dieses Forschungsprojekt ist ein Beitrag, der auf der Konferenz ECML PKDD 2024 in Vilnius vorgestellt wurde. Gemeinsam mit einem Doktoranden wird er sich den Fragen widmen, wie man die Eigenschaften von Datensätze hinsichtlich der Berücksichtigung von Grundrechtsnormen abschätzen kann. Dazu ist das Forschungsprojekt transdisziplinär aufgebaut, beteiligt neben den Forschungspartnern auch Betriebe und berücksichtigt zeitgemäße gesellschaftlichen Bedarfe. Es sollen zudem innovative Methoden entwickelt werden, die Verzerrungen in Datensätzen reduzieren können.

Dr. Martin Brenzke erarbeitet aktuell Projekte zur Vertrauenswürdigkeit von KI-Systemen, insbesondere im Hochrisikobereich des Algorithmic Management (AM). Schwerpunkt in diesem Themenbereich ist die Wahrung der Privatsphäre und der digitalen Souveränität betroffener Personen. Hierzu werden in einer ersten explorativen Untersuchung die Fragen nach Anwendungsfällen und den konkret verwendeten KI-Systemen im AM untersucht. Auch bereits bestehende betriebliche Richtlinien zum Umgang mit KI im AM sind Teil dieser Untersuchung. So soll in Kooperation mit Beschäftigtenvertretungen zunächst ermittelt werden, welche Bedarfe an den Schutz der digitalen Souveränität der Beschäftigten bestehen und wie diese im Folgenden umgesetzt werden können.

Dr. Marco Wilhelm entwickelt derzeit Forschungsprojekte, die wissensbasierte KI mit den Themen der BAuA verknüpfen. Im Zentrum steht die Frage, wie logikbasierte KI-Verfahren mithilfe netzbasierter Methoden für die Verarbeitung großer Wissensmengen nutzbar gemacht werden können. Ein wesentlicher Vorteil dieser Ansätze liegt in ihrer inhärenten Fähigkeit, nachvollziehbare und vertrauenswürdige Schlussfolgerungen zu ermöglichen. Langfristig sollen die gewonnenen Erkenntnisse auch auf datengetriebene KI-Methoden des Maschinellen Lernens übertragen werden. Darüber hinaus setzt sich Marco Wilhelm dafür ein, die BAuA und ihre Forschungsschwerpunkte stärker in der nordrhein-westfälischen KI-Landschaft, insbesondere am Standort Dortmund, zu verankern.

Ausblick

Gemeinsam mit der Nachwuchsforschungsgruppe KI wollen wir in Zukunft innovative Forschungsprojekte planen und realisieren. Dies konnte bereits in einer ersten interdisziplinären Zusammenarbeit umgesetzt werden (s. entsprechender Blogbeitrag).

Wir sind ein altersmäßig junges Team innerhalb der BAuA und freuen uns, in Kooperationsprojekten auf die Erfahrung der etablierten Kolleginnen und Kollegen zurückzugreifen und selbst Impulse für neueste Entwicklungen in Bezug auf KI geben zu können. Die KI bringt bereits viele Werkzeuge mit, um verschiedene Arbeiten leichter und sicherer zu bewältigen. Sie wird auch als Werkzeug des Arbeitsschutzes, beispielsweise in der Gefährdungsbeurteilung, eine Rolle spielen. Das menschliche Bedürfnis nach Gemeinschaft kann die KI jedoch nur teilweise bedienen – entsprechend wird sie als interessanter Gesprächspartner im Erfrischungsbereich noch eine ganze Weile keine Verwendung finden. Aber vielleicht wird sich auch das in zehn Jahren geändert haben, wer weiß?

Zitiervorschlag

Brenzke, Martin, Grenzebach, Jan und Wilhelm, Marco: Das Kernteam der Forschungsgruppe "Künstliche Intelligenz in der Arbeitswelt" stellt sich vor, In: Künstliche Intelligenz [online]. Dortmund: Bundesanstalt für Arbeitsschutz und Arbeitsmedizin. Verfügbar unter: https://www.baua.de/DDE/Forschung/Projektblogs/KI-Blog/Artikel/KI-Kernteam