Expert in Für Ki-prüfverfahren

Die Fraunhofer-Gesellschaft betreibt in Deutschland derzeit 76 Institute und Forschungseinrichtungen und ist eine der führenden Organisationen für anwendungsorientierte Forschung. Rund 32 000 Mitarbeitende erarbeiten das jährliche Forschungsvolumen von 3,4 Milliarden Euro.

Die Fraunhofer-Gesellschaft betreibt in Deutschland derzeit 76 Institute und Forschungseinrichtungen und ist die weltweit führende Organisation für anwendungsorientierte Forschung. Rund 30 800 Mitarbeitende erarbeiten das jährliche Forschungsvolumen von 3,0 Milliarden Euro.

Als Teil der größten Organisation für anwendungsorientierte Forschung in Europa ist das Fraunhofer IAIS mit Sitz in Sankt Augustin bei Bonn eines der führenden Wissenschaftsinstitute auf den Gebieten Künstliche Intelligenz, Maschinelles Lernen und Big Data in Deutschland und Europa. Mit unseren mehr als 350 Mitarbeitenden entwickeln wir für unsere Fördergeber und Kunden aus der Wirtschaft intelligente Lösungen zur Optimierung von Produkten, Dienstleistungen, Prozessen und Strukturen sowie zur Entwicklung neuer digitaler Geschäftsmodelle.

In der neugegründeten Abteilung AI Assurance and Assessments (AAA) realisieren wir leistungsfähige und marktfähige KI-Prüfverfahren, -methoden und -werkzeuge, um KI-Systeme sicher und vertrauenswürdig zu machen. Hierbei beschäftigen uns Fragestellungen wie:

- Wie kann ich beurteilen, ob KI-basierte Kreditvergabesysteme keine Bewerber*innen ungerechtfertigt diskriminiert?
- Wie bringt man ein autonomes Auto dazu, sich an die DSGVO zu halten?
- Wie kann man die Entscheidungen von KI-basierten medizinischen Diagnosetools als Mensch nachvollziehen?
- Wie kann ich KI-Systeme resilient gegenüber gezielten Manipulationen gestalten?

Ein Schwerpunkt unserer aktuellen Forschung liegt dabei aktuell auf der Operationalisierung der Europäischen KI-Regulierung. Zu unseren Kunden gehören weltweit tätige Technologiekonzerne, Behörden, DAX 40 Unternehmen, Beratungsgesellschaften genauso wie Mittelständler und Start-ups.

Wir suchen exzellente angewandte Forscher*innen, die Lust haben, die Rahmenbedingungen für einen vertrauenswürdigen Einsatz von KI mitzugestalten.

**Was Sie bei uns tun**
- Übersetzung von regulatorischen Vorgaben, wie etwa der KI-Verordnung, in technische Anforderungen an KI-Systeme
- Erarbeitung und Weiterentwicklung von Prüfkriterien zur Evaluierung der Qualität von KI-Systemen
- Konzeption und Entwicklung von KI-Prüfwerkzeugen
- Durchführung von KI-Prüfungen für konkrete Use Cases
- Beratung von Kunden (Behörden, Industriepartner, Wissenschaftliche Einrichtungen) zum vertrauenswürdigen Einsatz von KI
- Standardisierung von Forschungsergebnissen

**Was Sie mitbringen**
- Abgeschlossenes wissenschaftliches Hochschulstudium (Master, Diplom) der Informatik, Physik oder Mathematik mit ausgezeichnetem Abschluss an einer Universität mit internationalem Renommee, gerne mit Promotion, sowie Bewerber*innen aus verwandten Fächern (z.B. Rechtsinformatik) wenn Sie entsprechende Vorkenntnisse mitbringen
- Vorkenntnisse in den Bereichen Data Science, Maschinelles Lernen und Künstliche Intelligenz
- Idealerweise Vorkenntnisse in den Bereichen der Europäischen KI-Verordnung sowie der bestehenden Standards im Bereich KI
- Idealerweise Vorkenntnisse in bestehenden Prüfverfahren in den Bereichen von Informationssicherheit, Safety oder Sicherheitseigenschaften von IT-Produkten
- Exzellente analytische Fähigkeiten, Freude an abstraktem Denken und konzeptionellem Arbeiten
- Hohe Einsatzfreude und Belastbarkeit sowie die Bereitschaft, sich schnell in neue Sachverhalte einzuarbeiten
- Freude daran, komplizierte technische Zusammenhänge für unterschiedliche Stakeholder aufzubereiten
- Starkes Interesse an interdisziplinären Fragestellungen
- Strukturiertes Arbeiten und professionelles Auftreten
- Sehr gute Deutschkenntnisse (mind auf Niveau C1)

**Was Sie erwarten können**
- Zukunftsweisende Innovationsprojekte, in denen wir gemeinsam mit unseren Kunden und Partnern unbekanntes Terrain betreten, das heißt: viel Gestaltungsspielraum, eine hochgradig kreative Arbeit, Kooperationen mit Dax-30-Unternehmen, Hidden Champions des deutschen Mittelstands und Tech-StartUps
- Anwendungsnahe Forschung auf Spitzenniveau innerhalb eines bundesdeutschen Kompetenzzentrums für das Maschinelle Lernen und die Möglichkeit zur wissenschaftlichen Weiterqualifikation
- Die Chance, ein breites Kompetenzspektrum aufzubauen und Verantwortung zu übernehmen: bei Fraunhofer zu arbeiten heißt, Generalist zu sein: von der Projektakquise, über die Planung und eigentliche Projektdurchführung bis hin zur Ergebnispräsentation, in unterschiedliche Branchen, vom StartUp bis zum internationalen Konzern.
- Mitarbeit in einem interdisziplinären Team aus Informatiker*innen, Mathematiker*innen, Physiker*innen sowie Rechtswissenschaftler*innen
- Möglichkeiten, Studenten/innen zu betreuen und als Dozent/in in dem Data Science Schulungsprogramm von Fraunhofer IAIS tätig zu sein - Routinetätigkei