Researcher (m/w/d/x) GenAI Risk Assessment and Mitigation
Vor 7 Tagen
Zu den Forschungsaufgaben der ausgeschriebenen Stellen gehören die Entwicklung und Untersuchung von Methoden zur Bewertung und Reduktion von Risiken fortgeschrittener KI-Systeme, insbesondere General Purpose AI (GPAI) und generativer Modelle. Ein Schwerpunkt liegt auf AI Safety sowie der systematischen Analyse von Fehlfunktionen, unerwünschten Verhaltensweisen und Sicherheitslücken in modernen Sprach-, Bild- und Videomodellen. Dies umfasst sowohl die theoretische Fundierung als auch die empirische Evaluierung von Modellen und Safeguards, etwa durch Auditing-Ansätze, Red-Team-Methoden und strukturiertes Safety-Testing. Ein zentrales Ziel ist die Entwicklung innovativer Sicherheitsmechanismen, Monitoring-Ansätze und Schutzmaßnahmen, die eine verantwortungsvolle und sichere Nutzung fortgeschrittener KI-Technologien ermöglichen.
Ihre Aufgaben
- Entwicklung und Untersuchung von Methoden zur Bewertung und Reduktion von Risiken fortgeschrittener KI-Systeme, insbesondere General Purpose AI (GPAI) und generativer Modelle
- Zusammenarbeit mit Forschungspartnern auf dem Gebiet der systematischen KI
- Mitarbeit bei der Durchführung nationaler und internationaler Forschungs- und Entwicklungsprojekte (z.B. BMFTR, BMWE, EU, Industrie)
Unsere Anforderungen
- Überdurchschnittlicher Abschluss in Informatik oder verwandten Gebieten (Master oder vergleichbar)
- Sehr gute Kenntnisse im maschinellen Lernen
- Sehr gute mathematische Kenntnisse, insb. Lineare Algebra und Statistik
- Hervorragende Programmierkenntnisse
- Englischkenntnisse in Wort und Schrift (mind. Sprachniveaustufe B1)
- Kreativität und Ausdauer
Weiterhin Sind Wünschenswert
- Fundierte Kenntnisse im Bereich AI Safety / Trustworthy AI, z. B. Alignment, Robustness, Interpretierbarkeit oder Risk Assessment
- Erfahrung in der Entwicklung und Evaluierung großer generativer Modelle (Text oder Bild)
- Erfahrungen mit verschiedenen generativen Architekturen, wie z. B. autoregressiven und diffusionsbasierten Modellen
Was Sie erwarten können
- Eigenverantwortliches Arbeiten
- Die Möglichkeit der Promotion ist gegeben
- Mitarbeit in Forschungs- und Industrieprojekten
- Ein innovatives, agiles und professionelles Arbeitsumfeld sowie exzellente Ausstattung
- Flexible Arbeitszeitmodelle zur besseren Vereinbarkeit von Familie und Beruf
- Umfangreiche Fort- und Weiterbildungsmöglichkeiten
- Attraktive Angebote im Rahmen des Campus der TU Darmstadt, wie z.B. Weiterbildungen im Rahmen des Förderprogramms für Nachwuchswissenschaftler*innen Ingenium
Das Deutsche Forschungszentrum für Künstliche Intelligenz GmbH (DFKI) wurde 1988 als gemeinnützige Public-Private-Partnership (PPP) gegründet. Das DFKI verbindet wissenschaftliche Spitzenleistung und wirtschaftsnahe Wertschöpfung mit gesellschaftlicher Wertschätzung. Das DFKI forscht seit über 35 Jahren an KI für den Menschen und orientiert sich an gesellschaftlicher Relevanz und wissenschaftlicher Exzellenz in den entscheidenden zukunftsorientierten Forschungs- und Anwendungsgebieten der Künstlichen Intelligenz. In der internationalen Wissenschaftswelt zählt das DFKI zu den wichtigsten "Centers of Excellence".
Schwerbehinderte Bewerberinnen und Bewerber und Gleichgestellte werden bei gleicher Eignung besonders berücksichtigt. Das DFKI beabsichtigt, den Anteil von Frauen im Wissenschaftsbereich zu erhöhen und fordert deshalb Frauen ausdrücklich auf, sich zu bewerben.
-
Specialist ICT Risk Assurance
Vor 2 Tagen
Frankfurt am Main, Hessen, Deutschland Deutsche Börse Vollzeit 80.000 € - 120.000 € pro JahrYour career at Deutsche Börse GroupYour area of work:The department Chief ICT Risk Officer / CISO combines IT & IS Risk Management in the 2nd Line of Defense. The department's mandate is to set the IT and IS risk governance and framework, set the control objectives, control review methodology and risk assessment methodology, conduct independent risk...
-
GenAI Solutions Architect
vor 1 Tag
Frankfurt am Main, Hessen, Deutschland Unit8 SA Vollzeit 80.000 € - 130.000 € pro JahrWho We AreFounded in 2017, Unit8 is a fast-growing Swiss AI and data analytics consulting and services company dedicated to solving complex problems of traditional industries like automotive, chemical, financial services, manufacturing and pharma. We work with some of the biggest organisations in Europe to solve the challenges that directly affect their...
-
Risk Regulatory Oversight Manager
vor 1 Woche
Frankfurt am Main, Hessen, Deutschland Barclays Vollzeit 120.000 € - 150.000 € pro JahrJob DescriptionPurpose of the roleTo provide independent review and challenge of the Operational Risk elements of particular risk categories across the bank. Ensuring they are carried out in accordance with Barclays Operational Risk Framework, Policies, and StandardsAccountabilitiesRisk identification and proactive risk management, identifying...
-
Frankfurt am Main, Hessen, Deutschland Goldman Sachs Vollzeit 60.000 € - 120.000 € pro JahrJob DescriptionRISKOur Risk division develops comprehensive processes to monitor, assess, and manage the risk of expected and unexpected events that may have an adverse impact on the firm. Risk professionals execute critical day-to-day risk management activities, lead projects, and contribute to the ongoing advancement of a robust risk management program....
-
Frankfurt am Main, Hessen, Deutschland Goldman Sachs Vollzeit 60.000 € - 120.000 € pro JahrRISKOur Risk division develops comprehensive processes to monitor, assess, and manage the risk of expected and unexpected events that may have an adverse impact on the firm. Risk professionals execute critical day-to-day risk management activities, lead projects, and contribute to the ongoing advancement of a robust risk management program. Effective...
-
Credit Risk Controller
vor 2 Wochen
Frankfurt am Main, Hessen, Deutschland Raisin Bank AG Vollzeit 90.000 € - 120.000 € pro JahrAbout Raisin BankAs part of the Raisin family, Raisin Bank combines the best of both worlds: the experience and security of a bank, with the flexibility and innovation of a start-up. Our team is just as diverse as our partners. If you are looking for a dynamic environment in which you can play to your strengths and develop further, then you have come to the...
-
Risk, Regulatory Engagement, Analyst, Frankfurt
vor 2 Wochen
Frankfurt am Main, Hessen, Deutschland Goldman Sachs Vollzeit 60.000 € - 120.000 € pro JahrJob DescriptionRegulatory Engagement – Analyst, FrankfurtYOUR IMPACTAs a member of the Risk Division's Regulatory Engagement team in Frankfurt, you will play a key role in the oversight and implementation of relevant risk management regulation and processes across risk functions, as well as regional and legal entity governance in the EMEA region. You will...
-
Risk, Regulatory Engagement, Analyst, Frankfurt
Vor 7 Tagen
Frankfurt am Main, Hessen, Deutschland Goldman Sachs Vollzeit 60.000 € - 120.000 € pro JahrDescriptionRegulatory Engagement – Analyst, FrankfurtYOUR IMPACTAs a member of the Risk Division's Regulatory Engagement team in Frankfurt, you will play a key role in the oversight and implementation of relevant risk management regulation and processes across risk functions, as well as regional and legal entity governance in the EMEA region. You will be...
-
Frankfurt am Main, Hessen, Deutschland Deutsche Börse Group VollzeitYour area of workAs an intern / working student in the Group Risk Framework & Quantification team, you will support a team in the Group Risk Management function, an integral component of the management and control of Deutsche Börse Group. Effective and efficient risk management safeguards the Group's continued existence and enables it to achieve its...
-
Director, OTCR, Third Party Risk Manager
vor 1 Tag
Frankfurt am Main, Hessen, Deutschland Standard Chartered Bank Vollzeit 100.000 € - 150.000 € pro JahrJob ID: 44079Location: Frankfurt, DEArea of interest: Governance, Risk Management & ComplianceJob type: Regular EmployeeWork style: Office WorkingOpening date: 13 Nov 2025Job SummaryWe are seeking a highly skilled and motivated Director, Third Party Risk Manager to join our Operational & Technology Risk (OTCR) team. This role operates within the Second Line...
