EinleitungDas Verbundprojekt ist interdisziplinär, im Schnittbereich von Erklärbarer Künstlicher Intelligenz und Kognitionsforschung, ausgerichtet. Im am bidt verorteten Teilprojekt sollen Methoden des erklärenden interaktiven Lernens im Kontext von Klassifikationsmodellen mit Fokus auf Empfehlungssystemen in der medizinischen Diagnostik umgesetzt und deren Wirksamkeit empirisch überprüft werden. Hierbei werden einerseits tabellarische Daten und andererseits Bilddaten untersucht. Ziel ist die Gewinnung von Erkenntnissen bezüglich des Einflusses von Erklärbarkeit und Interaktivität auf die adäquate Kalibrierung von Vertrauen in KI-basierte Systemempfehlungen. Für die genutzten Modelle und basierend auf den generierten Ergebnissen soll dann genauer untersucht werden, welchen Einfluss die Art der Erklärung auf das Vertrauen und die Performanz der Nutzer hat. Die gewählte Art der Erklärung wird von der Art der zugrundeliegenden Daten abhängen. Hierbei können relevanzbasierte, konzeptbasierte und beispielbasierte Erklärungen gewählt werden. Basierend auf den Erkenntnissen aus den empirischen Arbeitspaketen soll ein Prototyp für ein partnerschaftliches KI-System umgesetzt werden. Es ist dabei geplant möglichst generische Schnittstellen zu entwickeln, um die Erklärungs- und Interaktionsformen modular und kombinierbar zu machen. Der Prototyp soll in Form einer Webapplikation breiten Kreisen als Demonstrator zur Verfügung gestellt werden.
Das Projekt wird von der bidt-Direktorin Prof. Dr. Ute Schmid betreut. Eine enge Kooperation mit dem Lehrstuhl für Kognitive Systeme an der Universität Bamberg sowie dem Bamberger Zentrum für Künstliche Intelligenz (BaCAI) ermöglicht einen Austausch mit Wissenschaftlerinnen und Wissenschaftlern in einem breiten methodischen Spektrum der KI-Forschung.Position Wissenschaftliche:n Mitarbeiter:in (Postdoc) im Bereich Künstliche Intelligenz für das BMBF-Verbundprojekt „Ethische Implikationen hybrider Teams aus Mensch und KI-System (Ethyde)“ (m/w/d) Ihre Aufgaben
Forschung im Bereich erklärbare Künstliche Intelligenz mit Fokus auf der Umsetzung von relevanzbasierten, konzeptbasierten und beispielbasierten Ansätzen sowie Nutzung von Feedback zur Modellrevision
• Selbständige Umsetzung der Forschungsarbeiten im Projekt in engem interdisziplinären Austausch
• Kooperation und regelmäßiger Austausch mit den Verbundpartnern des Projekts
• Anfertigen von wissenschaftlichen Publikationen und Beiträgen für Fachtagungen
• Einbringen des Themas und Beteiligung an Veranstaltungen und Publikationen am bidt zur Wissenschaftskommunikation
• Gelegenheit zur wissenschaftlichen Weiterqualifikation im Rahmen des Projekts

Wir haben dein Interesse geweckt? Dann bewirb dich jetzt in nur 3 Minuten mit hokify