Masterarbeit im Bereich der sicheren Softwareentwicklung

vor 2 Monaten

Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

Überblick

Wir suchen motivierte Studierende, die sich für die Analyse von Sicherheitsanfälligkeiten interessieren und dabei modernste Technologien einsetzen möchten. Diese Masterarbeit befindet sich an der Schnittstelle zwischen Künstlicher Intelligenz und der Sicherheit von Software.

Herausforderung

Traditionelle Schwachstellenscanner sind effektiv darin, potenzielle Sicherheitslücken im Binärcode zu identifizieren. Allerdings können sowohl falsch-positive als auch irrelevante Ergebnisse auftreten. Letztere sind zwar technisch korrekt, können jedoch nicht für einen tatsächlichen Angriff ausgenutzt werden, beispielsweise weil die entsprechende Schwachstelle bestimmte Vorbedingungen erfordert, die nicht eintreten können. Die manuelle Überprüfung der Vielzahl an Scanner-Ergebnissen ist besonders in großen und komplexen Softwareprojekten nicht skalierbar.

Ziel der Arbeit

Um dieses Problem zu adressieren, möchten wir in dieser Forschungsarbeit Künstliche Intelligenz einsetzen, um Schwachstellen zu validieren. Hierbei nutzen wir die detaillierten Daten eines hochwertigen statischen Scanners und die Fähigkeit großer generativer KI-Modelle, neue Antworten einschließlich (Exploit-)Code zu generieren. Wenn es gelingt, die Schwachstelle auszunutzen, gilt sie als validiert und muss vom Entwickler priorisiert behoben werden. Kann sie nicht validiert werden, wollen wir durch interaktive Prompting-Techniken versuchen, das KI-Modell mit zusätzlichen Informationen zu versorgen, um entweder doch noch einen Exploit zu erhalten oder eine ausreichende Zuversicht in die Nichtausnutzbarkeit der Schwachstelle zu erlangen.

Technische Ressourcen

Für diese Arbeit stehen neben GPT-4 auch verschiedene Open Source-Modelle zur Verfügung. Wir stellen die notwendigen Ressourcen für Experimente mit großen Open Source KI-Modellen bereit. Unser hauseigener Scanner VUSC wird als Schwachstellenscanner eingesetzt.

Was Sie erwarten können

  • Entwicklung einer Methode zur Validierung von Sicherheitsanfälligkeiten mittels KI auf Basis der Ergebnisse des Schwachstellenscanners.
  • Durchführung von Experimenten und Auswertung der Ergebnisse.

Was Sie mitbringen sollten

  • Studierende im Bereich Informatik, IT-Sicherheit oder einem verwandten Fachgebiet.
  • Kenntnisse in der Softwaresicherheit und Verständnis klassischer Schwachstellen (z.B. SQL Injection, XSS, Missbrauch von Krypto-APIs).
  • Erfahrung im Umgang mit KI-Modellen (insbesondere GPT) und KI-Frameworks (insbesondere DeepSpeed) sind von Vorteil.
  • Erfahrung mit statischer Codeanalyse ist wünschenswert.

Was wir bieten

  • Flexible Arbeitszeiteinteilung.
  • Einblicke in die Schnittstelle zwischen akademischer Forschung und industrieller Anwendung.

Wir schätzen und fördern die Vielfalt der Kompetenzen unserer Mitarbeitenden und begrüßen daher alle Bewerbungen – unabhängig von Alter, Geschlecht, Nationalität, ethnischer und sozialer Herkunft, Religion, Weltanschauung, Behinderung sowie sexueller Orientierung und Identität. Schwerbehinderte Menschen werden bei gleicher Eignung bevorzugt eingestellt.

Die Fraunhofer-Gesellschaft spielt eine zentrale Rolle im Innovationsprozess, indem sie sich auf zukunftsrelevante Schlüsseltechnologien konzentriert und die Ergebnisse in Wirtschaft und Industrie umsetzt.

Haben wir Ihr Interesse geweckt?

  • Masterarbeit im Bereich Sichere Softwareentwicklung

    vor 3 Monaten

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    ÜberblickWir suchen motivierte Studierende, die sich für die Analyse von Sicherheitsanfälligkeiten interessieren und dabei modernste Technologien einsetzen möchten. Diese Masterarbeit liegt an der Schnittstelle zwischen Künstlicher Intelligenz und Softwaresicherheit.HerausforderungTraditionelle Schwachstellenscanner sind effektiv darin, potenzielle...

  • Masterarbeit im Bereich Sichere Softwareentwicklung

    vor 3 Monaten

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    ÜberblickWir suchen motivierte Studierende, die sich für die Analyse von Sicherheitsanfälligkeiten interessieren und moderne Technologien in ihrer Forschung einsetzen möchten. Diese Masterarbeit wird an der Schnittstelle zwischen Künstlicher Intelligenz und Softwaresicherheit durchgeführt.HerausforderungTraditionelle Schwachstellenscanner sind effektiv...

  • Masterarbeit im Bereich Sichere Softwareentwicklung

    vor 2 Monaten

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    ÜberblickWir suchen motivierte Studierende, die sich für die Analyse von Sicherheitsanfälligkeiten interessieren und dabei modernste Technologien einsetzen möchten. Diese Masterarbeit liegt an der Schnittstelle zwischen Künstlicher Intelligenz und Softwaresicherheit.HerausforderungTraditionelle Schwachstellenscanner sind effektiv darin, potenzielle...

  • Masterarbeit im Bereich Sichere Softwareentwicklung

    vor 2 Monaten

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    ÜberblickWir suchen motivierte Studierende, die sich für die Analyse von Sicherheitsanfälligkeiten interessieren und moderne Technologien in ihrer Forschung einsetzen möchten. Diese Masterarbeit wird an der Schnittstelle zwischen Künstlicher Intelligenz und Softwaresicherheit durchgeführt.HerausforderungTraditionelle Schwachstellenscanner sind effektiv...

  • Masterarbeit im Bereich Sichere Softwareentwicklung

    vor 3 Monaten

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    ÜberblickWir suchen motivierte Studierende, die sich für die Analyse von Sicherheitsanfälligkeiten interessieren und moderne Technologien einsetzen möchten. Diese Masterarbeit liegt an der Schnittstelle zwischen Künstlicher Intelligenz und Softwaresicherheit.ProblemstellungTraditionelle Schwachstellenscanner sind effektiv darin, potenzielle...

  • Masterarbeit im Bereich Sichere Softwareentwicklung

    vor 2 Monaten

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    ÜberblickWir suchen motivierte Studierende, die sich für die Analyse von Sicherheitsanfälligkeiten interessieren und moderne Technologien einsetzen möchten. Diese Masterarbeit liegt an der Schnittstelle zwischen Künstlicher Intelligenz und Softwaresicherheit.ProblemstellungTraditionelle Schwachstellenscanner sind effektiv darin, potenzielle...

  • Masterarbeit im Bereich der sicheren Softwareentwicklung

    vor 2 Monaten

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    ÜberblickWir suchen motivierte Studierende, die sich für die Analyse von Sicherheitsanfälligkeiten interessieren und moderne Technologien einsetzen möchten. Diese Masterarbeit beschäftigt sich mit der Schnittstelle zwischen Künstlicher Intelligenz und der Sicherheit von Software.HerausforderungTraditionelle Schwachstellenscanner sind effektiv darin,...

  • Masterarbeit im Bereich der sicheren Softwareentwicklung

    vor 3 Monaten

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    ÜberblickWir suchen motivierte Studierende, die sich für die Analyse von Sicherheitsanfälligkeiten interessieren und moderne Technologien einsetzen möchten. Diese Masterarbeit beschäftigt sich mit der Schnittstelle zwischen Künstlicher Intelligenz und der Sicherheit von Software.HerausforderungTraditionelle Schwachstellenscanner sind effektiv darin,...

  • Backend-Entwickler für Sicherheitsanalysewerkzeuge

    vor 4 Wochen

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    StellenbeschreibungWir suchen eine studentische Hilfskraft im Bereich Java-Entwicklung für Sicherheitsanalysewerkzeuge. Die Stelle ist zunächst befristet für 6 Monate, aber wir streben eine längerfristige Zusammenarbeit an.Was Du tun wirstDie Weiterentwicklung des Backends unserer bestehenden innovativen Sicherheitsanalysewerkzeuge mit JavaDie...

  • Backend-Entwickler für Sicherheitsanalysewerkzeuge

    vor 4 Wochen

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    StellenbeschreibungWir suchen eine studentische Hilfskraft im Bereich Java-Entwicklung für Sicherheitsanalysewerkzeuge. Die Stelle ist zunächst befristet für 6 Monate, aber wir streben eine längerfristige Zusammenarbeit an.Was Du tun wirstDie Weiterentwicklung des Backends unserer bestehenden innovativen Sicherheitsanalysewerkzeuge mit JavaDie...

  • Werkstudierende im Bereich Künstliche Intelligenz und Sicherheit

    vor 2 Wochen

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    ÜberblickWir suchen eine Werkstudierende im Bereich Künstliche Intelligenz und Sicherheit, um bei der Entwicklung von Computer-Vision-Ansätzen zu unterstützen. Als Teil des Fraunhofer-Instituts für Sichere Informationstechnologie SIT werden Sie an der Entwicklung von Lösungen für die Cyber-Sicherheit beteiligt.Was Du tun wirstUnterstützung bei der...

  • Werkstudierende im Bereich Künstliche Intelligenz und Sicherheit

    vor 2 Wochen

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    ÜberblickWir suchen eine Werkstudierende im Bereich Künstliche Intelligenz und Sicherheit, um bei der Entwicklung von Computer-Vision-Ansätzen zu unterstützen. Als Teil des Fraunhofer-Instituts für Sichere Informationstechnologie SIT werden Sie an der Entwicklung von Lösungen für die Cyber-Sicherheit beteiligt.Was Du tun wirstUnterstützung bei der...

  • Sicherheitsforscher im Bereich KI

    vor 2 Monaten

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    ProjektbeschreibungWir suchen engagierte Studierende, die sich für die Erforschung von Sicherheitslücken in Software interessieren und dabei die modernsten Technologien nutzen möchten. In dieser Masterarbeit werden wir KI-Modelle nutzen, um Schwachstellen in Software zu verifizieren.Was du tun wirstEntwicklung einer Methode zur Verifikation von...

  • Sicherheitsforscher im Bereich KI

    vor 2 Monaten

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    ProjektbeschreibungWir suchen engagierte Studierende, die sich für die Erforschung von Sicherheitslücken in Software interessieren und dabei die modernsten Technologien nutzen möchten. In dieser Masterarbeit werden wir KI-Modelle nutzen, um Schwachstellen in Software zu verifizieren.Was du tun wirstEntwicklung einer Methode zur Verifikation von...

  • Backend-Entwickler für Sicherheitsanalysewerkzeuge

    vor 1 Monat

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    Wir suchen eine studentische Hilfskraft im Bereich Java-Entwicklung für Sicherheitsanalysewerkzeuge. Als Teil unseres Teams werden Sie an der Weiterentwicklung von innovativen Sicherheitsanalysewerkzeugen mit Java beteiligt sein.Was Sie tun werden:Weiterentwicklung des Backends unserer bestehenden innovativen Sicherheitsanalysewerkzeuge mit...

  • Backend-Entwickler für Sicherheitsanalysewerkzeuge

    vor 1 Monat

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    Wir suchen eine studentische Hilfskraft im Bereich Java-Entwicklung für Sicherheitsanalysewerkzeuge. Als Teil unseres Teams werden Sie an der Weiterentwicklung von innovativen Sicherheitsanalysewerkzeugen mit Java beteiligt sein.Was Sie tun werden:Weiterentwicklung des Backends unserer bestehenden innovativen Sicherheitsanalysewerkzeuge mit...

  • Werkstudierende im Bereich Künstliche Intelligenz und Sicherheit

    vor 4 Wochen

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    JobbeschreibungWir suchen eine Werkstudierende im Bereich Künstliche Intelligenz und Sicherheit, um bei der Entwicklung von Computer-Vision-Ansätzen zu unterstützen.VerantwortlichkeitenUnterstützung bei der Entwicklung von Computer-Vision-Ansätzen zur Objekterkennung, Bildbeschreibung und BildsegmentierungSichtung und Analyse von sensiblen Inhalten im...

  • Werkstudierende im Bereich Künstliche Intelligenz und Sicherheit

    vor 4 Wochen

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    JobbeschreibungWir suchen eine Werkstudierende im Bereich Künstliche Intelligenz und Sicherheit, um bei der Entwicklung von Computer-Vision-Ansätzen zu unterstützen.VerantwortlichkeitenUnterstützung bei der Entwicklung von Computer-Vision-Ansätzen zur Objekterkennung, Bildbeschreibung und BildsegmentierungSichtung und Analyse von sensiblen Inhalten im...

  • Backend-Entwickler für Sicherheitsanalysewerkzeuge

    vor 3 Wochen

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    Wir suchen eine studentische Hilfskraft im Bereich Java-Entwicklung für Sicherheitsanalysewerkzeuge. Als Teil unseres Teams wirst du an der Weiterentwicklung von Backends unserer bestehenden innovativen Sicherheitsanalysewerkzeuge mit Java arbeiten.Was Du bei uns tust:Weiterentwicklung des Backends unserer bestehenden innovativen Sicherheitsanalysewerkzeuge...

  • Backend-Entwickler für Sicherheitsanalysewerkzeuge

    vor 3 Wochen

    Darmstadt, Hessen, Deutschland Fraunhofer-Gesellschaft Vollzeit

    Wir suchen eine studentische Hilfskraft im Bereich Java-Entwicklung für Sicherheitsanalysewerkzeuge. Als Teil unseres Teams wirst du an der Weiterentwicklung von Backends unserer bestehenden innovativen Sicherheitsanalysewerkzeuge mit Java arbeiten.Was Du bei uns tust:Weiterentwicklung des Backends unserer bestehenden innovativen Sicherheitsanalysewerkzeuge...