Videoanalyse mit Hilfe künstlicher Intelligenz zur Detektion von falschen und manipulierten Identitäten (FAKE-ID)

Ziel des Vorhabens FAKE-ID ist es, Angriffsmöglichkeiten und Fälschungen von Bildern und Videos zu untersuchen und eine Softwareplattform zu ihrer Identifizierung mit Hilfe künstlicher Intelligenz (KI) zu entwickeln. Zunächst werden die technischen Grund lagen für die Plattform festgelegt und IT-Verfahren zur Erzeugung von "Deep Fakes" analysiert. Auf dieser Grundlage werden Algorithmen daraufhin trainiert, falsche und manipulierte Identitäten zu identifizieren.
Die Ergebnisse fließen in eine rechtskonforme und an ethischen Leitlinien orientierte Entscheidungsunterstützung für Sicherheits- und Justizbehörden ein. Mitdieser können Hinweise auf Fälschungen in Bild- undVideodaten von Mitarbeiterinnen und Mitarbeiternüberprüft werden.