VIKING untersucht, wie Methoden der Künstlichen Intelligenz in polizeilichen Ermittlungsverfahren verantwortungsvoll eingesetzt werden können. Bei komplexen Verfahren können große Mengen digitaler Daten anfallen. KI-basierte Verfahren können Fachleute bei der Analyse unterstützen, müssen jedoch zuverlässig, nachvollziehbar und rechtlich überprüfbar sein.

Im Mittelpunkt des Projekts steht daher nicht die Entwicklung automatisierter Überwachungs- oder Entscheidungssysteme. VIKING erforscht vielmehr technische und methodische Ansätze, mit denen die Genauigkeit, Robustheit, Transparenz und Erklärbarkeit von KI-Systemen geprüft und verbessert werden können. Dabei werden auch mögliche Verzerrungen in Trainingsdaten, die Fairness der eingesetzten Verfahren und Risiken durch gezielte Angriffe auf KI-Systeme berücksichtigt.

Das Projekt verbindet technische Forschung mit rechtlichen und ethischen Anforderungen. Die entwickelten Ansätze werden exemplarisch anhand von Anwendungen zur Analyse von Bild-, Video-, Text- und Audiodaten untersucht und gemeinsam mit Anwenderinnen und Anwendern evaluiert.

Forschungsfragen

• Wie können KI-basierte Analyseverfahren so gestaltet werden, dass ihre Ergebnisse transparent und nachvollziehbar bleiben?
• Wie lassen sich die Genauigkeit und Robustheit von KI-Systemen systematisch messen und verbessern?
• Wie können Verzerrungen in Daten und Modellen erkannt und reduziert werden?
• Welche rechtlichen und ethischen Anforderungen müssen bei der Entwicklung und Nutzung von KI in polizeilichen Anwendungen berücksichtigt werden?
• Wie lassen sich überprüfbare Standards und Testverfahren für vertrauenswürdige KI entwickeln?

Ausgewählte Ergebnisse

Die Universität Konstanz wirkte als technischer und wissenschaftlicher Koordinator an VIKING mit. Der Beitrag der Forschungsgruppe konzentrierte sich auf Visual Analytics sowie auf Methoden für transparente und erklärbare Künstliche Intelligenz.

Zu den Ergebnissen gehören:

• ein ganzheitliches Rahmenwerk für vertrauenswürdige KI in polizeilichen Anwendungen,
• Methoden zur Untersuchung von Transparenz, Erklärbarkeit und Fairness,
• Beiträge zur Entwicklung von Prüfkatalogen und Testverfahren,
• Beiträge zur DIN SPEC 91517:2025-05 für vertrauenswürdige KI-Methoden in polizeilichen Anwendungen,
• wissenschaftliche Arbeiten zu Explainable AI, Zeitreihenanalyse, Visual Analytics und der interaktiven Untersuchung komplexer Modelle.