Track B
„Wie kann KI gefährliche Situationen frühzeitig erkennen, ohne die Grundrechte Unbeteiligter zu verletzen?"
Eine Sicherheitsarchitektur, die kollektive Anomalien erkennt, statt Personen zu kategorisieren. Civil-Liberties by Design, nicht als Add-on.
Motivation
Im Spannungsfeld zwischen Sicherheit und Grundrechten gibt es keine technische Lösung, die fertig ist. Klassische Predictive-Policing-Systeme operieren mit personenbezogenen Risikoscores; Art. 5 Abs. 1 lit. d der KI-Verordnung verbietet genau das. Mit Art. 5 Abs. 1 lit. h sind auch biometrische Fernidentifikationen im öffentlichen Raum mit engen Ausnahmen belegt.
Die Frage ist also nicht, wie man die Verbote umgeht, sondern wie eine Architektur aussieht, die unter diesen Verboten überhaupt nützlich sein kann. Diese Forschung antwortet mit einer Methodik, die kollektive Dynamiken statt einzelner Personen modelliert — und die das Schützen der Helfenden (statt das Klassifizieren von Verdächtigen) zur expliziten Zielfunktion macht.
Die anwendungsorientierte Ausrichtung dieses Tracks ist durch eigene operative Erfahrung im Bevölkerungs- und Katastrophenschutz (BOS) geprägt — Einsatzrealität dient als Korrektiv gegenüber rein theoretischen Annahmen.
Methodischer Ansatz
Statt deterministischer Personenklassifikation erzeugt das Three-Outlier-Modell ausschließlich kalibrierte probabilistische Indikationen statistischer Auffälligkeiten in kollektiven Dynamiken. Es gibt keine Personen-Labels, keine biometrische Identifikation, keine Verdachts-Generierung — nur ein Hinweissystem für menschliche Entscheider.
Die zweite tragende Säule ist Helper-Schutz als Zielfunktion: Das System ist darauf optimiert, hilfsbereites Verhalten zu erkennen und zu sichern, nicht Verdachtsfälle zu produzieren. Diese Umkehrung der Zielrichtung verändert die gesamte Architektur — von der Annotation bis zur Schwellenkalibrierung.
Verarbeitungsprinzip
Die Verarbeitungskette ist grundrechtswahrend ausgelegt: Aus aggregierten Bewegungs- und Dichtemustern entsteht ein kalibrierter, probabilistischer Hinweis — kein Personen-Label. Die Entscheidung trifft stets ein Mensch.
Aggregierte Muster, keine Identitäten — keine biometrische Identifikation, keine Personenverfolgung.
Das Modell visuell
Das Three-Outlier-Modell unterscheidet Rollen in einer Krisensituation, statt Personen zu klassifizieren. Helfende werden strukturell geschützt; grundrechtswahrende Guardrails sind in die Architektur eingeschrieben.
Kernkomponenten
Unterscheidet drei Rollen in einer Krisensituation: Source (Auslösende), Helper (Intervenierende, Helfende) und Knower (kontextualisiert reagierende Beobachter). Die Rollendifferenzierung schützt Helfende strukturell davor, als Auslösende fehlklassifiziert zu werden.
Optimierung nicht auf Verdacht, sondern auf das Erkennen und Sichern hilfsbereiten Verhaltens. Dreht die Erkennungs-Logik um.
Annotationsschemata sind so konzipiert, dass weder Gesichts- noch Gang- noch Stimmmerkmale erhoben werden. Datenminimierung als Architekturentscheidung.
Acht im Forschungsethik-Dokument festgelegte methodische Korrektionen, die jede Implementierung dieser Architektur erfüllen muss. Bilden die Civil-Liberties-Architektur ab.
Wahrscheinlichkeitsaussagen werden kalibriert auf öffentlich verfügbaren Aufzeichnungen dokumentierter Vorfälle. Kein Training auf personenbezogenen Daten ohne Forschungsklausel.
Vorgesehen sind Notified-Body-Vorprüfungen sowie juristische Gutachten zur Grundrechtskonformität der Architektur. Die konkret sondierten Stellen sind auf der Forschungsethik-Seite benannt.
Rechtsrahmen
Mitwirken
Hochschulen mit Schwerpunkt Public Safety, Behörden auf BMI-/BSI-/BBK-Ebene und Forschungsverbünde in den Linien BMBF SIFO und Horizon Europe Cluster 3 sind ausdrücklich eingeladen, mit uns Kontakt aufzunehmen.
public-sector@zensation.aiMehr aus dieser Forschung
Kern und Anwendungsfelder, auf gemeinsamer ethischer Grundlage.