Juristinnen, Informatiker, Psychologinnen und Praktiker müssen schon während der Entwicklung gemeinsam reflektieren, welche Verdachtsmomente zulässig sind, welche Transparenz nötig ist und welche ethischen Grenzen gelten. Dieser Meta-Diskurs schafft früh Standards, bevor problematischer Code einsatzreif wird.

Formal entscheidet zwar der Mensch, praktisch folgt er oft blind der Maschine. Wie bei der SCHUFA fragt kaum eine Bank nach, wenn der Score „rot“ zeigt. Diese Technikgläubigkeit kann auch im Strafverfahren dazu führen, dass KI-Ergebnisse unkritisch übernommen werden.

Selbst wenn wir Verbote formulieren, stecken verzerrte historische Daten und verdeckte Korrelationen in den Trainingssätzen. Solange wir nicht wissen, wie wir diese Muster vollständig entfernen, schleppen wir Diskriminierung immer wieder in neue Modelle hinein.

Nach dem ersten Erfolg legen wir Verfassungsbeschwerde gegen das „nachgebesserte“ Gesetz ein – weil es Kernvorgaben weiterhin missachtet. Parallel läuft die Beschwerde zu Nordrhein-Westfalen. Wir wollen endgültig klären, was KI-gestützte Polizeiarbeit darf und was nicht.

Ich gehe mit skeptischem Optimismus: Vielleicht kann eine gut designte, transparente KI systemische menschliche Verzerrungen ausbalancieren. Wenn wir sie kritisch begleiten, könnte sie sogar unwahrscheinliche Unschuldshypothesen sichtbar machen und damit Fairness fördern.

Sobald Beamtinnen eine Hypothese haben, suchen sie bestätigende Indizien und übersehen Entlastendes. Dieser Tunnelblick transportiert sich in die Anklage und weiter vor Gericht. KI, die denselben voreingenommenen Datentopf auswertet, kann diesen Bias verstärken und die Fehlerquote im gesamten Verfahren steigern.

Ich stelle mir eine transparente Gedankenpartnerin vor: Sie erklärt nachvollziehbar, auf welche Daten sie welche Schlüsse stützt, weist aktiv auf Gegenhypothesen hin und priorisiert die Unschuldsvermutung. Kurz: Sie ergänzt menschliche Urteilskraft, statt sie heimlich zu ersetzen.

Das Bundesverfassungsgericht erlaubt Analyse-Tools nur unter strengen Bedingungen: Minimaldatenprinzip, klare Gefahrenschwelle, kein automatisches Profiling, menschliche Letztentscheidung und – wenn möglich – Verzicht auf undurchschaubare KI. Je weniger Daten und je einfacher die Logik, desto eher ist der Einsatz zulässig.

Dieses Tech-Solutionism malt eine effiziente, ressourcenschonende Ermittlungswelt. Doch wir unterschätzen Halluzinationen, Daten-Bias und Blackbox-Entscheidungen. Wenn wir Ursachen und Wirkungen gar nicht antizipieren können, droht der Verdacht auf fehlerhafte Grundlagen zu verhärten – zulasten der Unschuldsvermutung und fairen Verteidigung.

Ich wollte verhindern, dass Polizei-Algorithmen massenhaft sensible Personendaten verknüpfen und daraus heimlich Verdachtsprofile basteln. Ohne verlässliche Transparenz, klaren Zweck- und Verhältnismäßigkeitsrahmen sah ich das informationelle Selbstbestimmungsrecht jedes Bürgers gefährdet. Deshalb haben wir die Verfassungsbeschwerde eingereicht, um verfassungsfeste Leitplanken einzuziehen.