Verbrechen (nicht) erkennen, bevor sie (nicht) geschehen
Gerade eine Meldung entdeckt, der zufolge Kanada schon seit längerer Zeit so genanntes Predictive Policing (ich kürze im Folgenden mit PP ab) nutzt, um Verbrechen vorherzusagen.
Ich habe mir jetzt (noch) nicht die Arbeit gemacht, genau nachzuforschen, welche Behörden/Städte welche Techniken konkret einsetzen und wie hoch das jeweilige Potenzial für Komplettkatastrophen ist.
Grundsätzlich funktioniert das PP ungefähr so: Eine Maschine wird mit aktuellen und älteren statistischen Crime-Daten gefüttert. Dann versuchen irgendwelche Algorithmen, Wahrscheinlichkeiten zu berechnen; zum Beispiel, in welchen Stadtteilen besonders viele Verbrechen verübt werden, wo es sich lohnt, Polizeistreifen fahren zu lassen oder - und das ist schon sehr krank für mein Empfinden - welche Individuen möglicherweise zukünftig Verbrechen begehen werden.
Es gibt so viele Probleme mit PP, dass es den Rahmen eines Blogbeitrages bei Weitem sprengen würde. Nur ein paar Denkanstöße:
- Unschuldsvermutung wäre ein Auslaufmodell, weil eine Software vorhersagt, dass man ein Verbrecher ist. Die Be- oder besser Vorverurteilung erfolgt anhand von Wahrscheinlichkeiten. Nicht anhand von existierenden Fakten. Im Grunde ist somit jeder ein Verbrecher, es gibt nur unterschiedliche Wahrscheinlichkeiten, dass wir tatsächlich Verbrechen begehen werden.
- PP würde ohnehin schon existierende Diskriminierung von Minderheiten (Rasse/Religion etc.) verstärken. Dazu gibt es zahllose Kommentare und Artikel - muss man gar nicht lang suchen.
- Software-Vorhersagen liegen gerne mal daneben. Ganz einfaches Beispiel: Wetter. Aber nicht zwangsläufig, weil die Algorithmen scheiße sind. Das Problem ist eher die Datengrundlage. Die ändert sich laufend.
- Der Kontext spielt eine große Rolle. Krudes, einfaches Beispiel: Junger Mann mit dunkler Hautfarbe rennt wie ein Geisteskranker durch die Straßen der Bronx. Kameras sichten ihn. Bei den Gesetzeshütern schlägt ein Computer Alarm. Der Computer schlussfolgert anhand der ihm vorliegenden Daten: Da rennt ein Verbrecher. Weil: dunkelhäutig, rennend, dicke Goldkette um den Hals, Bronx. Kontext, z.B. dass der Bub seinen Bus erreichen muss, oder dass er bei der Geburt seines Kindes anwesend sein will oder dass er auf der Flucht vor weißen Prügelcops ist, kennt der Computer nicht. Und woher hat der Computer seine ohnehin nur unvollständigen Daten? Von Menschen. Und Menschen sind alles Mögliche, aber nicht unvoreingenommen und unbelastet.
- Kommt ein SWAT-Team in dein Haus, haut dir die Hucke voll, du erleidest Verletzungen, hast Schäden an der Immobilie wegen des gewaltsamen Eindringens... und dann? Oh, tut uns leid, war ein Fehler. Wir dachten, Sie wollten eine Tankstelle ausrauben. Die Software hat das vorhergesagt - die ist schuld! Gegen die leiten wir gleich mal Disziplinarmaßnahmen ein!
- Was, wenn durch eine Fehleinschätzung einer Software irreparable Schäden an Menschen entstehen?
- Was, wenn niemand mehr ernsthaft zur Verantwortung gezogen werden kann? Die Software-Entwickler weisen jede Schuld von sich: "Wir haben ja bloß den Algorithmus geschrieben. Der funktioniert. Nicht unser Problem, wenn die Daten kaputt sind." Die Cops wiederum laden die Verantwortung für ihre mangelhaften Entscheidungen bei der Software ab - die lag halt daneben. Schulterzucken. Und die Opfer? Pech, zur falschen Zeit am falschen Ort... mit etwas Glück gibts vielleicht ein bisschen Opferentschädigung.
Gibt aber schon Städte, die die Probleme erkannt haben bzw. ernst nehmen, und PP wohl ganz oder teilweise wieder runtergefahren haben, zum Beispiel LA und Chicago. Zumindest für den Moment.
Ach, und wer ist einer der Vorreiter des PP? Die Philantropen von Palantir. Und damit kein Bösewicht auf die Idee kommt, rechtschaffene Software-Ideen zu klauen, haben sich die Palantiratten das auch gleich alles patentieren lassen.
Und was hat Palantir für uns schon Gutes getan? Ach, da war doch was mit Hessen-Polizei, Totalüberwachung, Datenschutz-Missachtung,...
Und wer hat Palantir (mit der Unterstützung des CIA) gegründet? Peter Thiel. Und was tut der so in seiner Freizeit? Zum Beispiel Donalds Wahlkampf finanzieren (und tröten, dass er Trumps Handeln zu wenig disruptiv findet). Oder Facebook beaufsichtsraten...
Übrigens, ich predicte: Das Happy End aus Minority Report wird es nicht geben. Die Menschheit ist in den letzten Jahren nicht durch eine besondere Vernunftbegabung oder einen ausgeprägten Fortbestandswillen aufgefallen.
EDIT: Trailer des Doku-Films "Pre-Crime" (Link geht zu Youtube), der sich mit dem Thema beschäftigt. Hab den Film noch nicht in voller Länge gesehen, aber der Trailer lässt bereits erahnen, dass die Technik und die Gefahren unterhaltsam (wenn gleich etwas arg hollywoodig und sensationslüstern) vorgestellt werden.
EDIT2: Predictive Policing könnte zuverlässiger sein, wenn die Maschinen mehr Kontext haben. So viel wie geht. Maximal-Kontext durch Totalüberwachung. China ist da schon seit längerer Zeit auf einem guten Weg.