Gesichtserkennung, die über Leben entscheidet
Gab schon mal was im Blog hier zum Thema Predictive Policing, Gesichtserkennung etc. - z.B. hier.
Ein Mann namens Robert Williams wurde dank fehlerhafter Gesichtserkennung verhaftet und ins Gefängnis gesteckt. Unschuldig, versteht sich. Hier erzählt er seine Geschichte.
Es gibt Leute, die das Problem erkannt haben:
"We are seeing continued use of facial recognition platforms and technologies by our government and law enforcement, resulting in reports of discriminatory outcomes that have put innocent people behind bars."
[...]
"This is also just technology that's being used in a system to augment biases and speed up procedures that are racist,” Caitlin Seeley George, director of campaigns and operations at digital rights group Fight For The Future, told Motherboard. “We know that there's no way for it to be used safely, that it is only going to be vastly used in cases that do more harm than good.”
Kurz keimt Hoffnung auf...
This legislation follows years of efforts by grassroots organizations that have locally organized against the use of facial recognition technology. 20 cities across the country have officially banned its use, and Vermont became the first and only state to do so in October 2020.
...die hernach sofort wieder zermatscht wird. Denn:
It’s clear that we can’t rely on private companies to implement their own moratoria on technology that isn’t ready for prime time.
Will heißen, Gesichtserkennung wird es weiterhin geben, und sicherlich noch viel intensiver. Man gibt aber vor, sie verbessern zu wollen. Das scheint auch dringend nötig, weil:
A prominent 2018 study by the MIT Media Lab found that facial recognition products from IBM, Microsoft, and Face++ were more accurate in identifying male subjects than female subjects. Face++ showed a 20.1 percent difference in accuracy between the genders.
Brave New World.
Update vom 19.07.2021
Zum Thema unzuverlässige Gesichtserkennung hier noch ein schöner Fall, bei dem Apple einem vermeintlichen Ladendieb hart nachgestellt hat. Gesichtserkennung hat versagt und den falschen Menschen beschuldigt. Apple wird nun verklagt. Bin mal gespannt, wie wenig dabei rauskommt. Handelt sich übrigens um einen Afro-Amerikaner mit dunkler Hautfarbe. Bei dunkler Haut scheint Gesichtserkennung noch unzuverlässiger zu sein als ohnehin schon.