Googles ausgefeilte Kinderschutz-Maßnahmen
Kontext zum Thema Content-Überwachung.
Was ist geschehen? Google hat einen Vater, der offenbar Bilder der Geschlechtsteile seines Kindes zwecks medizinischer Einschätzung an einen Arzt geschickt hat, der kriminellen Handlung bezichtigt und seine Google Accounts dicht gemacht. Guter Artikel bezüglich der rechtlichen Einschätzung:
The first and most important takeaway from Kashmir Hill’s excellent article in the New York Times about Mark, the man flagged by Google as a purveyor of Child Sexual Abuse Material (CSAM) for taking pictures of his son’s penis and sending them to their family doctor, and who subsequently lost nearly every aspect of his digital life when Google deleted his account, are the tremendous trade-offs entailed in the indiscriminate scanning of users’ cloud data.
Der besagte Artikel in der NYT (Vorsicht, Paywall) beklagt völlig zurecht die Ambivalenz der Situation, prangert allerdings auch eindeutig an, dass Google den Account des Vaters nicht wieder zurückgibt. Obwohl die Polizei die Klärung der Situation bestätigt hat und deutlich wurde, dass der Vater hier nichts Böses getan hat.
Not that it matters, one may argue: Google can do what they want, because they are a private company.
Gut, ich würde Bilder der Geschlechtsteile meiner Kinder so oder so nicht durchs Internet schicken. Ich kann hier tatsächlich noch zu einem blutfleischigen Arzt gehen. Aber wenn man auf Telemedizin angewiesen ist - was bleibt einem übrig?
Überlegt euch mal, ob ihr euer digitales Leben so einer Bude (oder Apple, oder Microsoft oder...) anvertrauen wollt, die so genannte KI mit perpetuell unausgereiften Trainingssets nutzt, um Leute als kriminell abzustempeln und dann Accounts unwiderruflich zu sperren oder zu löschen. Einfach, weil sie es können und als privater Anbieter in dieser Hinsicht neben dem Gesetz stehen. Die Behörden können da tatsächlich erst mal nichts machen.
Und die so genannten "Subject Matter Experts", die angeblich problematische Fälle wie diesen prüfen, haben auch ziemlich gründlich versagt, würde ich sagen.
Sehr erfolgreich, diese Kinderschutzmaßnahmen - bieten sogar Schutz vor medizinischer Behandlung.