Google Photo “erkennt” schwarzes Pärchen als “Gorillas”

An sich ist es schon erstaunlich, wie gut heutzutage die automatische Bilderkennung funktioniert. Auch Google und Facebook haben die Algorithmen im Hintergrund laufen – und gerade wegen der prinzipiellen Treffsicherheit ist ein besonderer Aspekt, nämlich die Gesichtserkennung zumindest bei uns hier in Europa nicht freigeschaltet; aus Datenschutzgründen. Manchmal funktioniert die Technik aber auch nicht, und dann kommt dabei so etwas heraus wie am Montag: Da hat Google Photos eine Schnappschussserie mit einem schwarzen US-amerikanischen Pärchen automatisch getaggt – als „Gorillas“.

Passt in der Stimmung nach dem Charleston-Massaker und der aktuellen Debatte um Rassendiskriminierung in den USA wie die „Faust aufs Auge“ – dahinter steckte aber natürlich keine Absicht, sondern lediglich die Unzulänglichkeit der Software; Google hat sich sehr schnell entschuldigt und Nachbesserung angekündigt.

Trotzdem bleibt der Fall ein warnendes Beispiel – gerade hat ja Mark Zuckerberg erläutert, wie KI, die „Künstliche Intelligenz“ bei Facebook zukünftig zum Einsatz kommen soll: Eben auch bei der Gesichtserkennung, bei der Erkennung von Sprache, bei der Analyse von geposteten Inhalten. Das generelle Problem ist bei all dem, dass zumindest die aktuellen Algorithmen statistische Korrelationen entdecken und als vermeintlich kausale Zusammenhänge präsentieren – also „Erkenntnisse“ gewinnen, die gar keine sind und auf völlig falsche Fährten führen. Wenn dann solche “Erkenntnisse” zu Einordnungen (z.B. über die Kreditwürdigkeit, den Gesundheitszustand oder etwaige extremistische Positionen…) führen, die weder für “Entscheider” noch für Betroffene transparent sind, dann wird es mehr als kritisch. Insofern passt da Arnold Schwarzeneggers Frage bei der Veranstaltung gestern am Schluss: „Werden die Maschinen siegen?“ Zuckerbergs Antwort: „Nein, werden sie nicht.“

Mal sehen 😉 …

Liveblog: Von 40 auf 60

DRadio Wissen – Schaum oder Haase vom 1.7.2015

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.