Rassismus pur: Roboterautos bremsen oft nicht für Dunkelhäutige

Nicht erkannt (Bild: shutterstock.com/Von Monkey Business Images)
Nicht erkannt (Bild: shutterstock.com/Von Monkey Business Images)

Wo sind die Antirassismusbeauftragten, wenn man sie braucht? Menschen mit dunkler Hautfarbe haben offenbar ein höheres Risiko als Weiße, von autonomen Autos überfahren zu werden. Grund ist eine schlecht programmierte und angelernte Bilderkennungs-Software von Notbremssystemen. 

Forscher des Georgia Institute of Technology haben das herausgefunden. Diese haben acht aktuelle, mit künstlicher Intelligenz (KI) arbeitende Systeme mit Bildern von Menschen unterschiedlicher Hauttönung getestet – im Schnitt lag die Erkennungsrate bei Personen mit sehr dunklem Teint um fünf Prozentpunkte unter der bei Personen mit heller Haut.

Wie die Krone-Zeitung weiter berichtet, war diese weiß-bevorzugende Auswahl bei allen Sicht- und Lichtverhältnissen zu erkennen. Offenbar wurden die KI-Systeme beim Anlernen nicht mit ausreichend vielen Bildern dunkelhäutiger Menschen „gefüttert“, so die Vermutung. Die Forscher fordern eine Behebung beider Mängel.

Ob sich das System bei schwarzvermummten Antifakämpfern ebenso verhält, wurde nicht explizit erwähnt, ist aber anzunehmen. (SB)

Loading...

18 Kommentare

  1. Tja, das ist KI. Wenn die echte Intelligenz schon nicht funktioniert bzw. nicht vorhanden ist. Die Programmierer finden sich bestimmt in den finsteren Reihen der alten weißen und toxischen Männer. 😜

  2. Die KI wurde nicht falsch „gefüttert“ sondern es gibt physikalische Gesetze betreffs der Erkennung von Licht. Da dunkle Gegenstände ganz real und nicht rassistisch konstruiert weniger Licht reflektieren als helle, kann ein optischer Sensor sie (übrigens ebenso wie das menschliche Auge, das den gleichen Naturgesetzen unterliegt und daher dunkle Dinge in der Dämmerung schlechter sieht als helle) einfach schlechter oder später erkennen. Das ist Physik. Naturgesetze sind nicht rassistisch, Naturgesetze sind.

    Dagegen würde das Tragen heller Kleidung helfen. Oder Reflektoren an der Jacke. Na gut, Gelbwesten sind momentan nicht so gefragt, wenn man nicht mit Plünderern und Brandlegern in einen Topf geworfen werden will, aber ich habe als Kind in der Schule schon gelernt, dass man sich hell anziehen soll, wenn man morgens am Schulweg von den Autofahrern gesehen werden will. Man kann sich also entweder aus Prinzip Totfahren lassen, um der Welt zu beweisen, dass optische Physik rassistisch und man selbst ein Idiot ist, oder man zieht sich was Helles an, wenn man auf die Straße geht, oder Jacken mit Reflektoren, und überlebt.

    Es geht nämlich nicht darum, Naturgesetze zu verändern oder Dunkelhäutige zu bleichen, sondern die Natur hinzunehmen wie sie ist und dann so zu reagieren, wie es angebracht ist. Ob einer Schwarz ist oder wie Lichtwellen erfasst werden, dafür kann keiner was, aber wie man sich anzieht, dafür schon.

  3. Das Gleiche passiert auch an den Supermarkttüren, die automatisch öffnen. Ist mir auch schon passiert, daß ich völlig schwarz angezogen dagegen gerannt bin. Da kann man also auch hoffen, daß ein 40 Tonner vor einer Antifademo nicht bremst, weil er sie nicht erkennt !

  4. Bei allen 8 Systemen? Das kann kein Programmierungsfehler sein, der wird nicht 8x in derselben Art gemacht,denke ich.Eine Schwäche des Systems? Was ist mit extrem braun gebrannten Weißen? Sommer , Sonne und dann Bumms?

    • Es ist Physik. Lichtsensoren erfassen Lichtintensität, und die Lichtintensität der Farbe Schwarz lässt nun mal zu wünschen übrig. Aber im postfaktischen Empörungszeitalter sind selbst Naturgesetze rassistisch und die vernünftige Lösung, dunkelhäutigen Menschen zu empfehlen sich helle Klamotten anzuziehen (was übrigens für alle im Straßenverkehr von Vorteil wäre) ist natürlich ebenso rassistisch. Denn im Weltbild der Schneeflöckchen haben nicht sie sich den Naturgesetzen anzupassen und die richtigen Handlungen daraus abzuleiten sondern die Welt hat sich um ihre Befindlichkeit zu biegen.
      Abgesehen davon vermisse ich nach dem üblichen Geplärr, dass die Erfindungen der toxischen alten weißen Männer rassistisch seien, die progressiven weiblichen und/oder farbigen Erfinder, die es richtig machen und Roboterautos bauen, die Schwarze besser erkennen…

  5. „Die Forscher fordern eine Behebung beider Mängel.“ Komisch im Fordern sind immer alle ganz groß. Es betrifft dunkelhäutige Menschen also sollen dunkelhäutige Menschen die Ärmel hoch krempeln und das Problem beheben.

    • Was sind das eigentlich für „Forscher“, die sich auf Stiftung-Warentest-Niveau begeben und die Qualität eines Gerätes bekritteln, aber offensichtlich keine Ahnung von optischer Sensorik, Wellenlängen und Lichtintensität haben? Das kapiert hier jeder Maturant, dass das reine „Rassimusforscher“ oder ähnliches steuerfinanziertes Bildungsprekariat sein müssen; wie die an ein technologisches Institut kommen kann nur mit Quoten erklärt werden.

  6. „Ob sich das System bei schwarzvermummten Antifakämpfern ebenso verhält…“
    Eine gute Frage! Weitere Gruppen erwähne ich hier nicht…

    • Die gehen jetzt eher zu den „Gelbwesten“, um da zu plündern und zu brandschatzen; mit dem Leuchtjanker werden sie wieder bestens gesehen…

Kommentare sind deaktiviert.