Technologie rozpoznávání objektů u aut bez řidiče je podle odborníků rasistická

Autonomní vozy jsou naprogramovány tak, aby činily etická rozhodnutí v případě krizové situace / Pixabay
Automobil bez řidiče srazí s větší pravděpodobností člověka s tmavší kůží, protože k trénování technologie rozpoznávání objektů se používají hlavně běloši. Autonomní vozy jsou dle zjištění skutečně až o 12 % horší při pozorování lidí s tmavší kůží.

Systémy rozpoznávání obličeje vyvinuté pro autonomní vozy jsou lepší při identifikaci obličejů bílých lidí, než u osob s tmavšími odstíny pleti. Výzkumníci říkají, že přirozený rasismus těchto systémů pravděpodobně pramení z nedostatku jedinců s tmavou pletí zahrnutých do zkušebního provozu.

Studie zjistila, že databáze technologií rozpoznávání obličeje budovaných pro autonomní automobily jsou až o 12 % horší při pozorování lidí s tmavší pokožkou. Systém byl používán s tóny pleti v rozmezí od jedné do šesti, s vyšším číslem je spojena tmavší kůže. Autonomní vozy jsou naprogramovány tak, aby činily etická rozhodnutí v případě krizové situace mezi tím, kdo přežije, a tím, kdo bude "obětován".

Schopnost správně identifikovat lidi je v tomto rozhodování klíčová a jejím cílem je minimalizovat ztráty na životech. Technologie rozpoznávání obličeje, jako je tato, je v automobilovém průmyslu významná, ale k jejímu rozvoji se používají chybné databáze.

Odborníci říkají, že je zapotřebí mnohem širšího a různorodějšího souboru dat, aby se zajistilo, že v softwaru nezůstane žádná rasová nerovnost. Systém používaný ve výzkumu, BDD100K, byl vyvinut společností UC Berkeley a obsahuje více než 100 000 videí z reálných záběrů pořízených kamerami namontovanými na vozidle.

Databáze nerozděluje záběry podle barvy pleti, pouze identifikuje osobu, takže vědci spojili databázi s manuálními štítky. Oštítkované tváře lidí pak vrátili zpět do programu, aby zjistili, kolik se jich detekovalo. Bílí jednotlivci byli správně identifikováni ve 74,6 % případů. Jedinci s tmavší kůží ale jenom v 62,1 % případech.

Výzkumní pracovníci zajistili, že kvalita obrazů používaných v experimentu byla dostatečně vysoká, aby nesrovnalost nebyla způsobena povětrnostními vlivy, vzdáleností nebo jinou proměnnou kromě tónů pleti.

Vědci uvádějí, že v tuto chvíli nejsou k dispozici dostatečné údaje a je zapotřebí komplexnější revize s větším množstvím dat, aby se zjistilo, zda existuje výrazný rozdíl v detekci mezi lidmi se světlou a tmavou pletí. 

#řízení #řidič #autonomní #technologie #rozpoznávání #rasismus

Mohlo by vás zajímat

Reklama