Je nová technologie rasistická? Rozeznávání obličejů funguje 100 % jen u bílých mužů

 
Další 4 fotografie v galerii
Nové technologie nefungují pro všechny uživatele stejně / Pixabay
Technologičtí giganti v poslední době udělali několik velkých kroků směrem k vyspělejší umělé inteligenci (AI), což potvrzují i speciální technologie pro rozeznávání obličejů.

Ta se nám začíná objevovat u tabletů, mobilů a podobných udělátek, přičemž její cíl je vždy stejný – učinit náš život snazším. Ještě to ale pořád má svoje mouchy, jak se zdá.

Jak se ukázalo v nejnovější studii na toto téma, nazvané „Gender Shades", technologie zatím nefungují pro všechny uživatele stejně. A to speciálně pro ty, co nepatří mezi bílé muže. Jak prokázal výzkum od MIT Media Lab, dnes tak populární rozeznávání obličejů (díky službám) od Microsoftu, IBM a Face++ variují v přesnosti podle toho, jakou má uživatel rasu a pohlaví.

Výzkumník Joy Buolamwini to prezentoval na tabulce s 1270 fotkami ze tří afrických zemí a tří severských. Obličeje byly zvoleny tak, aby reprezentovaly tu nejširší škálu lidských tonálních odstínů za pomoci tzv. Fitzpatrikovy škály, což je dermatology běžně užívaná tabulka.

Jak se ukázalo, když byla osoba bílým mužem, software pro rozeznání obličeje fungoval v 99 % případů, když to ale byla tmavá žena, objevila se rázem chyba v míře 35 %. Pro tmavé muže zase šlo o chybu ve 12 % případů. A pro ženy světlé kůže zase šlo o 7 % případů špatné identifikace.

Rozeznávání obličejů od MS mělo problém s ženami s tmavší kůží ve 21 % případů. IBM A Face++ zase měli skoro 35 %. Chyba byla cca 1 % u bílých mužů.

Také Apple u svého nejmodernějšího kousku iPhone X s novým zabezpečením pomocí technologie Face ID ohlásil již řadu problémů, kdy se majiteli telefon neodemknul, protože ho nerozeznal.

Problém je podle všeho i v tom, jak byla detekce trénována během vývoje. Když ji testovali v USA, tak byla přesná na 97 %, ale testovací subjekty byly v 77 % muži a 83 % bílí. Zdá se, že za tím tedy bude jen nešťastně zvolený vzorek – když dáte moc jednoho, špatně se detekuje další. Ale může to mít i nemalé důsledky – AI může probírat kandidáty na pracovní místo, ovlivnit všelijaké průzkumy a studie a obecně nemusí být přesná u všeho, kde se zpracovává nějaký lidský vzorek.

#Apple #Microsoft #rasismus #Face ID #studie

Mohlo by vás zajímat

Reklama