AI nedokáže identifikovať trans a binárnych ľudí

Rain Dove pije v bare a musí ísť do kúpeľne. Keď kráča po prístupovej chodbe, kamera skenuje tvár, aby odomkla dvere toalety podľa svojho pohlavia. Ktoré dvere by odomkli tvár Rain Dove? Pravdepodobne ten v pánskej izbe.

Výskum uskutočnený na University of Colorado v Boulder v USA zistil, že hlavný softvér na rozpoznávanie tváre založený na umelej inteligencii nedokáže identifikovať trans-a binárnych ľudí.

Zatiaľ čo cisgender muži a ženy boli klasifikovaní presne v 98% prípadov, transgender ľudia (ktorí sa neidentifikujú podľa pohlavia narodenia) boli asi 30% chybne klasifikovaní. V prípade binárnych súborov, ktoré sa sami neidentifikujú ako mužských ani ženských, stroj vynechal všetky pokusy.

Na uskutočnenie prieskumu sa na Instagrame zhromaždilo 2 450 fotografií tváre s hashtagmi #woman, #man, #transwoman, #transman, #agenderqueer a #nonbinary. Po odstránení skupín alebo polokrytých záznamov tváre sa zostávajúce množstvo rozdelilo na skupiny 350 obrázkov, ktoré sa použili na testovanie softvéru na rozpoznávanie tváre Rekognition (Amazon), Watson (IBM), Azure (Microsoft) a Clarifai.

Umelá inteligencia kopíruje predsudky

Vedci sa domnievajú, že algoritmy používajú zastarané stereotypy, čo ďalej zvyšuje chybovosť. Jeden príklad prišiel od samotného tímu: Jeden z výskumných pracovníkov, ktorý má dlhé vlasy, bola polovicou softvéru klasifikovaná ako žena.

Nielenže je nepochopený rod: štúdia MIT Media Lab zverejnená v januári naznačuje, že spoločnosť Rekognition identifikovala čierne ženy ako mužov 30% času, keď vyhodili. Aj keď sú takéto chyby neopravené, predsudky sa objavujú na najneobvyklejších miestach: V roku 2015 Fotky Google pomocou umelej inteligencie označili čiernych užívateľských selfies ako obrázky goríl.

AI nedokáže prostredníctvom TecMundo identifikovať trans a nebinárnych ľudí