Twitter je objavio rezultate svog otvorenog natjecanja za pronalaženje pristranosti u svom sustavu izrezivanja fotografija.
Bounty izazov otvoren je u srpnju nakon što su korisnici Twittera pokazali da automatizirani alat za obrezivanje stranice daje prednost licima ljudi sa svjetlijim tenom u odnosu na one s tamnijim tenom. Pokrenula su neka pitanja o tome kako je softver dao prednost boji kože i određenim čimbenicima nad drugima.
Izazov je bio pronaći koje druge pogreške i pristranosti sustav obrezivanja može imati kako bi se popravili problemi.
Prvo mjesto pripalo je Bogdanu Kulynychu, čija je prijava pokazala kako filtri ljepote mogu izigrati model bodovanja algoritma, koji zauzvrat pojačava tradicionalne standarde ljepote. Podnesak je pokazao da algoritam preferira mlada i vitka lica sa svijetlom ili toplom bojom kože. Kulynych je osvojio 3500 dolara.
Drugo mjesto pripalo je HALT AI, tehnološkom startupu iz Toronta, koji je otkrio da su slike starijih osoba i osoba s invaliditetom izrezane iz fotografija. Momčad je dobila 2000 dolara za drugo mjesto.
Treće mjesto i 500 dolara pripalo je Royu Pakzadu, osnivaču Taraaz Researcha, koji je otkrio da algoritam favorizira obrezivanje latiničnog pisma u odnosu na arapsko pismo, što bi moglo naštetiti jezičnoj raznolikosti.
Detaljne rezultate predstavio je na DEF CON 29 Rumman Chowdhury, direktor Twitterovog META tima. META tim proučava nenamjerne probleme u algoritmima i uklanja bilo kakvu rodnu i rasnu pristranost koju takvi sustavi mogu imati.
Podaci dobiveni ovim natjecanjem koristit će se za ublažavanje grešaka i pristranosti u algoritmu obrezivanja i pomoći u osiguravanju inkluzivnijeg okruženja.
