Twitter annonserte resultatene fra sin åpne konkurranse for å finne skjevheter i bildebeskjæringssystemet.
Bounty-utfordringen åpnet i juli etter at Twitter-brukere viste at nettstedets automatiske beskjæringsverktøy favoriserte ansiktene til mennesker med lysere hudfarge fremfor de med mørkere hudfarge. Det reiste noen spørsmål om hvordan programvaren prioriterte hudfarge og visse faktorer fremfor andre.
Utfordringen søkte å finne hvilke andre feil og skjevheter beskjæringssystemet kan ha for å fikse problemene.
Førsteplassen gikk til Bogdan Kulynych, hvis bidrag viste hvordan skjønnhetsfiltre kunne spille algoritmens scoringsmodell, som igjen forsterker tradisjonelle skjønnhetsstandarder. Innleveringen viste at algoritmen foretrakk unge og slanke ansikter med enten en lys eller varm hudtone. Kulynych vant $3 500.
Andreplassen gikk til HALT AI, en teknologisk oppstart i Toronto, som oppdaget bilder av eldre og funksjonshemmede ble beskåret ut av bildene. Laget fikk $2 000 for å komme på andreplass.
Tredjeplassen, og $500, gikk til Roya Pakzad, grunnlegger av Taraaz Research, som oppdaget at algoritmen favoriserte beskjæring av latinske skrifter fremfor arabiske skrifter, noe som kan skade språklig mangfold.
De detaljerte resultatene ble presentert på DEF CON 29 av Rumman Chowdhury, direktøren for Twitters META-team. META-teamet studerer de utilsiktede problemene i algoritmer og luker ut enhver form for kjønns- og raseskjevhet slike systemer kan ha.
Dataene innhentet fra denne konkurransen vil bli brukt til å lindre feil og skjevheter i beskjæringsalgoritmen og bidra til å sikre et mer inkluderende miljø.
