La industria de la inteligencia artificial ha estado trabajando en reducir los prejuicios en sus algoritmos relacionados con el color de piel de las personas. Pero, según una nueva investigación de Sony, también deberíamos considerar los tonos de piel rojo y amarillo. Los investigadores de Sony proponen una forma más completa de medir el color de piel para que la IA sea más justa y representativa.
Desde hace tiempo, se ha hablado de los sesgos de color de piel en los sistemas de inteligencia artificial. Por ejemplo, se ha encontrado que la IA es menos precisa cuando se utiliza en personas de piel oscura, especialmente mujeres. Las empresas han estado tratando de abordar esto probando sus sistemas con una variedad de tonos de piel. Google introdujo una escala de 10 puntos llamada Escala de Tono de Piel Monk, y Meta ha mencionado la Escala de Fitzpatrick con seis categorías en su investigación.
El problema que plantea Sony es que estas escalas se centran principalmente en la claridad u oscuridad de la piel, ignorando otros aspectos importantes. Sony sugiere un enfoque más completo basado en un estándar de color existente. Argumentan que las escalas actuales no tienen en cuenta los sesgos contra grupos como asiáticos orientales, asiáticos del sur, hispanos, personas de Oriente Medio y otros que no se ajustan claramente a la distinción entre piel clara y oscura.
Esta investigación también destaca cómo las bases de datos de imágenes comunes tienden a mostrar más personas con piel más clara y roja, dejando de lado a quienes tienen piel más oscura y amarilla. Esto puede llevar a que los sistemas de IA sean menos precisos. Por ejemplo, Twitter y otros algoritmos de generación de imágenes parecen preferir los tonos de piel más rojos, y algunos sistemas de IA podrían etiquetar erróneamente a las personas con piel más roja como "más sonrientes".
La propuesta de Sony es utilizar un enfoque automatizado basado en un estándar de color existente para medir el tono de piel. Sin embargo, es importante señalar que la Escala de Tono de Piel Monk, que es más simple y limitada a 10 tonos de piel, se ha diseñado así para mantener la diversidad sin complicaciones innecesarias. Un enfoque con más categorías podría resultar confuso para las personas.
