Algoritmos sin sesgos para una mejor innovación

Si bien en los últimos años ha crecido el interés por integrar las variables de género y sexo en las investigaciones de diferentes disciplinas, incluyendo los negocios, su inclusión se sigue ignorando en la actualidad. Esto supone altos costos a nivel monetario y, en diversas ocasiones, puede poner en riesgo vidas humanas.

¿Cuál es la diferencia entre los términos sexo y género?

Sexo se refiere a los atributos biológicos de las personas, los cuales incluyen características físicas, cromosomas, genes y anatomía. Por su parte, género es un concepto psicosocial multidimensional, constituido por la identidad, los roles socialmente construidos, así como comportamientos, actitudes y estilos de vida que definen a las niñas, mujeres, niños, hombres y personas de diversidad de género.

En Estados Unidos, 1.4 millones de personas (0.6% de la población) se identificaron como transgénero en 2016, según un estudio realizado por The Williams Institute en 2016. En 2020, solamente 18 países (entre ellos Argentina, Alemania, Austria, Australia e India) permitían una tercera categoría de sexo en documentos legales tales como actas de nacimiento, pasaportes, etc.

¿Por qué incluir sexo y género en el departamento de I+D de las empresas?

Las innovaciones, especialmente en el área de Inteligencia Artificial (AI), influyen en muchos aspectos de nuestra sociedad. Desde algoritmos que determinan a quien contratar o despedir, hasta la inclusión de robots en nuestra vida diaria (como Siri o Alexa). Estos pueden estar sesgados si no se consideran variables fundamentales en sus algoritmos, ahondando con ello en la discriminación de ciertos colectivos.

Se ha demostrado que las empresas, al desarrollar sus productos, marcas e innovaciones, fallan con mayor frecuencia a las mujeres y las personas de color. A continuación, lo ilustro con una serie de ejemplos de diferentes industrias:

• Se encontró que la herramienta de word embedding Word2Vec, la cual captura asociaciones de palabras, está programada con sesgos de género en sus analogías: hombre es a programador de sistemas lo que mujer es a ama de casa. ¿Cuál es el motivo? Algunos algoritmos de inteligencia artificial tienen información sesgada en sus bases de datos.
• Una investigación demostró que, en una búsqueda en Google, los hombres son cinco veces más susceptibles que las mujeres a que les aparezca un Google Ads ofreciendo publicidad de puestos de trabajo a nivel ejecutivo. ¿Cuál es el motivo? El sesgo se encuentra en la base de datos. El algoritmo de Google está configurado para publicar ads a la persona indicada. Por lo tanto, el algoritmo asume que los hombres tienen un mejor salario y son los más adecuados para obtener puestos ejecutivos.
• Algunos monitores de ritmo cardiaco, incluso algunas versiones de Apple Watch, no funcionan para las personas con un color de piel oscuro, lo cual puede poner en riesgo su salud. ¿Cuál es el motivo? La tecnología que mide el flujo sanguíneo es absorbida por el pigmento de la piel de personas de color oscuro, lo cual reduce la precisión de los sensores que miden la frecuencia cardiaca.
• En el 2009, Nikon desarrolló un software antiparpadeo. El sistema no era capaz de identificar si una persona asiática estaba parpadeando o no, simplemente aparecía el mensaje “¿hay alguien parpadeando?”. ¿Cuál es el motivo? El software tiene sesgos con las imágenes de los asiáticos, ya que los lee como si siempre estuvieran parpadeando.

¿Qué tienen en común estos ejemplos?

Al momento de ser desarrolladas, estas innovaciones se enfocaron en solamente una o dos dimensiones de interseccionalidad, ya sea de género, etnia, preferencia sexual, etc. La interseccionalidad describe las formas en las que pueden coincidir diferentes tipos de discriminación en una misma persona: por género, sexo, preferencias sexuales, estatus socioeconómicos, etnia o ubicación geográfica, entre otras.

El experimento de reconocimiento facial Gender Shades, desarrollado en el MIT, ilustra este caso. Sus resultados mostraron diferencias en la precisión del reconocimiento facial dependiendo del género (el sistema tuvo un mejor desempeño en caras de hombres que en las de mujeres), de la raza (el mejor desempeño fue en pieles de color blanca comparado con pieles de color oscuro) y de la interseccionalidad (el desempeño más bajo fue en mujeres de color).

¿Cual es la solución?

Al integrar variables como el sexo, el género y la interseccionalidad en las innovaciones de I+D, así como en la creación del conocimiento, se impulsa una ciencia más precisa, se mejoran las metodologías de investigación y se promueve la inclusión y diversidad social. Los beneficios de este enfoque también redundan en el desarrollo económico. Para implementarlo, es necesario integrar equipos interdisciplinarios: programadores de software, abogados, expertos en diversidad y género y políticas sociales, entre otros, con el objetivo de determinar cómo se miden y qué dimensiones de sexo, género e interseccionalidad son relevantes para las innovaciones. Posteriormente, se deberá conducir un análisis y reporte de cada una de ellas y poder tomar así decisiones más inclusivas.

Las autoras son alumna del Doctorado en Ciencias Administrativas de EGADE Business School (Claudia Gómez) y alumna del Doctorado en Ciencias Administrativas de la Universidad de Curvinus de Budapest (Anna Törok).

REFERENCIAS

Bolukbasi, T., Chang, K. W., Zou, J., Saligrama, V., & Kalai, A. (2016). Man is to computer programmer as woman is to homemaker? debiasing word embeddings. arXiv preprint arXiv:1607.06520.

Buolamwini, J., & Gebru, T. (2018 ). Gender shades: Intersectional accuracy disparities in commercial gender classification. In Conference on fairness, accountability and transparency  77-91.

Datta, A., Tschantz, M. C., & Datta, A. (2015). Automated experiments on ad privacy settings: A tale of opacity, choice, and discrimination. Proceedings on Privacy Enhancing Technologies, 92-112.

Flores, A. R., Herman, J.L., Gates, G.G. & Brown T.N (2016). How many adults identify as transgender in the United States? Williams Institute. https://williamsinstitute.law.ucla.edu/publications/trans-adults-united-states/. 

Schiebinger, L. , Tannenbaum C., Falk-Krzesinsk, H.F &Miles, J. (2021) How to integrate sex, gender, and intersectional analysis into research Elsevier. https://researcheracademy.elsevier.com/communicating-research/sustainable-development-goals-researchers/integrate-sex-gender

Rice, C., Harrison, E., & Friedman, M. (2019). Doing Justice to Intersectionality in Research. Cultural Studies, Critical Methodologies, 19(6), 409–420.