Perspectiva de género en Inteligencia Artificial, una necesidad

Autor/innen

DOI:

https://doi.org/10.18002/cg.i17.7200

Schlagworte:

perspectiva de género, inteligencia artificial, competencias, sesgo de género

Organisationen:

Xunta de Galicia, Unión Europea

Abstract

En este artículo analizamos la transversalización de la perspectiva de género en el campo de la Inteligencia Artificial (IA), cuyas aplicaciones influyen cada vez más en nuestras actividades cotidianas. Una disciplina altamente masculinizada, donde la mayoría de los profesionales son hombres y sus experiencias conforman y dominan la creación de algoritmos. Para reconocer la existencia de sesgos discriminatorios de género en los algoritmos y limitar sus consecuencias, es necesario introducir la perspectiva de género en estos estudios. En este documento revisamos el grado de introducción de competencias en género en los grados de IA en el estado español con el fin de mejorar la formación en género del alumnado.

Downloads

Keine Nutzungsdaten vorhanden.

Métricas alternativas

Autor/innen-Biografien

Eva Cernadas García, Universidade de Santiago de Compostela - España

Es profesora del área de Ciencias de la Computación e Inteligencia artificial e investigadora del CiTIUS y ganadora del segundo premio de la USC por la introducción de la perspectiva de género en la docencia en materias de inteligencia artificial en 2021. Su trabajo “Embedded ethics to teach machine learning courses: an experience” ha sido reconocido por el projecto Gender Innovations. Participa en actividades de promoción de la igualdad de género como el diseño de talleres para la educación primaria en el programa de “Unha enxeñeira ou científica en cada cole” o el diseño del concurso “INFORMATIZATE” destinado a estudiantes no universitarios. 

Encina Calvo, Universidade de Santiago de Compostela - España

Autora “Guía para una docencia universitaria con perspectiva de género de Física” editada por Xarxa Vives d’Universitats y 2 Premio a la Introducción de la Perspectiva de Género en la Docencia de la Universidad de Santiago de Compostela en 2018. Colaboradora externa Red “Universidad, Docencia, Género e Igualdad”, de la Universidad de Alicante, miembro comité científico de congresos relacionados con la igualdad de género: XUGEX, Congrés Dones, Ciència i Tecnologia – WSCITECH19 y miembro jurado “I Premio de creación de materias e recursos docentes con perspectiva de xénero da Universidade de Vigo ANTONIA FERRÍN MOREIRAS”. Pertenece al comité de Sabias de la Cátedra de Feminismos 4.0 de la Universidade de Vigo y al grupo de trabajo 4.2 del Observatorio Mujeres, Ciencia e Innovación del Ministerio de Ciencia e Innovación. 

Literaturhinweise

Agudo, Ujué, y Helena Matute (2021): “The influence of algorithms on political and dating decisions”. En: PLoS ONE, vol. 16, nº. 4, pp. 1-17. Disponible en: https://doi.org/10.1371/journal.pone.0249454 [13/01/2022].

Alonso, Amparo (2020): “Intelixencia artificial e xénero”. En: Águeda Gómez Suárez y Leonor Parcero (coords.): Itinerario Formativo Virtual en Xénero, vol. 3. pp.161-188. Disponible en: https://formacionigualdade.webs7.uvigo.es/recursos/ [13/01/2022].

AQU Catalunya (2018): “Marc general per a la incorporació de la perspectiva de gènere en la docència universitària”. Disponible en: http://www.aqu.cat/doc/doc_19381922_1.pdf [13/01/2022].

Bachelors portal (2021): Disponible en: https://www.bachelorsportal.com/ [13/01/2022].

Benítez Eyzaguirre, Lucía I. (2019): “Ética y transparencia para la detección de sesgos algorítmicos de género”. En: Estudios sobre el mensaje periodístico, vol. 25, nº. 3, pp. 1307-1320. Disponible en: https://doi.org/10.5209/esmp.66989 [13/01/2022].

Botella, Carmen; Rueda, Silvia; López-Iñesta, Emilia y Marzal, Paula (2019): “Gender diversity in STEM disciplines: A multiple factor problem”. En: Entropy, vol. 21, nº. 30, pp. 1-17. Disponible en: https://doi.org/10.3390/e21010030 [13/01/2022].

Buolamwini, Joy y Timnit Gebru (2018): “Gender shades: Intersectional accuracy disparities in commercial gender classification”. En: Sorelle A. Friedler y Christo Wilson (eds.): Proceedings of the 1st Conference on Fairness, Accountability and Transparency. PMLR, pp. 77-91. Disponible en: http://proceedings.mlr.press/v81/buolamwini18a.html [13/01/2022].

Cernadas, Eva y Calvo-Iglesias, Encina (2020): “Gender perspective in Artificial Intelligence (AI)”. En: Eighth International Conference on Technological Ecosystems for Enhancing Multiculturality, pp. 173-176. Disponible en: https://dl.acm.org/doi/abs/10.1145/3434780.3436658 [13/01/2022].

Cernadas, Eva y Fernández-Delgado Manuel (2021): “Embedded ethics to teach machine learning courses: an experience”. En: 2021 XI International Conference on Virtual Campus (JICV). IEEE, pp. 1-4. Disponible en: https://ieeexplore.ieee.org/document/9600426 [13/01/2022].

Castro, Laura (2019): “Construíndo o coñecemento informático: situación da perspectiva de xénero nos estudos de grao das universidades españolas”. En Ana J. López Díaz, Águeda Gómez y Eva Aguayo (eds.): (Re) construíndo o coñecemento. A Coruña, Universidade da Coruña, pp. 313-324. Disponible en: https://doi.org/10.17979/spudc.9788497497589 [13/01/2022].

Crawford, Kate (2021): The Atlas of AI. New Haven: Yale University Press.

Criado-Perez, Carolina (2020): La mujer invisible. Descubre cómo los datos configuran un mundo hecho por y para los hombres. Barcelona: Seix Barral.

Díaz, Capitolina (2021): “Cuando las informáticas rompen el techo de cristal”. Disponible en: http://tv.usc.gal/mmobj/index/id/4130 [13/01/2022].

D'Ignazio, Catherine y Lauren F. Klein (2020): Data feminism. Cambridge: MIT Press.

Epifanio, Irene (2020): Matemáticas: guías para una docencia universitaria con perspectiva de género. Castelló de la Plana: Xarxa Vives d’Universitats. Versión digital disponible en: https://www.vives.org/book/guia-docencia-universitaria-con-perspectiva-genero-matematicas/ [13/01/2022].

Eubanks, Virginia (2021): La automatización de la desigualdad. Herramientas de tecnología avanzada para supervisar y castigar a los pobres. Capitan Swing.

Fernández, Lorena (2020): “Sombra aquí, sombra allá: reconocimiento facial discriminatorio”. En: The Conversation, 20 de diciembre. Disponible en: https://theconversation.com/sombra-aqui-sombra-alla-reconocimiento-facial-discriminatorio-152035 [04/04/2022].

García-Holgado, Alicia, et al. (2021): “Experiencia piloto para incorporar la ética informática de forma transversal en el Grado de Ingeniería Informática”. En: Actas del V Congreso Internacional sobre Aprendizaje, Innovación y Competitividad. CINAIC. pp. 431-436. Disponible en: https://zaguan.unizar.es/record/107784 [18/01/2022].

Gibert, Karina y Aida Valls (2022): “Building a Territorial Working Group to Reduce Gender Gap in the Field of Artificial Intelligence”. En: Applied Sciences, vol. 12, nº. 6, pp. 3129:1-3129:18. Disponible en: https://doi.org/10.3390/app12063129 [06/04/2022].

González García, Marta I. (2018): “Ciencia tecnología y género”. Disponible en: https://dspacereva.conacyt.gov.py/xmlui-repo/handle/123456789/643 [13/01/2022].

Grosz, Barbara J. et al. (2019): “Embedded EthiCS: integrating ethics across CS education”. En: Communications of the ACM, vol. 62, nº. 8, pp. 54-61. Disponible en: https://dl.acm.org/doi/10.1145/3330794 [13/01/2022].

Leavy, Susan (2018): “Gender bias in artificial intelligence: The need for diversity and gender theory in machine learning”. En: Erika Abraham y Elisabetta Di Nitto (eds.): Proceedings of the 1st international workshop on gender equality in software engineering. New York: Association for Computing Machinery, pp. 14-16. Disponible en: https://doi.org/10.1145/3195570.3195580 [13/01/2022].

Martinez, Naroa y Matute, Helena (2020): “El sexismo en los algoritmos: una discriminación subestimada”. En: The Conversation. Disponible en: https://theconversation.com/el-sexismo-en-los-algoritmos-una-discriminacion-subestimada-140790 [13/01/2022].

Margolis, Jane y Allan Fisher (2002): Unlocking the clubhouse: Women in computing. Cambridge: MIT Press.

Mejías, Ulises y Nick Couldry (2019): “Colonialismo de datos: repensando la relación de los datos masivos con el sujeto contemporáneo”. En: Virtualis, vol. 10, nº. 18, pp. 78-97. Disponible en: https://www.revistavirtualis.mx/index.php/virtualis/article/view/289 [13/01/2022].

MCIU (2021): “Científicas en cifras. 2021”. Disponible en: https://www.ciencia.gob.es/stfls/MICINN/Ministerio/FICHEROS/Cientificas_en_Cifras_2021.pdf [13/01/2022].

Migallón Gomis, M. Violeta (2019): “Perspectiva de género en la docencia de Estadística del grado de Ingeniería Multimedia”. En Rosabel Roig-Vila (dir.); Jordi M. Antolí Martínez; Asunción Lledó Carreres y Neus Pellín Buades (coords.): Redes de Investigación e Innovación en Docencia Universitaria. Alicante, Instituto de Ciencias de la Educación, pp. 487-497. Disponible en: https://rua.ua.es/dspace/bitstream/10045/99146/1/Redes-Investigacion-Innovacion-Docencia-Universitaria-2019-43.pdf [13/01/2022].

Moreda Pozo, Paloma (2018): “Guide of Computer Science to mainstreaming gender in university teaching”. Disponible en: https://www.vives.org/book/guide-of-computer-sciencie-to-mainstreaming-gender-in-university-teaching/ [13/01/2022].

Navas Navarro, Susana (2021): “La perspectiva de género en la inteligencia artificial”. En: Diario La Ley, nº. 48, Sección Ciberderecho. Disponible en: https://diariolaley.laleynext.es/dll/2021/03/08/la-perspectiva-de-genero-en-la-inteligencia-artificial [13/01/2022].

Nurock, Vanessa (2020): “¿Puede prestar cuidados la Inteligencia Artificial?”. En: Cuadernos de Relaciones Laborales, vol. 38, nº. 2, pp. 217-229. Disponible en: https://doi.org/10.5209/crla.70880 [13/01/2022].

O'Neil, Cathy (2018): Armas de destrucción matemática: cómo el big data aumenta la desigualdad y amenaza la democracia. Capitán Swing Libros.

Parlamento Europeo (2021): “Regulación de la inteligencia artificial en la UE: la propuesta del Parlamento”. Disponible en: https://www.europarl.europa.eu/news/es/headlines/society/20201015STO89417/regulacion-de-la-inteligencia-artificial-en-la-ue-la-propuesta-del-parlamento [13/01/2022].

Peña, Marta; Olmedo-Torre, Noelia; Mas de Les Valls, Elisabet y Lusa, Amaia (2021): “Introducing and Evaluating the Effective Inclusion of Gender Dimension in STEM Higher Education”. En: Sustainability, vol. 13, nº. 9, pp. 1-26. Disponible en: https://doi.org/10.3390/su13094994 [13/01/2022].

Richardson, Kathleen (2017): “Paralelismos entre la prostitución y los robots sexuales: una relación «asimétrica»”. En: Tribuna Feminista. Disponible en: https://tribunafeminista.elplural.com/2017/04/paralelismos-entre-la-prostitucion-y-los-robots-sexuales-una-relacion-asimetrica/ [13/01/2022].

Sáinz, Milagros; Arroyo, Lidia y Castaño, Cecilia (2020): Mujeres y Digitalización. De las Brechas a los Algoritmos. Instituto de la Mujer y para la Igualdad de Oportunidades. Ministerio de Igualdad. Disponible en: https://www.inmujeres.gob.es/diseno/novedades/M_MUJERES_Y_DIGITALIZACION_DE_LAS_BRECHAS_A_LOS_ALGORITMOS_04.pdf [13/01/2022].

Sainz de Baranda, Clara et al. (2021): “Perspectiva de género y social en las STEM: La construcción de sistemas inteligentes para detección de emociones”. En: Sociology and Technoscience, vol. 11, nº. Extra 1, pp. 83-115. Disponible en: https://doi.org/10.24197/st.Extra_1.2021.83-115 [12/1/2022].

Schiebinger, Londa (2014): “Scientific research must take gender into account”. En: Nature, vol. 507, nº. 7490, pg. 9. Disponible en: https://doi.org/10.1038/507009a [12/1/2022].

Schiebinger, Londa; Klinge, Ineke; Sánchez de Madariaga, Inés y Schraudner, Martina (2011-2013): “Gendered Innovations in Science, Health & Medicine, Engineering and Environment”. Disponible en: http://genderedinnovationsesp.gendersteunescochair.com [12/1/2022].

Schiebinger, Londa y Klinge, Ineke (2020): “Gendered Innovations 2: How Inclusive Analysis Contributes to Research and Innovation”. Disponible en: https://ec.europa.eu/info/sites/default/files/research_and_innovation/strategy_on_research_and_innovation/documents/ki0320108enn_final.pdf [12/1/2022].

Torres, Soledad (2020): “Dimensión de xénero nos proxectos De i+D+i das TIC”. En: Gómez Suárez, Águeda y Parcero Leonor (coords.): Itinerario Formativo Virtual en Xénero, vol. 3, pp.11-37. Disponible en: https://formacionigualdade.webs7.uvigo.es/recursos/ [13/01/2022].

UC3M (2021): “I Congreso Internacional Tecnologías I+D+i para la Igualdad: soluciones, perspectivas y retos”. Disponible en: https://eventos.uc3m.es/63471/detail/tecnologias-idi-para-la-igualdad-soluciones-perspectivas-y-retos.html [12/1/2022].

UNESCO (2020): “Artificial Intelligence and Gender Equality”. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000374174 [12/1/2022].

UAB (2021): “Memoria de Grado en Inteligencia Artificial”. Disponible en: https://www.uab.cat/doc/DOC_memoriagrau_FP [12/1/2022].

UDC (2021): “Memoria de Máster Universitario en Inteligencia Artificial”. Disponible en: https://www.udc.es/export/sites/udc/_galeria_down/ensino/graos/propostasmod202122/mintelixart.pdf_2063069299.pdf [19/1/2022].

UDeusto (2019): “Memoria de Grado en Ciencia de Datos e Inteligencia Artificial”. Disponible en: https://drive.google.com/file/d/17jmJVtRWEirD0TItSMFMhednzgBLl8za/view [12/1/2022].

UIB (2019): “Máster en Sistemas Inteligentes”. Disponible en: https://estudis.uib.es/es/estudis-de-master/master/MUSI/ [19/1/2022].

UIMP (2021): “Máster Universitario en investigación en Inteligencia Artificial”. Disponible en: http://www.uimp.es/postgrado/estudios/fichaestudio.php?plan=P04C&any=2018-19&lan=es [12/1/2022].

UIV (2020): “Máster Universitario en Inteligencia Artificial”. Disponible en: https://www.universidadviu.com/es/master-inteligencia-artificial [19/1/2022].

UJI (2014): “Máster Universitario en Sistemas Inteligentes”. Disponible en: https://ujiapps.uji.es/ade/rest/storage/6fdb9dfc-d683-4726-a1ee-2a0f8bc43fbb?guest=true [19/1/2022].

UMA (2010): “Máster en Ingeniería del Software e Inteligencia Artificial”. Disponible en: https://www.uma.es/master-en-ingenieria-del-software-e-inteligencia-artificial/?set_language=es [19/1/2022].

UNED (2021): “Máster Universitario en investigación en Inteligencia Artificial”. Disponible en: http://portal.uned.es/portal/page?_pageid=93,71396234&_dad=portal&_schema=PORTAL&idTitulacion=310801 [12/1/2022].

UNIR (2021): “Máster Universitario en Inteligencia Artificial”. Universidad de La Rioja. Consultado en: https://www.unir.net/ingenieria/master-inteligencia-artificial/549202891048/ [12/1/2022].

UPC (2020): “Memoria de Grado en Inteligencia Artificial”. Disponible en: https://www.fib.upc.edu/sites/fib/files/documents/actes/memoria_i_esmenes_verificacio_grau_intelligencia_artificial_fib_jf-1.07.2020_0.pdf [12/1/2022].

UPC (2021): “Master in Artificial Intelligence”. Disponible en: https://masters.fib.upc.edu/masters/master-artificial-intelligence [12/1/2022].

UPM (2020). “Memoria de Grado en Ciencia de Datos e Inteligencia Artificial”. Disponible en: https://www.fi.upm.es/docs/estudios/GCDIA/2581_Memoria_GCDIA_aprobada_febrero2020.pdf [12/1/2022].

UPM (2021): “Máster Universitario en Inteligencia Artificial”. Disponible en: http://www.dia.fi.upm.es/masteria/ [12/1/2022].

UPV (2021): “Master’s degree in Artificial Intelligence, Pattern Recognition and Digital Image”. Disponible en: http://www.upv.es/titulaciones/MUIARFID/ [12/1/2022].

UPV-EHU (2019): “Memoria de Grado en Inteligencia Artificial”. Disponible en: https://gestion-alumnos.ehu.es/tmp/Memoria%20verificada%20Grado%20Inteligencia%20Artificial%2025-11-2019.pdf [12/1/2022].

USC (2022): “Memoria de Grado en Inteligencia artificial”. Disponible en: https://www.usc.gal/export9/sites/webinstitucional/gl/servizos/sxopra/propostas_grao_21_22/Aprx_Grao_Intelixencia_Artificial.pdf [19/1/2022].

Véliz, Carissa (2020): “Prohibir la economía de datos”. En: El Pais, 1 de octubre. Disponible en: https://elpais.com/opinion/2020-10-01/prohibir-la-economia-de-datos.html [12/1/2022].

Verge, Tania (2021): “Gender Equality Policy and Universities: Feminist Strategic Alliances to Re-gender the Curriculum”. En: Journal of Women, Politics & Policy, pp. 1-16. Disponible en: https://doi.org/10.1080/1554477X.2021.1904763 [12/1/2022].

Verge, Tania y Alonso, Alba (2019): “La ceguera al género en el currículum de la ciencia política y su impacto en el alumnado”. En: Revista internacional de Sociología, vol. 77, nº. 3, pp.1-13. Disponible en: https://doi.org/10.3989/ris.2019.77.3.18.003 [12/1/2022].

Wajcman, Judy (2006): El Tecnofeminismo. Madrid: Cátedra.

UNESCO (2019): “I'd blush if I could: closing gender divides in digital skills through education”. Disponible en: https://en.unesco.org/Id-blush-if-I-could [12/1/2022].

Zafra, Remedios (2021): “Un mundo sin párpados”. En: El País, 27 de mayo. Disponible en: https://elpais.com/opinion/2021-05-22/un-mundo-sin-parpados.html [12/1/2022].

Zuboff, Shoshana (2020): La era del capitalismo de la vigilancia.

La lucha de un futuro humano frente a las nuevas fronteras del poder. Barcelona: Paidós.

Downloads

Veröffentlicht

2022-06-30

Zitationsvorschlag

García, E. C. und Calvo, E. (2022) „Perspectiva de género en Inteligencia Artificial, una necesidad“, Cuestiones de Género: de la igualdad y la diferencia, (17), S. 111–127. doi: 10.18002/cg.i17.7200.

Ausgabe

Nr. 17 (2022): Cuestiones de género en física, ingeniería y tecnología

Rubrik

Monográfico

Lizenz

Copyright (c) 2022 Eva Cernadas García, Encina Calvo

Creative-Commons-Lizenz
Dieses Werk steht unter der Lizenz Creative Commons Namensnennung - Nicht-kommerziell - Weitergabe unter gleichen Bedingungen 4.0 International.

Los autores que publican en esta revista están de acuerdo con los siguientes términos:

 

  1. Los autores ceden de forma no exclusiva los derechos de explotación (reproducción, distribución, comunicación pública, transformación) a la Universidad de León, por lo que pueden establecer, por separado, acuerdos adicionales para la distribución no exclusiva de la versión de la obra publicada en la revista (por ejemplo, alojarlo en un repositorio institucional o publicarlo en un libro), con un reconocimiento de su publicación inicial en esta revista. 
  1. Este trabajo se encuentra bajo la Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License. Puede consultarse desde aquí la versión informativa y el texto legal de la licencia.

 

  1. Se permite y se anima a los autores a difundir electrónicamente las versiones pre-print (versión antes de ser evaluada) y/o post-print (versión evaluada y aceptada para su publicación) de sus obras antes de su publicación, ya que favorece su circulación y difusión más temprana y con ello un posible aumento en su citación y alcance entre la comunidad académica.