Sesgos algorítmicos y género: pensar la inteligencia artificial desde la equidad
Rubí Peniche Cetzal*
La inteligencia artificial no es neutral: refleja las desigualdades de género y clase que ya existen. En México, la brecha digital limita el acceso de muchas mujeres a la tecnología, invisibilizando sus realidades en los algoritmos. Pensar la IA desde la equidad significa garantizar datos representativos, participación femenina en su diseño y políticas públicas que cierren la brecha.
La inteligencia artificial (IA) se ha convertido en una de las tecnologías más influyentes de nuestro tiempo. Sus aplicaciones van desde la medicina hasta la educación, pasando por el comercio y la vida cotidiana. Sin embargo, detrás de la promesa de eficiencia y objetividad, se esconde un problema que no es nuevo, pero que ahora se hace más visible: los sesgos algorítmicos. Estos sesgos, lejos de ser meras fallas técnicas, reflejan desigualdades históricas y culturales, entre ellas las de género. Pensar la IA desde la equidad implica reconocer que la tecnología no es neutral y que, si no se atienden las raíces de la desigualdad, los algoritmos pueden convertirse en espejos que amplifican las injusticias.
La ilusión de la neutralidad tecnológica
La UNESCO ha señalado que los sistemas de IA tienden a reproducir desigualdades de género, lo que afecta el desarrollo profesional de las mujeres y limita su participación en los sectores tecnológicos. En México, la brecha digital es más profunda en comunidades rurales y entre mujeres de bajos ingresos, lo que restringe su acceso a dispositivos y formación tecnológica[1]. Esto significa que muchas mujeres no participan en la generación de datos que entrenan los algoritmos, quedando invisibilizadas en los sistemas que luego toman decisiones sobre empleo, salud o consumo.
Los algoritmos aprenden de datos y estos datos, lejos de ser neutrales, están impregnados de las huellas de nuestras estructuras sociales. Los sesgos culturales se trasladan a la tecnología porque los sistemas de IA se entrenan con información que reproduce patrones históricos de discriminación[2]. Así, lo que parecía una herramienta objetiva puede terminar reforzando desigualdades.
La IA, al basarse en grandes volúmenes de datos, refleja las desigualdades que ya existen. Si los datos provienen de contextos donde las mujeres han tenido menor acceso a ciertos espacios, los algoritmos tenderán a reproducir esa exclusión. En todos estos casos, la IA no inventa el sesgo: lo hereda de los datos y lo amplifica en sus decisiones[3].
Los sesgos algorítmicos pueden limitar el acceso de las mujeres a recursos económicos, reforzar estereotipos de género y dejar desprotegidas a quienes sufren violencia digital. Es necesario repensar el concepto de “discriminación algorítmica”, porque la tecnología está creando nuevas formas de exclusión que los marcos legales tradicionales aún no contemplan[4].
En este sentido, la IA no solo refleja desigualdades: también puede consolidarlas en estructuras invisibles y difíciles de cuestionar. Si un algoritmo decide quién accede a un crédito o a un empleo, y lo hace con sesgos de género, las mujeres enfrentan barreras adicionales que no siempre son visibles ni fáciles de denunciar.
La importancia de la perspectiva de género
La falta de diversidad en equipos de investigación y desarrollo tecnológico influye directamente en la reproducción de sesgos[5]. Incorporar una perspectiva de género en la IA implica varias acciones:
Diversificar los equipos que diseñan algoritmos.
Realizar auditorías periódicas para detectar sesgos.
Construir bases de datos inclusivas que representen la pluralidad de identidades y experiencias.
La perspectiva de género no es un añadido opcional, sino una condición necesaria para que la IA contribuya a la equidad. Sin ella, corremos el riesgo de que las tecnologías se conviertan en nuevas formas de exclusión.
Pensar y reflexionar en esta temática no significa crear una tecnología exclusiva para mujeres, sino una que reconozca las desigualdades históricas y busque corregirlas. Es una invitación a imaginar tecnologías que no solo reflejen la sociedad tal como es, sino que contribuyan a transformarla.
Esto requiere voluntad política, inversión en investigación con perspectiva de género y un compromiso social para exigir tecnologías más justas; en última instancia, es un proyecto colectivo que busca democratizar la tecnología y ponerla al servicio de la equidad.
Invitación al diálogo
La IA no es un espejo neutro de la realidad. Es un sistema que puede amplificar desigualdades si no se diseña con conciencia crítica[6]. Los sesgos algorítmicos de género son una llamada de atención para repensar cómo queremos que la tecnología participe en nuestras vidas. Pensar la IA desde la equidad significa reconocer la intersección entre género y clase, y trabajar para que las mujeres no solo sean usuarias pasivas, sino protagonistas en la construcción de tecnologías inclusivas.
El reto es cultural y político: entender que la equidad no es un añadido opcional, sino el corazón de cualquier proyecto tecnológico que aspire a transformar la sociedad. La decisión está en nuestras manos: o dejamos que los algoritmos reproduzcan el pasado, o los diseñamos para abrir caminos hacia un futuro más justo.
La respuesta pasa por la participación activa, la vigilancia ciudadana y la construcción de políticas públicas con perspectiva de género.
Redes sociales
Correo: rubi.peniche@uabc.edu.mx
FB: Rubi Peniche
X: @peniche_rubi
Referencias
Comisión de Mujeres y Ciencia del CSIC (2024). Informe de Mujeres Investigadoras. CSIC. En https://digital.csic.es/handle/10261/364083
Guzmán Gómez, M. E. (2025). Inteligencia artificial y equidad de género. Una perspectiva histórica de los sesgos culturales. SciELO. https://doi.org/10.36105/stx.2025n14.02
Lousada Arochena, J. F. (2024). Inteligencia artificial y sesgos discriminatorios: ¿es necesario un nuevo concepto de discriminación algorítmica? IgualdadES, 11, 97-123. https://doi.org/10.18042/cepc/IgdES.11.0
Instituto Nacional de Estadística y Geografía [INEGI] (2024). Mujeres y hombres en México. INMUJERES. www.inegi.org.mx
Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura [UNESCO] (2023). Un llamado a contrarrestar las desigualdades de género y sesgos en los sistemas de Inteligencia Artificial. Serie de seminarios web sobre ética e Inteligencia Artificial del Consejo Empresarial de la UNESCO. https://www.unesco.org/es/articles/un-llamado-contrarrestar-las-desigualdades-de-genero-y-sesgos-en-los-sistemas-de-inteligencia
United Nations Development Programme (2025). Gender Bias in AI Risks and Opportunities for Latin America and the Caribbean. September 29, 2025 https://www.undp.org/latin-america/publications/gender-bias-ai-risks-and-opportunities-latin-america-and-caribbean
*Rubí Peniche Cetzal
Integrante de MUxED. Doctora en Investigación Educativa por la Universidad de Granada, España. Investigadora titular del Instituto de Investigación y Desarrollo Educativo de la Universidad Autónoma de Baja California, México. Sus líneas de investigación se enfocan en la eficacia escolar, el bachillerato y la transición a la educación superior.