Por favor, use este identificador para citar o enlazar este ítem:
https://repositorio.mpd.gov.ar/jspui/handle/123456789/6550| Título : | Los derechos de las mujeres y las niñas y la inteligencia artificial y las tecnologías conexas |
| Autos: | |
| Fecha: | 18-may-2026 |
| Resumen : | El Grupo de Trabajo sobre la discriminación contra las mujeres y las niñas emitió un informe en el que analizó la forma en que la inteligencia artificial (IA) y las tecnologías digitales conexas transformaron el panorama en el que las mujeres y las niñas ejercen sus derechos humanos. En ese sentido, si bien reconoció el potencial de estas herramientas para promover la igualdad de género y abordar desigualdades históricas, destacó que su diseño y despliegue debe fundamentarse en enfoques feministas. Sobre este punto, puso de relieve la escasa atención que las iniciativas de regulación han prestado al impacto de la IA en las mujeres y las niñas. Asimismo, señaló las condiciones previas necesarias para promover una igualdad de género sustantiva y se sumó a los crecientes lineamientos a nivel mundial a fin de establecer “líneas rojas” en materia de inteligencia artificial. |
| Decisión: | Entre sus conclusiones, el Grupo de Trabajo hizo hincapié en la necesidad de que los Estados promovieran el acceso equitativo a la IA y a las tecnologías digitales, y velaran por que se sustentara en el derecho de los derechos humanos y en los principios feministas que promuevan una igualdad sustantiva. Asimismo, instó a garantizar la participación y el liderazgo igualitario de las mujeres y la armonización de la legislación y los mecanismos nacionales para hacer frente a la violencia de género facilitada por la tecnología. Por otro lado, recomendó a los Estados la promulgación y el cumplimiento de legislación que proteja la privacidad y los datos personales de las mujeres y las niñas, regule su recopilación, uso y conservación y prohíba su intercambio sin consentimiento con fines lucrativos o de perfilado ilícito. Finalmente, propuso la elaboración de leyes que regularan la vigilancia basada en IA y se prohíban prácticas de vigilancia masiva, arbitraria e intrusiva sin las debidas garantías procesales ni la supervisión adecuada. |
| Argumentos: | 1. Inteligencia artificial. Convención sobre la eliminación de todas las formas de discriminación contra la mujer. Género. Perspectiva de género. “Los enfoques feministas, con perspectiva de género y basados en los derechos humanos en el ámbito de la tecnología digital reconocen la naturaleza desigual de las sociedades en lo que respecta al género, los consiguientes sesgos que se reflejan en los datos con los que se entrenan los sistemas de IA y las dinámicas de poder condicionadas por el género que determinan el diseño y el desarrollo tecnológicos [hay nota]. Al Grupo de Trabajo le preocupa especialmente la forma en que la IA acentúa los perjuicios que ya sufren las mujeres y las niñas al integrarse en la infraestructura, las instituciones y las tecnologías cotidianas. Estos perjuicios se ven agravados por barreras estructurales persistentes, a saber, el predominio masculino en este campo profesional, la insuficiente rendición de cuentas por las vulneraciones cometidas por agentes del sector privado, una regulación inadecuada y unas lógicas de mercado que normalizan o incentivan elementos discriminatorios y misóginos. [L]a misoginia no es un defecto de diseño, sino una característica de unos sistemas diseñados para captar y mantener la atención en un mundo patriarcal [hay nota]” (párr. 5). “[E]l Grupo de Trabajo señala tres condiciones previas que deben darse para que la IA y la tecnología digital contribuyan a la realización efectiva de los derechos de las mujeres y las niñas, en lugar de socavarla: reducir la brecha digital; utilizar la IA y las tecnologías digitales para fortalecer –no para debilitar– los derechos humanos de las mujeres y las niñas; y promover la participación y el liderazgo efectivos de las mujeres y las niñas en la vida pública y política [hay nota]. Estas condiciones previas no representan una lista exhaustiva de las reformas necesarias, sino que apuntan a los cambios sistémicos que tienen mayores probabilidades de generar un impacto tangible e inmediato […]. La regulación de la IA es necesaria y urgente. Como se constata en este informe, los perjuicios no son hipotéticos. Las mujeres y las niñas de todo el mundo ya están viviendo estas situaciones y reaccionando ante ellas. La gobernanza de la IA solo podrá responder a las cuestiones de género si se basa en los principios de inclusión, participación efectiva, rendición de cuentas, igualdad sustantiva, transparencia y supervisión” (párrs. 6 y 17). 2. Género. Perspectiva de género. Igualdad. Tecnologías de la información y la comunicación. Internet. “La verdadera igualdad de género sustantiva en la era digital depende de la igualdad de acceso a la tecnología y de la eliminación proactiva de su impacto negativo en las disparidades existentes y emergentes en todos los ámbitos de la vida económica, social y política [hay nota]. Como se ha señalado anteriormente, la obligación que tienen los Estados de velar por que las mujeres disfruten en igualdad de condiciones de sus derechos humanos es extensible a los agentes privados que se encuentran sujetos a su jurisdicción” (párr. 18). “Los Estados pueden hacer frente a estos riesgos mediante un enfoque holístico del acceso a Internet que proporcione una conectividad significativa centrada en la comunidad [hay nota], que englobe la asequibilidad, la fiabilidad y la calidad del acceso, y que se vea favorecida por un entorno propicio más amplio, que incluya la infraestructura y un suministro eléctrico fiable [hay nota]. Todo ello debe ir acompañado de medidas destinadas a reducir la brecha de género en materia de competencias digitales y a combatir las normas socioculturales discriminatorias [hay nota]” (párr. 20). 3. Violencia digital. Género. Estereotipos de género. Trabajo. Educación. Diversidad cultural. “[L]a rápida proliferación de las herramientas de IA ha suscitado serias preocupaciones en torno a la explotación de género en el entorno laboral [hay nota]. El despliegue de la IA depende, en gran medida, del empleo mal remunerado y poco valorado de innumerables mujeres y niñas que se dedican al trabajo con datos, especialmente en África y Asia. Estas trabajadoras se ven a menudo expuestas a contenidos traumáticos y explícitos en condiciones laborales de explotación [hay nota]” (párr. 21). “Esta dinámica es un reflejo de una tendencia más amplia comúnmente conocida como ‘colonialismo digital’, por la cual la explotación de la mano de obra –incluida la de mujeres y niñas– en la mayoría mundial impulsa el desarrollo tecnológico y el crecimiento económico en la minoría mundial [hay nota]. Al mismo tiempo, las mujeres y las niñas continúan siendo desproporcionadamente vulnerables a la pérdida de sus empleos debida a la utilización de la IA y otras tecnologías, en especial en sectores en los que predominan las mujeres, como la salud y los cuidados, la administración de empresas y el trabajo administrativo [hay nota]” (párr. 22). “[L]as herramientas de IA pueden ampliar el acceso a la educación gracias a que permiten realizar investigaciones generativas, aprender idiomas y recibir lecciones y comentarios y correcciones personalizadas [hay nota]. Sin embargo, este uso no está exento de riesgos: los algoritmos sesgados pueden dirigir a las mujeres y las niñas hacia unos resultados en materia de educación y empleo que reproducen la discriminación de género, como por ejemplo, herramientas de tutoría basadas en IA que disuaden a las niñas de estudiar ciencia, tecnología, ingeniería y matemáticas, o que promueven los estereotipos de género en determinadas profesiones [hay nota]” (párr. 23). “[E]s necesario que los modelos lingüísticos de IA se entrenen con lenguas infrarrepresentadas e indígenas, a fin de garantizar que todas las mujeres y las niñas, y no solo aquellas que hablan lenguas dominantes, puedan acceder a estas tecnologías y beneficiarse de ellas [hay nota]. Este tipo de entrenamiento de los modelos lingüísticos de IA también es esencial para asegurar la inclusión de la diversidad de fuentes de conocimiento y cultura, incluidos los conocimientos tradicionales, garantizar los derechos de propiedad intelectual de todas las personas portadoras de cultura y evitar el borrado y la convergencia cultural, que amplifican las imágenes y voces dominantes y uniformes y entrañan un riesgo de homogeneización [hay nota]” (párr. 25). 4. Derechos políticos. Libertad de expresión. Violencia digital. Violencia de género. Perspectiva de género. Tecnologías de la información y la comunicación. “En un momento en el que la participación ciudadana y el discurso político se trasladan cada vez más a los espacios digitales, la capacidad de expresarse, organizarse y defender causas en línea se ha convertido en algo esencial; sin ella, las mujeres y las niñas quedan efectivamente excluidas de los ámbitos en los que se ejerce la influencia y el poder y, de hecho, se construye el futuro. El Grupo de Trabajo ya ha informado anteriormente sobre las amenazas contemporáneas que plantean las tecnologías, incluida la IA, para los derechos políticos, económicos, sociales y culturales de las mujeres, en particular el derecho de las mujeres a ser elegidas y a ocupar un cargo político, el derecho de las mujeres a trabajar en un contexto marcado por los cambios tecnológicos y demográficos [hay nota], y las barreras estructurales que limitan o impiden la participación de las niñas y las mujeres jóvenes en el activismo [hay nota]” (párr. 26). “Las herramientas de IA, cuando se diseñan y adoptan sin tener en cuenta los riesgos de género, pueden convertirse en obstáculos importantes para la plena participación de las mujeres y las niñas en la vida pública, generando formas de exclusión y riesgo en los ámbitos político, cívico y económico [hay nota]. La convergencia de tecnologías, como los programas espía con IA incorporada, se está convirtiendo en un riesgo omnipresente para las activistas, la sociedad civil y las defensoras de los derechos humanos [hay nota]. Cuando se adoptan de esta manera, la IA impide que las mujeres puedan ejercer plenamente los derechos que les confiere el derecho internacional, en contravención de las obligaciones señaladas anteriormente” (párr. 27). “No se trata de un riesgo hipotético. El abuso facilitado por la IA ya está transformando la participación de las mujeres y las niñas en la vida pública. La violencia de género y la desinformación facilitadas por la tecnología se dirigen contra políticas con el fin de humillarlas, desacreditarlas y silenciarlas. Tres cuartas partes de las periodistas encuestadas por la UNESCO han sido objeto de ciberviolencia, lo que las ha llevado a autocensurarse, a experimentar problemas de salud mental y, en el caso de una de cada cuatro, a sufrir agresiones fuera del entorno digital [hay nota]. Este abuso se produce en un contexto en el que las mujeres y las niñas se están retirando de la vida pública y cultural como respuesta al acoso en línea [hay nota], una tendencia exacerbada por el auge de la cultura de la machoesfera, caracterizada por normas masculinas rígidas que privilegian el dominio y confluyen con problemas crecientes de estrés social, depresión y desconfianza en las instituciones, especialmente entre los hombres jóvenes [hay nota] (párr. 28). “[L]a protección de los derechos políticos de las mujeres y del derecho de las niñas a la participación es una obligación fundamental de los Estados en virtud del derecho internacional de los derechos humanos [hay nota]. Esa obligación no puede delegarse ni sustituirse por la actuación voluntaria de agentes privados. Cuando se diseñan, regulan y aplican de forma responsable, los productos de IA pueden utilizarse para generar nuevas oportunidades de comunicación, conexión e intercambio. [L]a traducción en tiempo real y otras herramientas de accesibilidad pueden aumentar el alcance y permitir a las mujeres desarrollar, ampliar y compartir sus ideas, algo que beneficia en particular a las mujeres con menos recursos y menor acceso a un público global. Dado que las tecnologías de IA pueden utilizarse desde casa, pueden resultar especialmente transformadoras para las mujeres y las niñas que afrontan barreras o riesgos para participar físicamente en la vida pública y política [hay nota]” (párr. 30). 5. No discriminación. Derecho a la imagen. Consentimiento. Género. Violencia de género. Violencia digital. Poder judicial. “El Grupo de Trabajo subraya que la violencia de género facilitada por la tecnología no constituye un conjunto aislado de abusos en línea, sino una herramienta estructural de discriminación que limita la participación de las mujeres y las niñas en la vida pública, política y cívica. La violencia virtual suele reflejar y amplificar los patrones de violencia y represión presentes en los espacios públicos físicos [hay nota]. Al excluir a las mujeres y a las niñas de los espacios digitales, la violencia de género facilitada por la tecnología refuerza la desigualdad, socava la autonomía y debilita las condiciones necesarias para una participación democrática inclusiva, poniendo así en peligro sus derechos humanos, en contravención de lo dispuesto en el artículo 19 del Pacto Internacional de Derechos Civiles y Políticos y en el artículo 7 de la Convención sobre la Eliminación de Todas las Formas de Discriminación contra la Mujer [hay nota]. El impacto de este tipo de violencia supera con creces el perjuicio individual, ya que condiciona qué personas pueden expresarse, desempeñar un papel de liderazgo y ser escuchadas. Sin las intervenciones necesarias, este perjuicio se agravará con el tiempo, a medida que las plataformas digitales adquieran un papel cada vez más central en la participación pública” (párr. 49). “[E]l ministerio público, la judicatura y el personal de los servicios sociales pueden necesitar capacitación específica para reconocer las formas de violencia de género facilitada por la tecnología, incluidas aquellas que se hacen posibles gracias a la IA, como las ultrafalsificaciones y el abuso relacionado con el uso indebido de imágenes íntimas sin consentimiento [hay nota]. Es posible que las fuerzas del orden no dispongan del equipo técnico necesario para hacer frente a la violencia de género facilitada por la tecnología, incluidas herramientas para la recopilación de pruebas electrónicas [hay nota]. Los Estados tampoco tienen en cuenta, en sus iniciativas de reforma legislativa, las interpretaciones históricas, contextuales y culturales del abuso relacionado con el uso indebido de imágenes íntimas sin consentimiento. Las definiciones de intimidad centradas en la desnudez pueden no reflejar los perjuicios que sufren las mujeres y las personas de género diverso en algunas comunidades [hay nota], y las leyes vigentes, heredadas de la época colonial, sobre exhibición obscena –que penalizan a las mujeres y a las niñas cuyas imágenes se difunden sin su consentimiento– las disuaden aún más de denunciar los casos de abuso [hay nota]” (párr. 50). “La falta de una visión global e integral del panorama de la violencia de género facilitada por la tecnología ha obstaculizado una intervención eficaz y coordinada. Los enfoques proteccionistas o punitivos que se centran exclusivamente en las consecuencias jurídicas o penales, sin prestar atención a los objetivos subyacentes y al impacto de esta violencia, pueden resultar inadecuados y desempoderar a las mujeres y a las niñas. Las intervenciones diseñadas únicamente para proteger a las mujeres y a las niñas de los daños en línea, sin el objetivo paralelo de garantizar que puedan participar plenamente y desempeñar un papel de liderazgo en los espacios digitales, pueden reforzar involuntariamente su exclusión. Por lo tanto, las intervenciones eficaces deben perseguir dos objetivos simultáneos: prevenir la violencia de género en línea y garantizar la rendición de cuentas por ella, y promover activamente comunidades digitales en las que las mujeres y las niñas puedan participar, expresarse y ejercer liderazgo en igualdad de condiciones” (párr. 52). 6. Derecho a la privacidad. Protección de datos personales. Género. Perspectiva de género. Principio de legalidad. Principio de proporcionalidad. “Si bien las aplicaciones basadas en IA pueden ofrecer a las mujeres y las niñas herramientas valiosas para gestionar su salud, acceder a la educación y desarrollar actividades empresariales, a menudo dependen de la recopilación de grandes volúmenes de datos personales y sensibles, que abarcan información demográfica y datos relativos al comportamiento, la identidad de género, la afiliación religiosa, la salud, la situación de pareja y la orientación sexual [hay nota]. La falta de transparencia, de un verdadero consentimiento informado y de una regulación adecuada menoscaba la capacidad de las mujeres para decidir sobre su información personal y sus identidades digitales, y puede poner en riesgo su seguridad y sus medios de vida [hay nota]. Sin una intervención reguladora inmediata, estas herramientas seguirán erosionando la autonomía digital y física, así como la igualdad, de las mujeres y las niñas” (párr. 54). “Resultan especialmente preocupantes las tecnologías de vigilancia basadas en IA que se utilizan como arma contra las mujeres y las niñas que no se subordinan a las normas de género patriarcales en lo que respecta a su forma de vestir, su expresión o su participación en la vida pública o política. Los Estados suelen utilizar este tipo de tecnologías –como la biometría basada en IA [hay nota], la tecnología de reconocimiento facial [hay nota] y los programas espía [hay nota]– con el pretexto de proteger la seguridad nacional [hay nota] y la defensa de la moral [hay nota]. Además, algunos agentes privados, gracias a un acceso sin precedentes a datos sensibles, contribuyen a que estas tecnologías se utilicen como arma al vender dichos datos a Gobiernos y empresas privadas del sector de la defensa [hay nota]” (párr. 55). “Cuando los agentes estatales y no estatales utilizan estas tecnologías de manera que menoscaban los derechos de las mujeres y las niñas a la privacidad, la libertad de circulación, la libertad de expresión o la participación en la vida pública, toda justificación basada en consideraciones de seguridad, eficiencia o conveniencia administrativa debe ser objeto de una evaluación y un análisis críticos. El Grupo de Trabajo se muestra inequívoco: no puede presentarse justificación alguna para el uso de estas tecnologías con fines de vigilancia masiva o de supresión de los derechos de las mujeres y las niñas. Esos usos no pueden justificarse a la luz de los criterios estrictos de legalidad, necesidad y proporcionalidad, y deben prohibirse categóricamente de conformidad con el derecho internacional aplicable, incluidos los artículos 2, 17 y 19 del Pacto Internacional de Derechos Civiles y Políticos” (párr. 58). |
| Tribunal : | Grupo de Trabajo sobre sobre la discriminación contra las mujeres y las niñas |
| Voces: | CONSENTIMIENTO CONVENCIÓN SOBRE LA ELIMINACIÓN DE TODAS LAS FORMAS DE DISCRIMINACIÓN CONTRA LA MUJER DERECHO A LA IMAGEN DERECHO A LA PRIVACIDAD DERECHOS POLÍTICOS DIVERSIDAD CULTURAL EDUCACIÓN ESTEREOTIPOS DE GÉNERO GÉNERO IGUALDAD INTELIGENCIA ARTIFICIAL INTERNET LIBERTAD DE EXPRESIÓN NO DISCRIMINACIÓN PERSPECTIVA DE GÉNERO PODER JUDICIAL PRINCIPIO DE LEGALIDAD PRINCIPIO DE PROPORCIONALIDAD PROTECCIÓN DE DATOS PERSONALES TECNOLOGÍAS DE LA INFORMACIÓN Y LA COMUNICACIÓN (TIC) VIOLENCIA DE GÉNERO VIOLENCIA DIGITAL |
| Jurisprudencia relacionada: | https://repositorio.mpd.gov.ar/jspui/bitstream/123456789/4798/3/Libro%20Violencia%20de%20g%c3%a9nero%20en%20entornos%20digitales.pdf |
| Aparece en las colecciones: | Jurisprudencia internacional |
Ficheros en este ítem:
| Fichero | Descripción | Tamaño | Formato | |
|---|---|---|---|---|
| 4. Los derechos de las mujeres y las niñas y la inteligencia artificial y las tecnologías digitales conexas.pdf | Informe completo | 476.58 kB | Adobe PDF | Visualizar/Abrir |