Por favor, use este identificador para citar o enlazar este ítem:
https://repositorio.mpd.gov.ar/jspui/handle/123456789/6538| Título : | El derecho a la privacidad en la era digital |
| Fecha: | 29-ago-2025 |
| Resumen : | El Alto Comisionado de las Naciones Unidas para los Derechos Humanos presentó un informe sobre el impacto de la recopilación y el tratamiento masivo de datos. El documento analizó los riesgos de discriminación y el alcance desigual del derecho a la privacidad. En ese sentido, evaluó el uso de sistemas algorítmicos, inteligencia artificial y biometría en áreas como justicia penal, migración, salud y asistencia social. También examinó las fallas de diseño, la falta de transparencia y los sesgos estructurales que profundizan la exclusión. Por último, realizó una serie de recomendaciones dirigidas a los Estados y a las empresas. |
| Decisión: | El Alto Comisionado de las Naciones Unidas para los Derechos Humanos concluyó que la creciente dependencia de tecnologías basadas en datos e inteligencia artificial perpetúa y agrava las desigualdades existentes. Sobre ese aspecto, calificó a la discriminación y a la desigualdad como fallas sistémicas que exigen respuestas urgentes. Recomendó a los Estados establecer marcos normativos integrales sobre privacidad, datos e inteligencia artificial; exigió dotar de recursos a autoridades independientes de control; instó a no supeditar el acceso a prestaciones sociales o servicios esenciales a la identificación digital obligatoria; reclamó garantizar el acceso a recursos judiciales efectivos y asistencia legal para las víctimas; solicitó que los Estados y las empresas apliquen la debida diligencia en derechos humanos en todo el ciclo de vida de los sistemas. Finalmente, demandó aumentar la transparencia mediante auditorías independientes y prohibir las aplicaciones incompatibles con el derecho internacional. |
| Argumentos: | 1. Derecho a la privacidad. Servicios públicos. No discriminación. Discriminación racial. Vulnerabilidad. Inteligencia Artificial. Datos biométricos. “A menudo surgen problemas cuando los sistemas automatizados de toma de decisiones, los análisis predictivos y los sistemas de reconocimiento biométrico incorporan sesgos o se emplean en contextos que hacen probable que singularicen o afecten desproporcionadamente a determinados grupos. [T]ienen problemas de precisión patentes, en función del tono de la piel y del sexo […]. Históricamente, las tecnologías de vigilancia se han desplegado de forma que afectan desproporcionadamente a las comunidades marginadas y con bajos ingresos, y a veces se utilizan para atacar a determinados grupos. Los sistemas de reconocimiento biométrico proporcionan la información necesaria para elaborar perfiles de las personas en función de su etnia, raza, género y otras características personales. También se han utilizado sistemas de reconocimiento biométrico para identificar y rastrear a manifestantes pacíficos y disidentes, lo que equivale a discriminación por motivos de opinión política” (párr. 19). “La policía y los tribunales utilizan cada vez más herramientas de predicción basadas en datos. [H]erramientas con las que predecir dónde pueden producirse delitos y sistemas para determinar el riesgo de reincidencia o señalar a personas como riesgos o probables sospechosos […]. Está bien documentado que los resultados de estos sistemas suelen mostrar importantes sesgos, a menudo como consecuencia de sesgos históricos en los sistemas de aplicación de la ley y de justicia penal, que afectan negativamente a las minorías raciales, étnicas y religiosas en particular” (párr. 20). “La infraestructura para gestionar la migración depende cada vez más de amplias tecnologías basadas en datos, como la inteligencia artificial, los sistemas algorítmicos automatizados de toma de decisiones, el análisis predictivo y las tecnologías digitales relacionadas. Estas tecnologías pueden utilizarse para muchos fines, entre ellos la detección en las fronteras físicas, la determinación de riesgos definidos por el Estado en evaluaciones algorítmicas de riesgos, la verificación de identidades y la gestión de la presencia de migrantes en un país. Los datos recopilados, almacenados, procesados y compartidos pueden incluir datos biométricos, datos sanitarios, datos de medios sociales, logros educativos, situación laboral, nacionalidad, datos de localización, información sobre redes personales y profesionales, situación familiar, antecedentes penales, datos financieros y datos sobre actividades políticas y de otro tipo. [L]os efectos adversos suelen afectar desproporcionadamente a personas de determinados orígenes nacionales o étnicos debido, por ejemplo, a los prejuicios integrados en los sistemas de adopción de decisiones basada en datos y, en ocasiones, a las prácticas discriminatorias de aplicación de perfiles” (párr. 21). “Las tecnologías basadas en datos se están convirtiendo en un elemento cada vez más central de la forma en que los Estados gestionan y prestan servicios esenciales, entre ellos la asistencia social y la salud pública […]. El acceso a los servicios sociales se ha relacionado a menudo con el deterioro de las garantías de privacidad de las personas con bajos ingresos, ya que se espera que los solicitantes y beneficiarios proporcionen amplia información sobre su vida privada, lo que puede llegar a incluir medidas intrusivas. Este fenómeno afecta desproporcionadamente a las mujeres y a los miembros de minorías raciales o étnicas y puede perpetuarse gracias a las tecnologías digitales […]. El uso de sistemas algorítmicos de toma de decisiones o de apoyo puede dar lugar al corte de una fuente principal de ingresos, la denegación del acceso a tratamiento médico y la denegación de una vivienda básica; incluso puede desencadenar investigaciones y procesos penales. La denegación de prestaciones puede tener efectos negativos de gran alcance en la vida de las personas, como la insolvencia, la pérdida de la vivienda y el deterioro de la salud. Como consecuencia, es posible que las personas más necesitadas de ayuda no se beneficien de la automatización, sino que queden excluidas. Dados los riesgos de tales impactos negativos, es esencial que los sistemas sean especialmente fiables y estén sujetos a una supervisión minuciosa” (párrs. 22, 23 y 24). “[L]as aplicaciones de salud digital afectan a algunos de los aspectos más íntimos y sensibles de la vida de las personas, lo que atañe a dimensiones fundamentales de la privacidad. [L]as tecnologías de salud digital pueden perpetuar el capacitismo, el racismo, el sexismo o la discriminación por motivos de orientación sexual o identidad de género, entre otros. [L]as herramientas y aplicaciones médicas pueden funcionar de forma diferente en función de factores como el tono de la piel, el origen étnico, la edad y el sexo […]. Múltiples estudios han indicado que los datos de salud, incluidos los recopilados a través de aplicaciones de salud móvil, se comparten a menudo sin el consentimiento o incluso el conocimiento de las personas afectadas. Esto es especialmente preocupante cuando la información incluye la identidad de género, la sexualidad, la ubicación o el estado de salud, inclusive cuando dicha información puede deducirse de otros datos. Las mujeres que buscan atención de la salud reproductiva pueden estar expuestas a riesgos particulares” (párrs. 26, 27 y 28). “En los últimos años han cobrado un notable impulso los esfuerzos de los Estados por desplegar sistemas digitales fundamentales, incluidos sistemas de identidad y pago, que permitan la prestación a escala de servicios esenciales en ámbitos como el bienestar, la sanidad, la educación y las finanzas. Estos sistemas tienen un gran potencial para facilitar una mayor inclusión, pero también pueden constituir un obstáculo para el disfrute de los derechos humanos o incluso contribuir a violaciones y abusos de los derechos. Como capa clave para permitir las transacciones de datos intensivos entre dominios, la infraestructura pública digital puede facilitar la vigilancia arbitraria. Debido a la escala y la naturaleza de los datos acumulados, cualquier violación de acceso a los datos puede afectar a la sociedad de manera profunda. También existen pruebas fehacientes de los efectos discriminatorios y excluyentes asociados a las infraestructuras públicas digitales, en particular los sistemas de identificación digitalizados” (párr. 29). 2. Principio de proporcionalidad. Vigilancia electrónica. Datos biométricos. Inteligencia artificial. Protección de datos personales. Empresa. No discriminación. Vulnerabilidad. “[U]na serie de actividades de vigilancia llevadas a cabo tanto por los Estados como por las empresas constituyen importantes amenazas para el derecho a la privacidad y otros derechos humanos. La mayoría de las actividades públicas y muchas privadas pueden controlarse, cuantificarse y analizarse. Las cámaras de vigilancia son omnipresentes en muchos lugares y cada vez están más equipadas con tecnología de reconocimiento biométrico. Las llamadas ciudades inteligentes se están implantando en todas las regiones del mundo, creando sistemas muy complejos de recopilación y tratamiento constante de datos, habilitados por sensores cada vez más avanzados. Los espacios en línea están sometidos a una vigilancia constante por parte de autoridades y empresas que recopilan cantidades ingentes de información sobre los internautas, elaboran perfiles de las personas y analizan las redes. Estos datos pueden utilizarse con fines legítimos e ilegítimos, incluso en situaciones de conflicto. Cada vez se presta más atención a la forma en que se utilizan en los conflictos armados los datos recopilados y procesados, entre otros mediante vigilancia, y a las graves repercusiones que ello tiene sobre la población civil y los bienes de carácter civil. Se puede abusar de la vigilancia ubicua para la elaboración de perfiles raciales y para identificar y rastrear a personas con fines discriminatorios […]. Incluso cuando se usa para objetivos legítimos, desde la gestión de entornos urbanos complejos hasta la facilitación del acceso a los servicios públicos, dicha vigilancia no suele cumplir el requisito de proporcionalidad. Plantea un serio desafío al derecho a la privacidad y a las libertades que constituyen el núcleo de las sociedades abiertas y democráticas” (párr. 31). “Los algoritmos de selección centrados en la interacción, que seleccionan contenidos basándose en datos sobre patrones de navegación anteriores, también pueden conducir a la amplificación de la incitación al odio y los contenidos xenófobos. Al mismo tiempo, los estudios han revelado que la moderación automática de contenidos, incluidos los sistemas de detección de discursos de odio, puede estar sesgada y, por tanto, limitar desproporcionadamente los contenidos de miembros de minorías [hay nota]. Estos sistemas tienden a ser especialmente poco fiables, y potencialmente perjudiciales, respecto a las lenguas no dominantes. También se ha demostrado que los generadores de imágenes de inteligencia artificial generativa producen resultados con un alto grado de prejuicios” (párr. 32). “Las herramientas basadas en datos plantean retos sin precedentes en lo que respecta a la transparencia de la toma de decisiones y la rendición de cuentas por las mismas. Predominan dos retos. En primer lugar, los gobiernos y los agentes privados no suelen facilitar información adecuada sobre sus productos, servicios y herramientas basados en datos. Las personas afectadas por estos sistemas y el público en general a menudo no pueden saber cuándo los sistemas basados en datos toman decisiones que les afectan, y mucho menos cómo. En tales circunstancias, es difícil, cuando no imposible, examinar con detenimiento la adopción de decisiones basada en datos. En segundo lugar, el entorno de datos, los algoritmos y los modelos son inmensamente complejos” (párr. 36). “La escalabilidad de las herramientas basadas en datos puede amplificar drásticamente los efectos negativos de las tasas de error y sesgo, incluso cuando estos son reducidos. Los problemas arraigados en tales sistemas pueden abarcar a cientos, miles o incluso millones de personas. Esa es una diferencia clave con respecto a los prejuicios individuales. [M]uchos Estados carecen de marcos normativos suficientes, incluidas leyes de protección de datos, e incluso cuando existen, las autoridades pueden tener una capacidad limitada para hacerlas cumplir eficazmente, especialmente en mercados de bajos ingresos. Ello deja a las personas de esas regiones especialmente expuestas a violaciones y abusos de los derechos humanos, incluidas las prácticas discriminatorias en materia de datos. Si bien muchos Estados han mejorado sus marcos normativos, políticas y prácticas en los últimos años, es necesario redoblar los esfuerzos para garantizar que el derecho a la privacidad se defienda por igual en todas las regiones” (párrs. 37 y 49). |
| Tribunal : | Alto Comisionado de las Naciones Unidas para los Derechos Humanos (ACNUDH) |
| Voces: | DATOS BIOMÉTRICOS DERECHO A LA PRIVACIDAD DISCRIMINACIÓN RACIAL EMPRESA INTELIGENCIA ARTIFICIAL NO DISCRIMINACIÓN PRINCIPIO DE PROPORCIONALIDAD PROTECCIÓN DE DATOS PERSONALES SERVICIOS PÚBLICOS VIGILANCIA ELECTRÓNICA VULNERABILIDAD |
| Jurisprudencia relacionada: | https://repositorio.mpd.gov.ar/jspui/handle/123456789/4147 https://repositorio.mpd.gov.ar/jspui/handle/123456789/5342 https://repositorio.mpd.gov.ar/jspui/handle/123456789/4772 https://repositorio.mpd.gov.ar/jspui/handle/123456789/5336 |
| Aparece en las colecciones: | Jurisprudencia internacional |
Ficheros en este ítem:
| Fichero | Descripción | Tamaño | Formato | |
|---|---|---|---|---|
| El derecho a la privacidad en la era digital.pdf | Informe completo | 525.79 kB | Adobe PDF | Visualizar/Abrir |