Nótese que esta página utiliza su propia numeración de notas a pie de página, que no se corresponde con la numeración del informe completo en PDF.

Compromisos de los Estados en el Marco del Sistema Interamericano de Derechos Humanos
Directrices sobre Restricciones y/o Limitaciones Admisibles de Derechos de los Estados
Políticas Públicas y Derechos Humanos en el Sistema Interamericano de Derechos Humanos
Aspectos Destacados de los Estándares Interamericanos de Derechos Humanos en Relación con los Derechos Pertinentes
      Participación Política
      Acceso a la Información
      Igualdad y No Discriminación
      Debido Proceso
      Dignidad, Derecho a la Vida Privada y Derechos Conexos
      Libertades de Expresión, Asociación y Reunión
      Derecho a una Vida Digna (DESC)

Compromisos de los Estados en el Marco del Sistema Interamericano de Derechos Humanos

  • Según el artículo 1.1 de la Convención Americana, los Estados Partes de la Convención Americana están obligados a respetar y garantizar los derechos humanos, lo que incluye el deber de prevenir, investigar y castigar las violaciones de los derechos humanos, así como proporcionar recursos efectivos y una reparación adecuada cuando se produzcan estas violaciones.
  • La obligación de respetar los derechos y libertades consagrados en el artículo 1.1 de la Convención, sin perjuicio de otros instrumentos internacionales de derechos humanos, es la base esencial del desarrollo y/o uso por parte de cualquier Estado de sistemas de IA/ADM que puedan afectar al reconocimiento o ejercicio de tales derechos y libertades considerados en su interdependencia.
  • Al adoptar sistemas de IA/ADM para apoyar la toma de decisiones relacionadas con los derechos, los Estados deben contar con los procesos y aparatos adecuados para prevenir las violaciones de los derechos humanos o proporcionar recursos y reparaciones eficaces en caso de que se produzcan, incluso cuando sean perpetradas por terceros privados.
  • Los Estados también deben tomar medidas para garantizar que todos los afectados dispongan de los medios para ejercer libre y plenamente sus derechos en relación con el proceso de toma de decisiones y las instituciones encargadas de ellas.
  • Esto implica contar con marcos jurídicos e institucionales nacionales dotados de instrumentos, prácticas y salvaguardias capaces de cumplir con la protección de los derechos convencionales. Las normas y prácticas que sustentan la violación de los derechos y libertades convencionales deben ser reformadas, derogadas o anuladas.
  • Las obligaciones de los Estados ante la Convención Americana y sus protocolos no se limitan al sentido literal de las disposiciones. Abarcan la jurisprudencia de la Corte Interamericana, que es el intérprete último de la Convención.
  • Todas las instituciones del Estado y quienes actúen en su nombre, incluidos los jueces y las entidades dedicadas a la administración de justicia, están sujetas a los compromisos que el Estado asumió ante el Sistema Interamericano. Como tales, los tribunales locales tienen el deber de ejercer un “control de convencionalidad” sobre las leyes nacionales que regulan el uso de sistemas de IA/ADM en situaciones o mediante procedimientos ilícitos según la Convención. Esto implica también el control de las normas que impiden el adecuado ejercicio de los derechos y libertades convencionales ante la implementación y funcionamiento de dichos sistemas.
  • A la hora de evaluar el desarrollo, despliegue y/o aplicación de sistemas de IA/ADM en relación con sus obligaciones en virtud de los derechos convencionales, los organismos y funcionarios estatales deben interpretar la Convención de buena fe y adoptar la interpretación más favorable a la protección de las personas afectadas, es decir, deben atenerse al principio pro persona.
  • Las interpretaciones de buena fe de la Convención implican observar el significado ordinario de sus términos y protocolos “en su contexto y a la luz de [su] objeto y fin”. También implica aplicar criterios objetivos para interpretar la Convención y seguir interpretaciones que se ajusten a las normas y valores del derecho internacional de los derechos humanos (de conformidad con el Artículo 31 de la Convención de Viena)1. Las conclusiones también deben reflejar el entendimiento de los tratados de derechos humanos como instrumentos vivos, lo que significa que deben resonar con las condiciones de vida actuales2.
  • Los órganos y funcionarios del Estado deben tener presente que la interpretación de las disposiciones convencionales no puede implicar que se supriman o restrinjan derechos y libertades más allá de lo permitido por la Convención. Asimismo, dicha interpretación no puede excluir otros derechos o garantías inherentes a la personalidad humana o intrínsecos a las sociedades democráticas.
  • Esto tiene muchas implicaciones, una de las cuales es que los Estados no deben justificar la aplicación arbitraria de sistemas de IA/ADM (véase el capítulo 5) invocando el compromiso de cumplir con el desarrollo progresivo de los Derechos Económicos, Sociales y Culturales (DESC) o el imperativo de proteger otros derechos y libertades convencionales específicos.
  • Cualquier violación de los derechos humanos derivada de la adopción de estos sistemas por parte de los Estados debe investigarse adecuadamente, y deben tomarse las medidas necesarias para establecer sus causas y sus responsables.
  • Si una violación está relacionada con el componente del sistema de IA/ADM de una política o actividad estatal, los Estados son responsables de sus repercusiones, ya que lo que importa es si la violación de derechos “se ha producido con el apoyo o la aquiescencia del gobierno”, o si el “Estado ha permitido que se produzca el acto sin tomar medidas para impedirlo o castigar a los responsables”. Esto abarca tanto los actos como las omisiones de autoridades públicas o agentes privados que actúen en calidad de Estado, independientemente de su intención o motivación, o de si se conoce su identidad individual.
  • Las investigaciones de violaciones de derechos humanos relacionadas deben proporcionar insumos para una evaluación estricta del sistema y de los diversos elementos relevantes que rodean su uso, que conduzcan a modificaciones efectivas o a su interrupción. Esto no sustituye ni excluye la responsabilidad de los Estados de llevar a cabo evaluaciones periódicas y auditorías independientes para garantizar que el sistema funciona de acuerdo con las normas de derechos humanos.
  • Los resultados de la investigación también deben sentar precedentes para los organismos estatales que utilicen o pretendan utilizar sistemas similares. Se trata de una medida esencial para evitar que se repitan las violaciones de derechos humanos.
  • Los Estados deben garantizar mecanismos efectivos de apelación y protección judicial para aquellas personas cuyos derechos se vean menoscabados por el uso de sistemas de IA/ADM dentro de las funciones y políticas de las instituciones públicas (véase también la sección 4.4). Esto implica eliminar las barreras legales y administrativas que limitan el acceso a los recursos judiciales y extrajudiciales, así como abordar las barreras culturales, sociales, físicas o financieras para las personas pertenecientes a grupos vulnerables (véase también la sección 4.3).
  • Toda violación de los derechos humanos resultante de la adopción de sistemas de IA/ADM por parte de los Estados debe dar lugar a un recurso efectivo y a una reparación adecuada de los daños causados, y restablecer, siempre que sea factible y apropiado, la situación y los derechos preexistentes. Reparar adecuadamente las violaciones relacionadas con la asignación de subsidios y prestaciones sociales del Estado implica situar a la persona en la posición de la que gozaría si se le hubiera otorgado un resultado justo.

Directrices sobre Restricciones y/o Limitaciones Admisibles de Derechos de los Estados

  • Si bien el uso por parte de los Estados de los sistemas de IA/ADM puede servir en teoría para proteger y promover los derechos y libertades convencionales, confiar en ellos para la toma de decisiones basada en derechos conlleva al menos la posibilidad de interferir en uno o más de esos derechos y libertades. En consecuencia, el desarrollo o la adopción de estos sistemas por parte de los Estados debe respetar los fundamentos para restringir o limitar los derechos humanos de manera admisible.
  • Esto significa que los Estados deben cumplir primero los estándares de legalidad y legitimidad. Las restricciones y limitaciones deben estar fundamentadas en la ley. Las disposiciones legales que las sustenten deben ser aptas para el fin perseguido, es decir, haber sido aprobadas democráticamente y cumplir las garantías del Sistema Interamericano. Las restricciones/limitaciones de derechos también deben estar autorizadas por la Convención y/o sus protocolos, y cumplir los requisitos correspondientes.
  • Las leyes que fundamentan las restricciones o limitaciones de derechos deben haberse promulgado (o promulgarse) para el bienestar general, que son “las condiciones de la vida social que permiten a los miembros de la sociedad alcanzar el máximo nivel de desarrollo personal y la consecución óptima de los valores democráticos”. Las restricciones de derechos basadas en el bienestar general deben limitarse estrictamente a las “justas exigencias” de una “sociedad democrática” teniendo en cuenta tanto los intereses individuales como los colectivos. Esto significa que las restricciones/limitaciones de derechos deben perseguir un fin legítimo y no pueden alejarse del fin legítimo que justificó la restricción. De lo contrario, se producirá una desviación del poder.
  • Para que un objetivo perseguido justifique legítimamente la restricción o limitación de derechos convencionales, debe ser “necesario en una sociedad democrática”. Una sociedad democrática implica la interrelación entre los conceptos de “Estado de Derecho”, “derechos humanos”, “garantías” y “democracia”3. Como tal, un fin perseguido es un fin legítimo en la medida en que se corresponda con la protección de “los derechos esenciales [de la persona humana] y la creación de circunstancias que le permitan progresar espiritual y materialmente”4. En este sentido, las justificaciones genéricas basadas en la seguridad nacional, el orden público o incluso la protección de un derecho humano en conflicto no son coherentes con este razonamiento. Un análisis coherente exige examinar el contexto particular y los elementos e implicaciones que conlleva dar prioridad a un objetivo determinado frente a un derecho específico.
  • Además, los Estados deben cumplir las normas de idoneidad, necesidad y proporcionalidad desde el momento en que evalúan por primera vez si adoptan sistemas de IA/ADM para las determinaciones basadas en derechos y durante toda la aplicación y uso del sistema. Esto exige un examen riguroso para determinar si la adopción del sistema es un medio adecuado para alcanzar el objetivo legítimo que se persigue e identificar las restricciones de derechos que conlleva (idoneidad). Para limitar derechos no basta con que la medida sea útil, razonable o conveniente. Restringir o limitar un determinado derecho debe ser la alternativa menos lesiva disponible para alcanzar el objetivo legítimo (necesidad), y debe existir un equilibrio proporcional entre el nivel de restricción y el nivel de beneficio para el interés perseguido (proporcionalidad).
  • Para los DESC, el análisis anterior debe integrar los principios de desarrollo progresivo y no regresión. La adopción por parte de los Estados de sistemas de IA/ADM en el contexto de la protección social, o bienestar, debe favorecer el adecuado disfrute y consecución de los DESC, y no debe implicar una regresión en las garantías y políticas de protección social. Cualquier restricción a los DESC también debe justificarse y equilibrarse a la luz de estos dos principios (véase también la sección 4.7).

Políticas Públicas y Derechos Humanos en el Sistema Interamericano de Derechos Humanos

  • Los compromisos que los Estados asumieron en el marco del Sistema Interamericano de Derechos Humanos les instan a adoptar un enfoque de derechos humanos en la formulación de políticas públicas. Como tales, los principios y estándares de derechos humanos deben guiar a los Estados a la hora de delimitar los problemas que pretenden abordar y determinar si el desarrollo, la adquisición y/o el uso de sistemas de IA/ADM como parte de una determinada política es apropiado. En caso afirmativo, los principios y estándares de derechos humanos también deben informar el diseño, la aplicación y la supervisión del uso del sistema dentro de una política pública concreta.
  • Toda elaboración de políticas públicas debe partir del principio de que las personas y los grupos sociales son titulares de derechos y, como tales, tienen la capacidad y el derecho a reclamarlos y a participar5. Esto implica el derecho a una información significativa sobre cómo se desarrolla y funciona una herramienta de IA/ADM.
  • Toda política pública debe atenerse también a los principios de participación social, debido proceso, acceso a la justicia y acceso a la información para promover la transparencia, la rendición de cuentas, la igualdad y la no discriminación. Esto implica garantizar la protección prioritaria de los grupos históricamente discriminados y adoptar una perspectiva de género y de protección de la diversidad (véase el capítulo 5).
  • En esta y otras secciones, presentamos una lista no exhaustiva de las repercusiones de adoptar un enfoque de derechos humanos al utilizar sistemas de IA/ADM en la elaboración de políticas públicas. El uso de los sistemas de IA/ADM como herramientas de política pública debe tener en cuenta los principios transversales mencionados anteriormente. Esto significa que los Estados deben garantizar condiciones y mecanismos apropiados para la participación social y la supervisión pública desde el momento en que evalúan e identifican un problema que pretenden abordar. Esta garantía también se aplica cuando los Estados examinan si la adopción de una herramienta de IA/ADM es adecuada para el problema y durante las fases de diseño, aplicación y evaluación de la política que se está creando o modificando (véase la sección 5.4).
    • Una evaluación exhaustiva y democrática antes de decidir adoptar el sistema es especialmente crítica en el caso de las tecnologías de IA. El análisis sobre su "idoneidad" para abordar una determinada cuestión o problema debe tener en cuenta que el aprendizaje automático intenta fundamentalmente reproducir patrones observados en los datos disponibles, lo que con frecuencia puede producir un resultado no deseado para orientar las decisiones. Además, dado que los sistemas de IA implican probabilidad y aleatoriedad en la toma de decisiones, pueden no ser suficientemente comprensibles o equitativos para las determinaciones basadas en derechos.
    • Es crucial que los Estados adopten medidas que aseguren una amplia participación sin ningún tipo de discriminación, lo que implica implementar "acciones especiales que garanticen la participación sustantiva e incidencia efectiva en todos los espacios políticos de decisión, por parte de las personas y grupos en mayor situación de vulnerabilidad y exclusión"6.
    • En este sentido, las decisiones y el seguimiento de la adopción y el uso de sistemas de IA/ADM en las políticas públicas deben prestar especial atención a los grupos históricamente discriminados, priorizando su protección y fomentando su participación efectiva (véase la sección 4.3). Esto permite que las políticas "incorporen las experiencias, perspectivas y puntos de vista de las personas y grupos que son titulares de los derechos que se busca salvaguardar”7.
    • En consecuencia, incorporar una perspectiva de género y diversidad a los sistemas basados en algoritmos empleados como parte de una política o iniciativa estatal es importante para garantizar que el uso del sistema no reproduzca la discriminación e impacte negativamente en cuerpos e identidades diversos. En consecuencia, la validación, las pruebas y la revisión tanto de la IA como de los sistemas tradicionales de ADM deben tener en cuenta no solamente a los miembros medios de la sociedad, sino también a los grupos marginados y las expresiones de género que divergen de los estándares cisnormativos o heteronormativos.
    • La participación efectiva puede adoptar formas múltiples y complementarias, pero debe incluir la posibilidad de que organizaciones independientes y expertas auditen el sistema.
    • Para garantizar una participación efectiva, los Estados deben dejar claro al público cómo las contribuciones de las consultas y los mecanismos deliberativos informan el diseño, la aplicación y la evaluación de las políticas públicas basadas en la IA/ADM (véase también la sección 4.1).
    • Los mecanismos de democracia participativa relativos a las comunidades indígenas y afrodescendientes aportan valiosos modelos y lecciones para los Estados comprometidos con garantizar una amplia y efectiva participación social en la formulación de políticas. La consulta libre e informada y el consentimiento de las comunidades antes de implementar proyectos u otras iniciativas que puedan afectar sus derechos y territorios son pautas importantes a considerar. Lo mismo ocurre con la participación efectiva en los estudios previos de evaluación de impacto.
    • Como señalan estas normas participativas, "la consulta no es un acto singular, sino un proceso de diálogo"8 en el que se proporciona información clara, accesible y completa con tiempo suficiente para permitir la participación adecuada de la comunidad9. Las consultas de buena fe no deben implicar ningún tipo de coacción y deben ir más allá de los procedimientos meramente pro forma10. En este sentido, no dar la debida consideración a las preocupaciones y opiniones recogidas en las consultas es contrario al principio de buena fe11. En consonancia con las garantías del debido proceso, las decisiones del Estado resultantes de los procesos participativos están sujetas a revisión por parte de las autoridades administrativas y judiciales superiores12.
    • En relación con lo anterior, la participación social efectiva a lo largo del ciclo político presupone el acceso a una información significativa sobre el sistema de IA/ADM y su uso potencial (o actual), así como los resultados potenciales (o reales) de dicho uso (véase la sección 4.2).
    • Esto significa que los Estados deben facilitar el acceso a la información pertinente antes de diseñar una determinada política pública basada en la IA/ADM, poniendo a disposición del público la información y los indicadores en los que se basa la evaluación de los Estados durante esta fase de evaluación. En consecuencia, el hecho de que el organismo estatal aún esté evaluando los contornos de una determinada política no justifica que se restrinja el acceso a la información sobre dicha política. Por el contrario, buscar la opinión de la sociedad y proporcionar públicamente información significativa antes del diseño es esencial para garantizar que el desarrollo, la adquisición y/o el uso de sistemas de IA/ADM como parte de una determinada política sea apropiado y respetuoso con los derechos humanos. Del mismo modo, el supuesto interés comercial de un proveedor en el secreto de su tecnología no puede anular la necesidad de escrutinio público; las tecnologías que contienen secretos importantes no son adecuadas para tomar decisiones que afecten a los derechos (véase la sección 5.3).
    • Una participación social diversa y efectiva se alinea con el deber de los Estados de adoptar medidas razonables para prevenir las violaciones de los derechos humanos (véase la sección 1.1). En el contexto de la formulación de políticas, esto se refleja en la inclusión de un enfoque preventivo en la forma en que los Estados estructuran el problema que pretenden abordar y deciden si, o en qué medida, el uso de sistemas de IA/ADM es adecuado para cumplir el objetivo previsto.
    • Además, la asignación presupuestaria y la introducción de sistemas de IA/ADM en este contexto deben tener como objetivo reducir las desigualdades y promover los derechos (véase la sección 4.7).
    • Las medidas que refuerzan la transparencia, la rendición de cuentas y el debate público sobre la asignación presupuestaria del Estado para el desarrollo, la adquisición y la aplicación de sistemas de IA/ADM también son fundamentales para la capacidad del público de supervisar, identificar y prevenir la corrupción y/o el uso indebido de fondos públicos. Pueden arrojar luz sobre los organismos estatales que favorecen a proveedores o acuerdos problemáticos y ayudar a erradicar la cultura del secretismo que conduce a resultados que vulneran los derechos.
    • Los organismos estatales deben supervisar continuamente la aplicación de la tecnología de IA/ADM como instrumentos de política pública, publicando indicadores y análisis que puedan medir los resultados e impactos de las políticas públicas. Los procesos de monitoreo y evaluación (M&E) deben basarse en dichos indicadores y análisis para valorar si una determinada política (y el sistema automatizado que la integra) ha sido una herramienta eficaz para la realización de derechos humanos. La evaluación de resultados e impactos debe señalar cualquier problema y ofrecer aportaciones para ajustes o interrupción.
    • Además del organismo encargado de la política, instituciones estatales independientes deberían supervisar el diseño, la aplicación y la evaluación de las políticas que utilizan sistemas de IA/ADM. Las políticas basadas en IA/ADM también deben beneficiarse de la experiencia combinada de las entidades gubernamentales, incluidas las autoridades de protección de datos y, según proceda, los organismos que se centran en la tecnología, la educación, la salud, etc. Además, los procesos de M&E deben involucrar a los actores de la sociedad civil y la participación social efectiva para integrar los mecanismos de control público en la dinámica de evaluación de la política. Los procesos de monitoreo y evaluación también deben incorporar datos sobre reclamaciones administrativas y judiciales (véase también la sección 4.4).
    • Todas estas medidas se aplican también a las políticas de seguridad pública que implican el uso de sistemas de IA/ADM. Al igual que en otros ámbitos de la formulación de políticas gubernamentales, la transparencia, la participación ciudadana, la supervisión independiente y los procesos adecuados de monitoreo y evaluación son importantes para garantizar que los organismos estatales responsables rindan cuentas y que las políticas respeten los derechos humanos. La militarización y la privatización de la seguridad pública socavan en general estos objetivos y no deben prevalecer.

Aspectos Destacados de los Estándares Interamericanos de Derechos Humanos en Relación con los Derechos Pertinentes

Participación Política

  • El público tiene derecho a la participación política, lo que incluye manifestarse e influir sobre si las instituciones estatales utilizan o no la tecnología de IA/ADM para respaldar determinaciones basadas en derechos. El imperativo de garantizar la participación política como elemento vital de las sociedades democráticas sigue siendo válido y exigible, independientemente de si las acciones de los Estados implican el uso de tecnologías de IA/ADM.
  • Los Estados deben organizar el aparato y las prácticas estatales para garantizar el ejercicio libre y pleno del derecho a participar en el gobierno (véase la sección 1.1). Esto implica crear y/o adaptar las estructuras y procesos existentes para permitir una participación efectiva y diversa en la toma de decisiones y la evaluación del uso estatal de los sistemas de IA/ADM (véase el capítulo 3).
  • Es importante que los modelos y procesos de participación permitan a las comunidades afectadas y a la sociedad civil "ejercer un impacto tangible"13 sobre las decisiones de los Estados relativas al uso de tecnologías de IA/ADM para determinaciones basadas en derechos, y que proporcionen medios adecuados para evaluar y medir dicho impacto (véase la sección 3.1).
  • La participación efectiva también implica tomar medidas para eliminar las barreras que impiden el involucramiento de la ciudadanía en los asuntos públicos, especialmente en lo que respecta a los grupos históricamente discriminados.

Acceso a la Información

  • Los Estados deben respetar los principios de máxima divulgación y buena fe en su uso de las tecnologías de IA/ADM. El hecho de que sean tecnologías novedosas o complejas no exime a los Estados de su deber de defender el derecho del público a la información.
  • Todos los niveles de gobierno en todos los poderes deben cumplir con las obligaciones derivadas del derecho de acceso a la información, incluyendo secretarías, ministerios y agencias de seguridad, que incluyen a las fuerzas militares.
  • Al igual que todas las instituciones públicas de todos los poderes del Estado deben cumplir con el derecho de acceso a la información de los ciudadanos, también deben hacerlo los organismos autónomos y demás entidades que empleen herramientas de IA/ADM para la prestación de servicios públicos. Lo mismo ocurre con las entidades que reciben fondos públicos para desplegar o explotar sistemas de IA/ADM en el marco de una política o actividad estatal.
  • El derecho de acceso a la información incluye una serie de obligaciones, empezando por la transparencia activa y la aplicación adecuada14. En lo que respecta a la transparencia activa, los Estados deben, como primer paso básico, revelar de forma sistemática y fácil de usar qué sistemas de IA/ADM se utilizan y con qué fines. Esta información también debe incluir el marco jurídico correspondiente, las categorías de datos implicados, las instituciones responsables, los desarrolladores o proveedores del sistema, el presupuesto público implicado, las razones y la documentación en las que se basa la adopción del sistema, todas las evaluaciones de impacto realizadas, los parámetros de rendimiento, la información sobre el flujo de toma de decisiones, incluidos los agentes humanos y de IA, los derechos de las personas afectadas y los medios disponibles para la revisión y la reparación (véase la sección 5.3).
  • En cuanto a las solicitudes de información, denegar el acceso a información sobre la evaluación, implementación y uso de tecnologías de IA/ADM dentro de las actividades y políticas estatales sólo se permite excepcionalmente y debe cumplir los criterios del Sistema Interamericano para cumplir con las normas de derechos humanos.
  • La interrelación entre el acceso a la información y la participación democrática y la supervisión del uso estatal de estas tecnologías es tremenda y debe sustentar la aplicación de los principios de máxima divulgación y buena fe y el análisis de las restricciones admisibles. Las entidades obligadas deben evaluar de buena fe en qué medida mantener la información en secreto va en detrimento de los derechos de individuos y grupos.
  • Las instituciones obligadas deben justificar clara y adecuadamente la denegación de las solicitudes, sopesando el riesgo o el perjuicio que la divulgación puede causar a un objetivo legítimo contemplado en el art. 13(2) de la Convención, mediante un análisis de necesidad y proporcionalidad. Si es admisible, la restricción debe durar solamente mientras exista ese riesgo específico y objetivo.
  • Habida cuenta de las implicaciones del secreto en este contexto, la protección de los secretos comerciales no debe constituir una base suficiente para denegar legítimamente el acceso a la información relativa a estos sistemas y a su funcionamiento, incluida la posibilidad de acceder al código fuente del sistema, los registros de desarrollo y realizar auditorías independientes (véase la sección 5.3).
  • Las justificaciones de las restricciones basadas en el bienestar general (por ejemplo, la seguridad nacional o el orden público) deben limitarse estrictamente a las "justas exigencias" de una "sociedad democrática" (véase el capítulo 2). Esto significa que no pueden implicar una limitación que lo abarque todo, sino que deben adaptarse estrictamente a los tipos de información y a los tipos de divulgación que representen efectivamente un riesgo según los principios democráticos, y solamente hasta que exista dicho riesgo específico y objetivo (lo que implica llevar a cabo revisiones periódicas de la información clasificada)15.
  • Se prohíbe a las autoridades del Estado utilizar el secreto de la información bajo su control "con el interés encubierto de favorecer o perjudicar una determinada actividad política o ideología, o de cualquier otra forma que implique cualquier tipo de discriminación"16. En caso de violaciones de derechos humanos, las autoridades no pueden mantener en secreto información requerida por órganos judiciales o administrativos encargados de investigaciones o procedimientos pendientes. Además, la decisión de clasificar y denegar el acceso a la información no puede ser tomada por un organismo estatal cuyos miembros estén acusados de cometer un acto ilícito punible17.
  • En este sentido, es crucial subrayar que las entidades gubernamentales dedicadas a actividades de seguridad, incluida la seguridad nacional y pública, están sujetas al imperio de la ley y a la rendición de cuentas al igual que otros organismos públicos, y deben cumplir las obligaciones de acceso a la información. Esto significa que los principios de máxima divulgación y buena fe, así como la prueba tripartita18 con los principios de legalidad, finalidad legítima e idoneidad, necesidad y proporcionalidad, también son aplicables a las autoridades de seguridad (véase el capítulo 2).
  • En consecuencia, no se permiten restricciones amplias basadas en una calificación general19. Cualquier limitación debe justificar claramente por qué un contenido específico entra dentro de las estrictas categorías de restricción establecidas por la ley, de acuerdo con las normas interamericanas. La ley de acceso a la información debe, en la medida de cualquier inconsistencia, prevalecer sobre otra legislación, mientras que las leyes de secreto deben estar sujetas al debate público y al control de convencionalidad20. De hecho, la creación, organización y difusión de información confiable sobre el diseño, implementación y evaluación de las políticas de seguridad pública, incluso cuando se basan en sistemas de IA/ADM, es fundacional para un modelo democrático de seguridad ciudadana basado en la protección de los derechos humanos de toda la población21.
  • Cuando se trata de sistemas de IA/ADM desplegados con fines de vigilancia, incluso en el contexto de la seguridad nacional, se debe informar a la población, como mínimo, sobre el marco jurídico que regula estas prácticas; los organismos autorizados a utilizar dichos sistemas; las instituciones de supervisión; los procedimientos para autorizar el uso del sistema, seleccionar objetivos, procesar datos y establecer la duración de la vigilancia; los protocolos para compartir, almacenar y destruir el material interceptado; y las estadísticas generales relativas a estas actividades22.
  • En el mismo sentido, la restricción del acceso a la información basada en la prevención del fraude y su posible relación con la preservación del orden público debe ser evaluada en profundidad en relación con las garantías convencionales y el principio de que "las personas y los grupos sociales son titulares de derechos con capacidad y derecho a reclamar sus derechos y a participar en las actividades de los Estados" (véase el capítulo 3). La pretensión de los Estados de que el conocimiento público de estas tecnologías corresponde al riesgo de fraude implica suprimir el derecho a la participación política, entre otros, e incumple los estándares interamericanos (véase capítulo 1).
  • Resulta igualmente problemático denegar solicitudes basándose en que las instituciones estatales aún están evaluando la aplicación de los sistemas de IA/ADM. La participación ciudadana es crucial para garantizar que los Estados están realizando adecuadamente dichas evaluaciones y cumplen con su deber de adoptar medidas razonables para prevenir las violaciones de los derechos humanos (véase el capítulo 3). Tampoco parece ajustarse a los objetivos legítimos establecidos en el Art. 13(2).
  • La obligación de producir o recopilar la información que el Estado necesita para cumplir con sus deberes requiere que los órganos estatales y otras instituciones obligadas tengan un conocimiento adecuado de los sistemas de IA/ADM que adoptan o pretenden adoptar para las determinaciones basadas en derechos. En virtud de esta obligación, los organismos estatales y otras instituciones no pueden alegar que el Estado no dispone de la información solicitada cuando dicha información sea relevante para llevar a cabo una política y/o actividad estatal.
  • En relación con lo anterior, la producción, organización y divulgación de información sobre las asignaciones presupuestarias públicas para pagar los sistemas de IA/ADM es fundamental para prevenir la corrupción y permitir la supervisión pública (véase la sección 3.3). Esto también se aplica a las autoridades y actividades de seguridad, incluida la seguridad nacional y la seguridad pública23.
  • Disponer de indicadores fiables sobre la aplicación de políticas que incluyan sistemas de IA/ADM es igualmente crucial para supervisar y evaluar adecuadamente dichas políticas. Los Estados deben diseñar, producir y publicar periódicamente estos indicadores, que deben constituir una base pertinente para evaluar si la política y su componente de IA/ADM están avanzando u obstaculizando la protección de los derechos humanos (véase también la sección 3.3). Los indicadores deben prestar especial atención al impacto de las políticas en los grupos históricamente marginados, midiendo los resultados relativos a las poblaciones afrodescendientes, los grupos indígenas, las mujeres y las minorías sexuales, los niños y adolescentes, y los migrantes, entre otros. Esto es especialmente relevante en el contexto de las políticas de seguridad y bienestar social.
  • Los Estados deben disponer de orientaciones y estructuras claras para satisfacer adecuada y eficazmente el derecho a la información en lo que respecta a su adopción de sistemas de IA/ADM. Esto incluye recopilar y gestionar adecuadamente la información relacionada, formar a los agentes responsables de responder a las solicitudes y establecer procesos para cumplir las obligaciones de transparencia activa.
  • Los Estados también deben garantizar un mecanismo de apelación sencillo, rápido y eficaz ante la denegación de peticiones de información sobre sistemas de IA/ADM (véase la sección 4.4). Quienes vean denegadas sus peticiones de información deben poder contar con un órgano independiente, distinto del que denegó la solicitud, para presentar un recurso24. Un órgano administrativo especializado es ideal para ello, además del derecho de las personas a acudir a los tribunales25.
  • Este órgano administrativo debe tener los recursos y el poder para llevar a cabo sus funciones de manera oportuna e independiente, incluyendo la supervisión del cumplimiento de las obligaciones del derecho a la información y la resolución de disputas sobre el suministro de información a través de decisiones vinculantes26. La Ley Modelo Interamericana sobre Acceso a la Información Pública es una referencia esencial para los Estados en lo que respecta al correcto cumplimiento del derecho de acceso a la información.

Igualdad y No Discriminación

  • La igualdad y la no discriminación son principios rectores de todas las actividades, normas y prácticas estatales, y como tales presentan implicaciones específicas y particulares para el uso estatal de los sistemas de IA/ADM para la adjudicación, el reconocimiento y el ejercicio de los derechos.
  • La Convención Americana prohíbe todo trato discriminatorio. En consecuencia, antes de la implementación y durante todo el ciclo de vida del sistema, los Estados deben adoptar todas las medidas necesarias para garantizar que los sistemas de IA/ADM que empleen con fines relacionados con derechos no den lugar a un trato discriminatorio, es decir, a cualquier exclusión, restricción o privilegio que no sea objetivo, necesario y proporcional al fin legítimo que pretenden alcanzar y que afecte negativamente a los derechos humanos.
  • El trato diferenciado que afecta negativamente a los derechos y libertades basado en especulaciones, presunciones o estereotipos de personas y grupos es incompatible con la Convención (véase también la sección 4.4). Esto plantea retos especiales cuando los Estados adoptan tecnologías de IA/ADM para la toma de decisiones basada en los derechos, ya que las determinaciones algorítmicas se basan en el reconocimiento de patrones dentro de un conjunto de datos para inferir conclusiones sobre una persona o situación que pueden no reflejar o coincidir con las circunstancias de la vida real. En relación con esto, el aprendizaje automático incluye un elemento probabilístico, de modo que el azar desempeña un papel importante en los resultados de muchas tecnologías de IA.
  • Para que la adopción de IA/ADM sea conforme con el derecho internacional de derechos humanos, los Estados deben organizar sus aparatos, procesos y prácticas, y adaptar la legislación nacional, si es necesario, para prevenir, mitigar, remediar y corregir la toma de decisiones discriminatorias basadas en esos sistemas27.
  • Es fundamental que los Estados adopten prácticas para cumplir esta obligación, entre ellas: realizar evaluaciones de impacto sobre los derechos humanos antes de la implementación y durante el ciclo de vida del sistema; garantizar que las instituciones estatales responsables y los órganos de supervisión tengan acceso al funcionamiento interno del sistema y los conocimientos adecuados para evaluarlo desde la perspectiva de los derechos humanos; realizar auditorías independientes internas y externas; y garantizar que exista una supervisión humana y una revisión humana significativa de las decisiones basadas en IA/ADM por parte de funcionarios competentes siguiendo criterios estrictos y transparentes (véase el capítulo 5). Una revisión humana significativa implica abordar adecuadamente el llamado “sesgo de automatización”, que es la propensión de los humanos a favorecer las sugerencias de los sistemas automatizados de toma de decisiones y a ignorar la información contradictoria elaborada sin automatización, aunque sea correcta. Además, la evaluación periódica, las evaluaciones de impacto y las auditorías deben abordar no sólo el diseño inicial, sino los resultados reales del uso de sistemas de IA/ADM una vez implantados. Las evaluaciones de impacto y las auditorías en materia de derechos humanos deben adoptar una perspectiva de género e interseccional en observación de la guía de tres pasos de la CIDH para el diseño de políticas (véase el detalle más abajo).
  • En cada una de estas medidas, las instituciones y los funcionarios implicados deben observar si el uso del sistema puede causar, o está causando, una discriminación indirecta con un impacto desproporcionado en determinados grupos. Las instituciones y los funcionarios deben ser conscientes de que incluso las tecnologías de IA/ADM presuntamente concebidas para actuar de forma neutral con respecto a los distintos grupos pueden dar lugar a un trato discriminatorio.
  • La adopción de estas tecnologías por parte de los Estados no debe adoptar un enfoque neutral o ciego ante la discriminación y las desigualdades históricas en la sociedad y dentro de los contextos particulares en los que se aplicaría o se aplica el sistema. Esto es importante no sólo para prevenir la discriminación, sino también para cumplir el deber de los Estados de perseguir la igualdad sustancial/material. En particular, si los datos de entrenamiento para una tecnología de IA reflejan discriminación y desigualdades históricas, no serán adecuados para el entrenamiento en IA, porque el sistema de IA resultante reproducirá esos patrones históricos.
  • Las empresas que vendan sistemas de IA/ADM a los Estados para la toma de decisiones que afecten al reconocimiento, disfrute y ejercicio de los derechos humanos deben poner en marcha los procesos y medidas necesarios para evaluar, prevenir y mitigar la discriminación y otros efectos perjudiciales para los derechos humanos que puedan causar sus sistemas. Deben proporcionar a los Estados garantías suficientes de que sus sistemas son compatibles con los derechos humanos y cumplen las normas adecuadas de transparencia, imparcialidad, privacidad, seguridad y fiabilidad, entre otros atributos, al tiempo que ponen a su disposición toda la información pertinente para el análisis estatal e independiente del sistema.
  • Los Estados deben abstenerse de aplicar tecnologías de IA/ADM que no ofrezcan estas garantías, entre ellas tener un historial de violaciones de derechos humanos. Los Estados también deben abstenerse de adoptar la toma de decisiones basada en IA/ADM para fines o en contextos en los que sea incompatible con los derechos humanos, como las prácticas estatales que reproducen la discriminación sistémica y/o conllevan la elaboración de perfiles raciales. En este sentido, los Estados deben abstenerse de aplicar tecnologías de IA/ADM que tengan un impacto desproporcionado en grupos específicos y/o reproduzcan intrínsecamente opiniones o prácticas discriminatorias reflejadas en conjuntos de datos sesgados utilizados para entrenar el modelo de IA o alimentar el funcionamiento del sistema (véase la sección 4.4). El uso estatal del reconocimiento facial y de las tecnologías policiales predictivas son ejemplos de ello.
  • La guía de tres pasos que la CIDH recomienda para el diseño, la aplicación y la evaluación de políticas configura una hoja de ruta pertinente para que los Estados evalúen las políticas públicas que hacen uso de los sistemas de IA/ADM. Abarca la consideración de: (i) el impacto diferencial que una determinada política tiene o puede tener para los grupos históricamente discriminados; (ii) las opiniones y preocupaciones de estos grupos en las diferentes etapas del ciclo de la política; (iii) y los beneficios reales que esta política aporta o puede aportar para reducir las desigualdades que afectan a dichos grupos.
  • En relación con lo anterior, los Estados deben establecer los medios y procesos para la participación social efectiva, en particular de los grupos históricamente discriminados, en las distintas fases de adopción de los sistemas de IA/ADM por parte de las instituciones públicas para las determinaciones basadas en derechos (véanse el capítulo 3 y la sección 4.1).
  • Corresponde a las autoridades estatales, y no a las personas afectadas, justificar y demostrar que una decisión basada en sistemas automatizados o modelos de IA no tenía un propósito o efecto discriminatorio. Para cumplir adecuadamente con esta obligación, los Estados deben garantizar que las decisiones basadas en IA/ADM tienen motivos explicables y justificables.

Debido Proceso

  • Las garantías procesales se aplican en todas las fases de cualquier procedimiento llevado a cabo por cualquier autoridad pública para determinar los derechos y obligaciones de las personas, incluidos los procedimientos administrativos y judiciales, independientemente de si dichas determinaciones se basan o no en sistemas de IA/ADM.
  • Esto significa que las autoridades que utilizan sistemas de IA/ADM como parte de la toma de decisiones sobre derechos y obligaciones siguen siendo responsables de evitar conclusiones arbitrarias y deben asegurarse de que los procedimientos en los que intervienen estos sistemas cumplen las garantías del artículo 8.
  • Los procedimientos estatales que tratan cuestiones relacionadas con los derechos deben garantizar que los afectados puedan ejercer plenamente su derecho a ser oídos. Esto significa establecer procesos que permitan a las personas afectadas intervenir en los procedimientos, presentar sus reclamaciones y aportar elementos fácticos y probatorios (por ejemplo, indicar datos inexactos u obsoletos). Esos elementos y reclamaciones deben analizarse adecuadamente antes de que el organismo que celebra el procedimiento adopte una decisión final. Esto está igualmente relacionado con el derecho de defensa.
  • En consecuencia, la persona afectada debe ser informada del procedimiento analizando sus derechos y obligaciones antes de que se adopte una decisión. Siempre que sea posible, las personas afectadas deben recibir una notificación previa y detallada. En cualquier caso, las personas deben recibir, con la antelación suficiente para que puedan intervenir según lo detallado anteriormente, información clara que explique por qué están sujetas al procedimiento, los elementos relevantes que se están considerando y una referencia mínima sobre cómo los elementos que se están evaluando influyen en las consecuencias a las que pueden enfrentarse, incluidas las normas legales o disciplinarias pertinentes para una decisión final. Las personas afectadas también deben ser informadas de los medios de que disponen para presentar sus reclamaciones, que deben ser fácilmente accesibles.
  • Los Estados también deben tomar las medidas necesarias para garantizar que los procedimientos de toma de decisiones incluyan la información y los elementos necesarios para producir la determinación para la que están destinados28. La métrica, los criterios y la exactitud de los datos que tiene en cuenta el sistema de IA/ADM, entre otros, son elementos del procedimiento de toma de decisiones y deben ser apropiados para analizar lo que el procedimiento pretende analizar. También es crucial que los Estados garanticen una supervisión humana competente de las determinaciones de las instituciones públicas basadas en IA/ADM que afecten a los derechos humanos.
  • Las garantías de independencia e imparcialidad implican que las personas deben saber, por regla general, qué pueden esperar de los procesos de toma de decisiones que afectan a sus derechos. El uso estatal de los sistemas de IA/ADM para la toma de decisiones basadas en derechos debe seguir protocolos específicos, previamente aprobados y a disposición del público, basados en la ley y capaces de garantizar que los procedimientos sean predecibles, objetivos y coherentes.
  • Las garantías también implican que los funcionarios que participan en los procedimientos de toma de decisiones tengan las competencias necesarias y reciban la formación adecuada para interactuar con el sistema de IA/ADM en cuestión. Esto es crucial para asegurar que las resoluciones alcanzadas a través del proceso de toma de decisiones cumplen con las garantías del debido proceso
  • Siguiendo con la objetividad y la imparcialidad, el uso estatal de los sistemas de ADM e IA -y las decisiones que toman esos sistemas- que afectan a los derechos de las personas no deben ser el resultado de prejuicios y estereotipos ni reproducirlos. Según la Corte, "los estereotipos son preconcepciones de los atributos, conductas, roles o características de los individuos que pertenecen a un grupo específico". Los organismos públicos deben tomar todas las medidas necesarias para evitar que los estereotipos influyan en el proceso de toma de decisiones (véase también la sección 4.3). No hacerlo implica también una violación de la presunción de inocencia.
  • Cuando las tecnologías de IA/ADM se utilizan en el sistema judicial para respaldar cualquier determinación basada en derechos, entra en juego el derecho de los acusados a cuestionar el software, incluida la capacidad de los expertos de la defensa legal para evaluar y auditar el sistema29. Este derecho debería actuar como última línea de defensa para evaluar una tecnología que ya ha sido sometida a salvaguardias sistemáticas, lo que significa que la carga principal de evaluar la idoneidad de la tecnología no debería recaer en los equipos de defensa penal individuales.
  • El uso por parte del Estado de sistemas de IA/ADM para apoyar los procedimientos de toma de decisiones no debe socavar la presunción de inocencia ni trasladar la carga de la prueba a las personas sujetas a decisiones basadas en algoritmos. Esto es especialmente importante en los procedimientos penales y disciplinarios. Las consecuencias disciplinarias, punitivas o restrictivas de derechos relacionadas con decisiones basadas en IA/ADM no deben aplicarse si las autoridades no pueden determinar si las conclusiones que producen son fiables y/o si los hechos, datos y criterios en los que se basa la decisión son exactos o pertinentes.
  • Las decisiones basadas en sistemas de IA/ADM deben tener una justificación clara, razonada y coherente. Esto significa que los sistemas empleados para las determinaciones basadas en los derechos deben cumplir los objetivos de interpretabilidad y “explicabilidad” (véase el capítulo 5). El principio de que los Estados deben justificar las decisiones que afectan a los derechos de las personas es una piedra angular de las sociedades democráticas y una condición necesaria para el pleno ejercicio del derecho a recurrir.
  • Los Estados deben garantizar la disponibilidad de recursos judiciales y administrativos efectivos y el acceso fácil y equitativo a los mismos. Las personas afectadas por una decisión administrativa basada en la IA deben disponer de los medios adecuados para impugnarla a nivel administrativo, además del derecho a llevarla ante los tribunales.
  • Los recursos efectivos no son una mera formalidad, sino un mecanismo coherente que garantiza un examen exhaustivo de la decisión impugnada. Esto implica una revisión humana con el poder y los conocimientos adecuados para evaluar la decisión mediante criterios estrictos y transparentes. La experiencia y los protocolos adecuados son cruciales para abordar debidamente el posible "sesgo de automatización" de las revisiones humanas30. Las conclusiones de la revisión también deben estar debidamente justificadas.
  • Las quejas e impugnaciones contra las decisiones basadas en la IA/ADM deben servir de base para el diseño, la aplicación y la evaluación de las políticas públicas por parte de los Estados. Ellas contienen información crucial para evaluar la calidad de las políticas en vigor y establecer parámetros para nuevas políticas (véase el capítulo 3).
  • Esto requiere que los organismos estatales las documenten y generen informes estadísticos a disposición del público. Las reclamaciones, impugnaciones y documentación relacionada deben incluirse en los procesos de auditoría y estar a disposición de los organismos de supervisión independientes. También deben estar a disposición de investigadores independientes y del público en general de forma que se respeten las garantías adecuadas de privacidad y protección de datos.
  • La toma de decisiones en materia de IA/ADM en el ámbito de este documento debe atenerse al principio de transparencia. La información pertinente sobre el procedimiento de toma de decisiones (como las fases de la toma de decisiones, los criterios considerados y la información sobre cómo se procesan los datos) debe estar a disposición del público con las protecciones adecuadas contra el intercambio de datos privados y personales con terceros. Debe prestarse especial atención a los grupos históricamente vulnerables o marginados para asegurarse de que no sufren discriminación ni estigmatización como consecuencia de una protección inadecuada en este contexto31.

Dignidad, Derecho a la Vida Privada y Derechos Conexos

  • La dignidad, la vida privada, la autonomía y la autodeterminación, incluida la autodeterminación informativa, impregnan el uso estatal de las tecnologías de IA/ADM para las determinaciones basadas en derechos.
  • El uso de estos sistemas en el contexto de este documento implica generalmente el tratamiento de datos relativos a una persona identificada o identificable32. También implica un proceso de toma de decisiones basado en una especie de "identidad" percibida o establecida por el sistema a través de correlaciones, perfiles e inferencias que produce una "exteriorización de la persona" que es artificial y conlleva importantes efectos según la decisión de que se trate. Esto puede afectar gravemente a los planes de vida de las personas, al libre desarrollo de su personalidad y a sus relaciones sociales.
  • Como tales, todos ellos son derechos y garantías que los Estados deben tener en cuenta a la hora de valorar la adopción, aplicación y evaluación del uso de sistemas de IA/ADM para apoyar decisiones que afectan a la adjudicación, el reconocimiento y el ejercicio de los derechos humanos.
  • Las decisiones estatales basadas en la IA/ADM también pueden afectar gravemente a la vida familiar y al libre y pleno disfrute y ejercicio de los derechos sexuales y reproductivos.
  • En este contexto, las autoridades deben traducir el deber del Estado de "aumentar su compromiso para adaptar las formas tradicionales de protección del derecho a la intimidad a los tiempos actuales"33en estructuras, prácticas y medidas eficaces de mitigación y protección.
  • Toda injerencia en el derecho a la vida privada y los derechos conexos derivada de la toma de decisiones estatales basadas en la IA/ADM debe cumplir los principios de legalidad, legitimidad, idoneidad, necesidad y proporcionalidad (véase el capítulo 2). Hay varias medidas indicadas en secciones anteriores que las autoridades estatales deben considerar y aplicar para cumplir estas normas (véanse especialmente los capítulos 2, 3 y las secciones 4.3 y 4.4).
  • La vigilancia estatal y la recopilación de datos personales constituyen una injerencia innegable en el ejercicio de los derechos humanos, que requiere una regulación precisa y controles eficaces para evitar abusos por parte de las autoridades estatales34. El uso estatal de sistemas de IA/ADM en el contexto de este informe debe estar respaldado por sólidas salvaguardias jurídicas e institucionales para la privacidad y la protección de datos. Estas salvaguardias deben prestar la debida atención a los datos personales sensibles. Estos datos merecen una protección especial dado su elevado potencial discriminatorio, especialmente cuando sirven de base para la elaboración de perfiles35.
  • La vigilancia estatal de las comunicaciones, incluido el seguimiento posibilitado por el tratamiento de datos relacionados con las comunicaciones (ya sean contenidos o metadatos), requiere por lo general una orden judicial previa y motivada. El uso de sistemas de IA/ADM por parte de organismos estatales en este contexto debe observar la correcta aplicación de esta norma.
  • La implementación estatal de sistemas de IA/ADM para permitir la vigilancia indiscriminada de espacios físicos o en línea es desproporcionada e interfiere arbitrariamente en el derecho a la vida privada, entre otros derechos36.
  • El principio de autonomía personal prohíbe cualquier acción del Estado que intente "instrumentalizar" a los individuos. Ello debe reforzar el principio de que las personas y los grupos sociales son titulares de derechos y, como tales, tienen la capacidad y el derecho de reclamar sus derechos y participar en la toma de decisiones del gobierno. Este principio refleja los estrechos vínculos que la autonomía y la autodeterminación tienen con las garantías del debido proceso (dentro de los procedimientos de toma de decisiones que afectan a determinados individuos y grupos) y el derecho a la participación política (en cuanto a influir en las definiciones de los Estados sobre la adopción de sistemas de IA/ADM para las determinaciones basadas en derechos).
  • Además, la protección de la autonomía y la vida privada exige que las autoridades sigan un marco adecuado en relación con la recopilación y el uso de datos personales para impedir su tratamiento de forma inadecuada o incompatible con estos derechos. Estas normas son especialmente pertinentes en el contexto del uso estatal de tecnologías de IA/ADM para determinaciones basadas en derechos.
    • El tratamiento de datos personales debe estar fundado en el consentimiento libre e informado o, en su defecto, fundado en otras bases estricta y expresamente autorizadas por la ley. El tratamiento de datos personales sólo se autoriza en el marco de la Convención Americana para la persecución de fines legítimos y mediante mecanismos legales37.
    • El consentimiento libre e informado requiere proporcionar a los interesados información suficiente sobre los detalles de los datos que se van a recoger, la forma de su recogida, los fines para los que se utilizarán y la posibilidad, en su caso, de su divulgación. Además, el consentimiento de la persona debe expresar su voluntad de tal forma que no quede ninguna duda sobre su intención. En resumen, las personas cuyos datos son objeto de tratamiento deben tener la posibilidad de ejercer una opción real sin riesgo de engaño, intimidación, coacción o consecuencias negativas significativas por negarse a dar su consentimiento38.
    • En los casos en que las instituciones del Estado puedan legítimamente tratar datos personales, se limitan a obtener los datos veraces, pertinentes y necesarios para el estricto cumplimiento de sus funciones, de acuerdo con el marco legal aplicable39.
    • Las instituciones encargadas del tratamiento de datos deben garantizar la protección y seguridad de los datos, impidiendo su acceso no autorizado, pérdida, destrucción, uso, modificación o divulgación. La toma de decisiones estatales basadas en el tratamiento de datos también debe garantizar que los datos utilizados se mantienen actualizados, completos y exactos40.
    • Los Estados tienen el deber de garantizar el derecho a la autodeterminación informativa y proporcionar mecanismos para que los interesados puedan acceder a sus datos en poder de las instituciones públicas y controlarlos. Cualquier restricción a este derecho debe cumplir las normas sobre restricciones y limitaciones admisibles al derecho de acceso a la información (artículo 13 de la Convención). Así, cualquier denegación debe estar estrictamente justificada y permitir una oportunidad efectiva de recurso, además del derecho a objetar ante los tribunales las razones invocadas para la denegación (véase la sección 4.2). La autoridad judicial, si lo considera necesario, debe poder examinar la información a la que se ha denegado el acceso41.
    • El alcance de la autodeterminación informativa abarca un conjunto de facultades para los interesados42 además del consentimiento libre e informado:
      • el derecho a saber qué datos suyos obran en poder de instituciones públicas y privadas (cualquiera que sea su formato), de dónde proceden, cómo se obtuvieron, para qué se utilizan, cuánto tiempo se conservan, si se comparten con otros organismos o personas, el motivo por el que se comparten y, en general, las condiciones de su tratamiento. Este derecho de acceso debe abarcar todos los datos relativos a la persona considerados en el proceso de toma de decisiones. Esto significa no solamente los datos facilitados activa y conscientemente por las personas, sino también los datos que la institución observó y recopiló sin su conocimiento real, así como los datos derivados e inferidos43.
      • derecho a exigir la rectificación, modificación o actualización de los datos, en caso de que sean inexactos, incompletos u obsoletos. Esto debería incluir los datos sesgados y discriminatorios considerados en el proceso de toma de decisiones. A estos efectos, las personas deben recibir información sobre la lógica subyacente de los datos derivados e inferidos que influyen en la decisión, de modo que puedan impugnar, por motivos legítimos, cualquier inexactitud o problema.
      • el derecho a oponerse al tratamiento de los datos en los casos en que, dada la situación particular de la persona, pueda causársele un perjuicio y en los supuestos previstos en la normativa vigente; y
      • cuando sea posible y con arreglo a las disposiciones legales, el derecho a recibir los datos en un formato estructurado, de uso común y lectura mecánica, y a solicitar su transmisión sin que la autoridad que los posea se lo impida.
  • Los Estados deben proporcionar mecanismos o procedimientos adecuados, ágiles, gratuitos y eficaces para tramitar y responder a las solicitudes de acceso y control de los datos de los interesados, con plazos razonables para su resolución y bajo la responsabilidad de funcionarios debidamente capacitados44.
  • La autodeterminación informativa está relacionada con la capacidad de una persona para configurar y determinar su identidad. En un contexto en el que el tratamiento de datos personales mediante la elaboración de perfiles y otras técnicas crea "representantes de datos" o "dobles de datos" que intermedian la relación de la persona con otros, incluidas las autoridades estatales, las facultades asociadas a la autodeterminación informativa, así como la no discriminación y las salvaguardias de protección de datos, son fundamentales para preservar la autonomía y los derechos de las personas.
  • El derecho a la identidad como garantía derivada de la autodeterminación y el libre desarrollo de la personalidad refuerza el cuidado adicional que los Estados deben prestar a la privacidad, la protección de datos, la seguridad de los datos y la no discriminación cuando utilizan el procesamiento de datos, la digitalización y la toma de decisiones algorítmicas para intermediar su relación con la población. Tal garantía indica la necesidad de disuadir del tratamiento de datos innecesario y desproporcionado, al tiempo que subraya las razones por las que las personas tienen derecho a comprender cómo se tratan sus datos para conformar las percepciones y conclusiones de los organismos estatales sobre quiénes son.
  • En relación con lo anterior, dicha garantía está en contradicción con una normalización indiscriminada de los esquemas integrales de identidad digital45. Sin salvaguardias estrictas y sólidas, acompañadas de un aparato estatal adecuado para prevenir las violaciones de los derechos humanos, los esquemas de identificación digital de hecho socavan el derecho a la identidad concebido como una garantía derivada de la autodeterminación de los individuos y del libre desarrollo de su personalidad.
  • El conjunto de derechos analizados en esta sección en relación con los principios de igualdad y no discriminación exige que los Estados respeten los derechos a la autonomía reproductiva y a la salud reproductiva a la hora de formular políticas públicas relacionadas. La adopción de tecnologías de IA/ADM como instrumentos políticos en este contexto exige una cuidadosa consideración en cuanto a si son adecuadas para el propósito y no son arbitrarias (véase el capítulo 5), y si su adopción contó con una amplia participación social, en particular de grupos comprometidos con los derechos de la mujer y cuestiones relacionadas.
  • La familia y la vida familiar desempeñan un papel central en la vida de las personas, por lo que las decisiones de los Estados que afecten a las relaciones y vínculos familiares deben respetar esta realidad. Tales decisiones deben estar al servicio del desarrollo y la fortaleza de la unidad familiar siempre que ello sea razonable y acorde con el libre desarrollo de la personalidad y los derechos del niño. El concepto de "familia" debe entenderse en sentido amplio para abarcar diferentes modelos y configuraciones.
  • Esto significa que la adopción de tecnologías de IA/ADM para las determinaciones del Estado que puedan causar que los niños sean separados de su familia debe observar rigurosamente los parámetros del Sistema Interamericano para las restricciones de derechos (véanse los capítulos 2 y 5) y la orientación de la Corte Interamericana que vincula la protección de la vida privada y familiar, los derechos del niño, el debido proceso y la igualdad y no discriminación (véanse también las secciones 4.3 y 4.4).
  • Las instituciones del Estado deben disponer del aparato y los procesos necesarios para garantizar adecuadamente el derecho de los niños y sus familiares a ser escuchados. "Quienes intervengan en los procesos decisorios sean personas con la competencia personal y profesional necesaria para identificar las medidas aconsejables en función del niño"46. De ello se deduce que, si bien los sistemas de IA/ADM pueden ser apropiados para apoyar determinadas necesidades de análisis de datos en este contexto, una toma de decisiones adecuada requiere un razonamiento y una evaluación que sea humana e interdisciplinaria.
  • Las suposiciones de riesgos o daños derivadas de las correlaciones de los sistemas IA/ADM no constituyen una base legítima para una decisión que implique la separación de un niño de su familia. La falta de recursos materiales tampoco es base suficiente. Debe exigirse una participación humana significativa e interdisciplinaria en cualquier toma de decisiones relativa a la separación de un niño de su familia. Por último, los Estados deben evitar que supuestos discriminatorios relacionados con prejuicios y estereotipos interfieran en los procedimientos de toma de decisiones, teniendo en cuenta tanto a los seres humanos como a las tecnologías de IA/ADM involucradas en el proceso de decisión.

Libertades de Expresión, Asociación y Reunión

  • El uso por parte del Estado de sistemas de IA/ADM que interfieran en las libertades de expresión, asociación y reunión sólo es admisible en la medida en que esté autorizado por una ley aprobada democráticamente y sea adecuado, necesario y proporcionado para alcanzar un objetivo legítimo (véase el capítulo 2).
  • Las libertades de expresión, asociación y reunión están estrechamente interrelacionadas con el derecho a la vida privada y al anonimato. El control y la vigilancia indiscriminados por parte del Estado de los espacios físicos y en línea mediante tecnologías de IA/ADM menoscaban gravemente el libre y pleno disfrute y ejercicio de dichas libertades, con repercusiones que se despliegan sobre la autonomía y la autodeterminación (véase la sección 4.5). El uso por parte del Estado de sistemas de IA/ADM con fines de vigilancia masiva, como ocurre con las tecnologías de reconocimiento facial (incluido el reconocimiento de emociones), es intrínsecamente desproporcionado y no debe tolerarse en virtud de las normas interamericanas de derechos humanos. El uso de IMSI catchers, incluso contra personas que ejercen sus libertades de reunión pacífica y asociación, plantea problemas similares47.
  • Las repercusiones sobre la libertad de expresión y los derechos de reunión son especialmente graves en el contexto del derecho a la protesta. Como se señala en los capítulos 1 y 2, todo uso por parte del Estado de sistemas de IA/ADM debe ser compatible con los principios de una sociedad democrática, y las restricciones a los derechos convencionales sólo están permitidas en la medida en que se atengan a dichos principios. Los sistemas de IA/ADM adoptados por el gobierno que impiden a las personas participar en manifestaciones o inhiben ilegítimamente su participación violan la Convención.
  • Los Estados deben prevenir y abordar cuidadosamente el impacto desproporcionado que el uso estatal de los sistemas de IA/ADM tiene sobre las libertades de expresión, asociación y reunión de los grupos históricamente discriminados. Garantizar que estos grupos puedan ejercer plenamente dichas libertades es fundamental para su derecho a la participación política, incluida su participación efectiva en las definiciones del Estado sobre el uso de tecnologías de IA que puedan afectar a sus derechos.
  • Los Estados deben estructurar y mantener mecanismos de supervisión para rendir cuentas adecuadamente del uso que hacen las instituciones públicas de los sistemas de IA/ADM, siguiendo normas adecuadas de transparencia y participación (véase el capítulo 1). Esto es crucial para prevenir abusos y violaciones de las libertades aquí contempladas, y para garantizar remedios y reparaciones en caso de que lamentablemente se produzcan. El hecho de que las herramientas algorítmicas utilizadas en una política o iniciativa estatal hayan sido desarrolladas por entidades privadas no exime a los Estados de su responsabilidad, incluidas las obligaciones de prevención y supervisión, a la hora de adoptar estos sistemas para determinaciones relacionadas con los derechos.

Derecho a una Vida Digna

  • Todo ser humano tiene derecho a una vida digna. Ello incluye la protección frente a circunstancias en las que "se le impida el acceso a las condiciones que le garanticen una existencia digna"48. En consecuencia, la adopción por parte del Estado de sistemas de IA/ADM no puede constituir una barrera arbitraria para el disfrute y ejercicio de los DESC de las personas. Esto también está en consonancia con el principio de no regresión (véase el capítulo 2).
  • El deber de los Estados de garantizar el derecho a una vida digna incluye la creación de las condiciones necesarias para evitar violaciones y restricciones arbitrarias de este derecho. Esto significa que la evaluación y la aplicación de los sistemas de IA/ADM en el marco de las políticas de protección social deben basarse en principios y prácticas destinados a garantizar el derecho a una vida digna y la realización progresiva de los DESC.
  • En este sentido, un principio importante que debe guiar la actuación del Estado en este y otros contextos es, una vez más, que las personas sujetas a procedimientos de decisión basados en la IA/ADM son titulares de derechos, incluido el derecho a una vida digna y los DESC conexos. Como tal, la participación cívica efectiva de los grupos afectados en el diseño, la aplicación y la evaluación de las políticas públicas que implican sistemas de IA/ADM es un segundo principio crucial que debe informar la actuación del Estado (véanse los capítulos 3 y 5).
  • La igualdad y la no discriminación son también principios relacionados que deben regir el ejercicio de las funciones del Estado en general y en el contexto de la protección social y los DESC (véanse el capítulo 2 y la sección 4.3).
  • Los derechos a la seguridad social y a la salud son facilitadores fundamentales de otros derechos, incluido el derecho esencial a la vida y a la integridad personal. Los Estados deben observar esta interdependencia cuando utilicen sistemas de IA/ADM para asignar o denegar prestaciones, subsidios y servicios.
  • Las prestaciones, los subsidios y los servicios públicos son todos mecanismos del Estado para cumplir con las obligaciones de garantizar que los miembros de la sociedad puedan vivir una vida digna y lograr progresivamente la realización de los DESC. Reducirlos, suspenderlos o denegarlos implica una restricción de los DESC correspondientes que debe estar prevista por la ley y basada en fundamentos legítimos (véase el capítulo 2).
  • Además, cualquier decisión estatal basada en la IA/ADM que afecte al disfrute de los DESC debe satisfacer rigurosamente las garantías del debido proceso (véase la sección 4.4).
  • Para que los beneficios del progreso científico y tecnológico se distribuyan de forma inclusiva y sostenible entre la población, las políticas y prácticas estatales pertinentes deben basarse en el respeto y la protección de los derechos humanos. Esto refuerza el hecho de que el desarrollo y el uso por parte de los Estados de sistemas de IA/ADM para determinaciones basadas en los derechos deben tener como punto de partida el derecho internacional de los derechos humanos.
  • La obligación de realización progresiva (véase la sección 2.4) prohíbe a los Estados no adoptar medidas para lograr la protección integral de los DESC, especialmente cuando el hecho de que los Estados no lo hagan pone en peligro la vida o la integridad personal de las personas49.
  • El derecho a la salud es parte integrante del derecho a la integridad personal e implica tener igualdad de oportunidades para disfrutar de los derechos al disfrute del más alto nivel posible de salud y a no ser objeto de injerencias. Esto último incluye el derecho a estar libre de tratamientos y experimentos médicos no consentidos. La adopción por parte del Estado de sistemas de IA/ADM para gestionar o establecer de otro modo recomendaciones o rutinas de tratamiento médico debe respetar el derecho a no ser sometido a experimentación, entre otros derechos.
  • La adopción por parte de los Estados de tecnologías de IA/ADM en este contexto debe tener en cuenta que el derecho al disfrute del más alto nivel posible de salud permite a las personas vivir una vida plena. La salud es mucho más que la ausencia de enfermedad o dolencia, sino un estado de completo bienestar físico, mental y social50. La aplicación por parte de los gobiernos de estas tecnologías de un modo que en la mayoría de los casos restringe y/o socava el bienestar de las personas es lo contrario de una distribución inclusiva y sostenible de los beneficios del progreso científico y tecnológico.
  • Los Estados también deben garantizar que las personas que reciben sus servicios de salud tengan acceso a la información pertinente sobre su tratamiento médico como parte de las obligaciones de transparencia activa de los Estados. Esta información debe ser oportuna, completa, comprensible y fiable51. Como destacó la Corte, la "accesibilidad a la información" es uno de los elementos esenciales del derecho al disfrute del más alto nivel posible de salud. La accesibilidad y la no discriminación son también elementos que los Estados deben tener en cuenta a la hora de evaluar la implantación de sistemas de IA/ADM en el contexto de los servicios de salud.
  • Esto guarda relación con la conexión entre la integridad física y mental, la autonomía personal y la libertad de tomar decisiones sobre el propio cuerpo y la propia salud. Esta conexión también exige que los Estados garanticen y respeten las decisiones y elecciones de las personas en relación con su salud que se hayan tomado de forma libre y responsable52.
  • El despliegue y/o la implantación de sistemas de IA/ADM en el contexto de la protección social (como la seguridad social y la salud) deben respetar las obligaciones de los Estados en materia de derecho de acceso a la información (véase la sección 4.2). Las políticas de protección social se financian con cargo a los presupuestos públicos. Como tal, el gasto público directamente relacionado con el uso de estas tecnologías en el sistema de bienestar debe estar disponible públicamente y ser fácilmente accesible como norma general.
  • El cumplimiento inclusivo y sostenible del derecho a disfrutar de los beneficios del progreso científico y tecnológico debe abarcar políticas estatales que fomenten la investigación y las inversiones para el desarrollo local de tecnologías de IA basadas en principios de apertura, descentralización y respeto de los derechos humanos.
  • Un elemento clave del respeto de los derechos humanos en el contexto de las políticas de fomento de la investigación y el desarrollo de sistemas de IA/ADM es el principio de autonomía personal y su prohibición de la "instrumentalización" de las personas (véase la sección 4.5). Por lo tanto, las políticas estatales de innovación deben abstenerse de enfoques que exploten los datos de los más vulnerables o prueben soluciones experimentales en poblaciones marginadas como incentivos para establecer asociaciones con el sector privado53.

    Notes

    1. Caso González y otras (“Campo Algodonero”) vs. México, Excepción Preliminar, Fondo, Reparaciones y Costas, Sentencia de 16 de noviembre de 2009, párr. 33. ↩

    2. Caso Artavia Murillo y otros (“Fecundación in Vitro”) vs. Costa Rica, Excepciones Preliminares, Fondo, Reparaciones y Costas, Sentencia de 28 de noviembre de 2012, párr. 245. ↩

    3. Caso Miembros del Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, Excepciones Preliminares, Fondo, Reparaciones y Costas, Sentencia de 18 de octubre de 2023, nota al pie 656. ↩

    4. Caso Miembros del Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, para. 533. ↩

    5. CIDH, Políticas Públicas con Enfoque de Derechos Humanos, 15 de septiembre de 2018, párr. 44. ↩

    6. CIDH, Compendio Institucionalidad Democrática, Estado de Derecho y Derechos Humanos, 30 de noviembre de 2023, párr. 148. La sección 3.1 del Apéndice ofrece ejemplos de declaraciones en las que la Comisión destaca la importancia de las medidas para garantizar la participación política efectiva de las mujeres, las personas LGBTQI+ y las personas y comunidades indígenas. ↩

    7. CIDH, Políticas Públicas con Enfoque de Derechos Humanos, párr. 58. ↩

    8. CIDH, Derechos de los Pueblos Indígenas y Tribales sobre sus Tierras Ancestrales y Recursos Naturales: Normas y Jurisprudencia del Sistema Interamericano de Derechos Humanos, 30 de diciembre de 2009, párr. 285. ↩

    9. CIDH, Pueblos Indígenas, Comunidades Afrodescendientes y Recursos Naturales: Protección de Derechos Humanos en el Contexto de Actividades de Extracción, Explotación y Desarrollo, 31 de diciembre de 2015, párr. 108. ↩

    10. CIDH, Derechos de los Pueblos Indígenas y Tribales sobre sus Tierras Ancestrales y Recursos Naturales, párr. 317. ↩

    11. CIDH, Derechos de los Pueblos Indígenas y Tribales sobre sus Tierras Ancestrales y Recursos Naturales, párr. 325. ↩

    12. CIDH, Derechos de los Pueblos Indígenas y Tribales sobre sus Tierras Ancestrales y Recursos Naturales, párr. 328. ↩

    13. Véase CIDH, Políticas Públicas con Enfoque de Derechos Humanos, párrs. 60-61. ↩

    14. CIDH, Relatoría Especial para la Libertad de Expresión, El Derecho de Acceso a la Información en el Marco Jurídico Interamericano: Segunda Edición, 7 de marzo de 2011, pp. 8-15. ↩

    15. Caso Miembros de la Corporación Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, párr. 607. ↩

    16. Caso Miembros de la Corporación Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, párr. 607. ↩

    17. Caso Miembros de la Corporación Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, párr. 607. ↩

    18. Para que las injerencias estén en conformidad con la Convención Americana, ellas ”deben estar previstas en ley, perseguir un fin legítimo y cumplir con los requisitos de idoneidad, necesidad y proporcionalidad [...]”. Caso Tristán Donoso vs. Panamá, Excepción Preliminar, Fondo, Reparaciones y Costas, Sentencia de 27 de enero de 2009, párr. 56. ↩

    19. Caso Miembros de la Corporación Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, párr. 603. ↩

    20. Véase CIDH, Relatoría Especial para la Libertad de Expresión, Derecho a la Información y Seguridad Nacional: El Acceso a la Información de Interés Público frente a la Excepción de Seguridad Nacional, Junio de 2020, párrs. 74, 77-78, 88; Relator Especial de las Naciones Unidas para la Libertad de Opinión y Expresión, Representante de la Organización para la Seguridad y Cooperación en Europa para la Libertad de los Medios de Comunicación y Relator Especial de la OEA para la Libertad de Expresión, Declaración Conjunta sobre Acceso a la Información y Legislación que Regula Secreto, 2004; y CIDH, Informe sobre Seguridad Ciudadana y Derechos Humanos, supra nota 110. ↩

    21. CIDH, Informe sobre Seguridad Ciudadana y Derechos Humanos, 31 de diciembre de 2009, párr. 186. ↩

    22. CIDH, Relatoría Especial para la Libertad de Expresión, Derecho a la Información y Seguridad Nacional, párrs. 117 y 119. ↩

    23. CIDH, Relatoría Especial para la Libertad de Expresión, Derecho a la Información y Seguridad Nacional, párr. 126; y CIDH, Informe sobre Seguridad Ciudadana y Derechos Humanos.  ↩

    24. Caso Gomes Lund y otros (“Guerrilha do Araguaia”) vs. Brasil, Excepciones Preliminares, Fondo, Reparaciones y Costas, Sentencia de 24 de noviembre de 2010, párr. 231. ↩

    25. CIDH, Relatoría Especial para la Libertad de Expresión, Los Órganos de Supervisión del Derecho de Acceso a la Información Pública: Compilación de informes temáticos contenidos en los Informes Anuales 2013 y 2014 de la Relatoría Especial para la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos, 2016, párr. 7. ↩

    26. CIDH, Relatoría Especial para la Libertad de Expresión, Los Órganos de Supervisión del Derecho de Acceso a la Información Pública, párr. 44. ↩

    27. Véase Caso Masacre de Santo Domingo vs. Colombia, Excepciones Preliminares, Fondo y Reparaciones, Sentencia de 30 de noviembre de 2012, párr. 18; CIDH, Compendio sobre la Obligación de los Estados de Adecuar su Normativa Interna a los Estándares Interamericanos de Derechos Humanos, 25 de enero de 2021, párr. 29; y Caso Velásquez Rodríguez vs. Honduras, Fondo, Sentencia de 29 de julio de 1988, párr. 166. ↩

    28. Ver Caso Barbani Duarte y otros vs. Uruguay, Fondo, Reparaciones y Costas, Sentencia de 13 de octubre de 2011, párr. 122. ↩

    29. Véase más en Lacambra, S., Matthews, J., & Walsh, K. (Mayo de 2018). Opening the Black Box: Defendant’s Rights to Confront Forensic Software, The Champion (NACDL); y Gullo, K., Victory! New Jersey Court Rules Police Must Give Defendant the Facial Recognition Algorithms Used to Identify Him, Electronic Frontier Foundation, 7 de junio de 2023. Disponible en <https://www.eff.org/deeplinks/2023/06/victory-new-jersey-court-rules-police-must-give-defendant-facial-recognition>. ↩

    30. Como se señaló en las implicaciones de la sección 4.3, el “sesgo de automatización” se refiere a la propensión de los humanos a considerar las decisiones de una máquina más objetivas o correctas que las tomadas por las personas. ↩

    31. Un ejemplo de esta preocupación es la estigmatización de las mujeres (y de las mujeres negras) en el contexto de las políticas de bienestar social. Véase, por ejemplo, Eubanks, V. (2018). Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. St. Martin’s Press; y Valente, M., Santos, N., & Fragoso, N. (2021). Presa na Rede de Proteção Social: Privacidade, Gênero e Justiça de Dados no Programa Bolsa Família [Trapped in the Social Safety Net: Privacy, Gender and Data Justice in the Bolsa Família Program]. InternetLab.  ↩

    32. En el Caso Miembros del Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, la Corte adoptó la definición de dato personal utilizada por el Comité Jurídico Interamericano. Dicha definición establece que los datos personales “abarca la información que identifica o puede usarse de manera razonable para identificar a una persona física de forma directa o indirecta, especialmente por referencia a un número de identificación, datos de localización, un identificador en línea o a uno o más factores referidos específicamente a su identidad física, fisiológica, genética, mental, económica, cultural o social.” También es interesante mencionar que las Directrices actualizadas utilizan intencionalmente el término “datos” de manera amplia para abarcar “como elementos fácticos, ‘bits’ almacenados electrónicamente o registros digitales” y “compilaciones de hechos que, tomados en conjunto, permitan sacar conclusiones sobre la persona o las personas en particular”. Los Principios Actualizados lo hacen para promover la mayor protección de la privacidad. OEA, Comité Jurídico Interamericano, Principios Actualizados sobre la Privacidad y la Protección de Datos Personales, Definición de Datos Personales, p. 24. ↩

    33. Para un análisis más profundo sobre las implicaciones de los Estándares Interamericanos de Derechos Humanos para la vigilancia de las comunicaciones estatales, consulte nuestro informe disponible en <https://necessaryandproportionate.org/americas-legal-analysis/>.  ↩

    34. Caso Miembros del Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, párr. 541. ↩

    35. Caso Miembros del Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, párr. 554. ↩

    36. CIDH, Relatoría Especial para la Libertad de Expresión, Estándares para una Internet Libre, Abierta e Incluyente, 15 de marzo de 2017, párrs. 222-223. ↩

    37. Caso Miembros del Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, párr. 573. ↩

    38. Caso Miembros del Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, nota al pie 718. ↩

    39. Caso Miembros del Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, párr. 576. ↩

    40. Caso Miembros del Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, párr. 576. ↩

    41. Caso Miembros del Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, párrs. 599-600 y 608. ↩

    42. Caso Miembros del Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, párr. 588. ↩

    43. Para conocer los conceptos de datos “derivados” e “inferidos”, consulte el Art. 19 del Data Protection Working Party, Guidelines on the Right to Data Portability, April 2017. ↩

    44. Caso Miembros del Colectivo de Abogados “José Alvear Restrepo” vs. Colombia, párr. 599. ↩

    45. Véase Access Now et al. (n.d.). #WhyID Campaign: An Open Letter to the Leaders of International Development Banks, the United Nations, International Aid Organisations, Funding Agencies, and National Governments. Disponible en: <https://www.accessnow.org/campaign/whyid/#whyid-open-letter>.  ↩

    46. Opinión Consultiva OC-17/02, del 28 de agosto de 2002, Condición Jurídica y Derechos Humanos del Niño, párr. 103. ↩

    47. Véase N, Y. (28 de junio de 2019). Gotta Catch ‘Em All: Understanding How IMSI-Catchers Exploit Cell Networks. Electronic Frontier Foundation; Privacy International. (Junio de 2020). IMSI catchers legal analysis.  ↩

    48. Caso de los “Niños de la Calle” (Villagrán-Morales y otros) vs. Guatemala, Fondo, Sentencia del 19 de noviembre de 1999, párr. 144. ↩

    49. Caso Cuscul Pivaral y otros vs. Guatemala, párr. 146. ↩

    50. Caso Cuscul Pivaral y otros vs. Guatemala, párr. 105. ↩

    51. Caso I.V. vs. Bolivia, Excepciones Preliminares, Fondo, Reparaciones y Costas, Sentencia de 30 de noviembre de 2016, párr. 155.  ↩

    52. Caso I.V. vs. Bolivia, párr. 155.  ↩

    53. Véanse las preocupaciones en torno a este enfoque en López, J. (2020). Experimentando con la Pobreza: El SISBÉN y los Proyectos de Analítica de Datos en Colombia. Fundación Karisma. ↩