El 17 y 18 de noviembre de 2022 organizamos el taller Justicia de datos en América Latina: Retos y alternativas en la Universidad del Rosario en Bogotá, Colombia. Este evento se hizo con el apoyo de la Fundación Karisma y el Centro de Internet y Sociedad de la Universidad del Rosario (ISUR). Además, contamos con la participación de organizaciones de la sociedad civil, academia y del sector público trabajando por la justicia social en tecnologías digitales en América Latina. El evento analizó los retos y promovió un modelo de gobernanza de datos que contribuya a la autonomía, dignidad, participación y control comunitario sobre las infraestructuras digitales.
Contexto
La capacidad de las tecnologías digitales para vigilar, clasificar e intervenir la vida de las personas no está conectada a la idea de justicia social. La forma hegemónica de gobierno de las tecnologías de datos representa las necesidades de las empresas de tecnología y los Estados del Norte Global que las promueven.
En América Latina, las empresas de tecnología ven las infraestructuras básicas de datos de los Gobiernos cómo nuevos mercados para generar dependencias. Desde la privatización de los 90s, estas empresas tienen contratos de infraestructuras de datos como los sistemas de identidad nacional, los sistemas de seguridad pública y la distribución de servicios sociales. Los Estados de emergencia declarados durante la pandemia se convirtieron en espacios para consolidar la entrada de actores privados en nuevas infraestructuras como los sistemas de almacenamiento de información sensible estatal, dispositivos de vigilancia pública, las herramientas de comunicación con la ciudadanía y datos de salud de la ciudadanía.
Al mismo tiempo, nuestros Gobiernos reproducen violencias históricas contra comunidades vulnerables a través de sistemas complejos para mantenerse en el poder. Los sistemas de datos se han utilizado para invisibilizar la experiencia de comunidades vulnerables. Los estallidos sociales en América Latina en los últimos años vinieron acompañados de un incremento en el uso de tecnologías de vigilancia como los drones, el reconocimiento facial y el uso de datos no convencionales por parte de las autoridades de seguridad pública. La “innovación” en la implementación de programas sociales y políticas públicas ha traído consigo nuevas formas para perseguir, discriminar y estigmatizar comunidades vulnerables.
Ahora bien, desde diferentes frentes, las comunidades se han organizado para hacerle frente a este tipo de sistemas y reclamar un gobierno de datos que traiga beneficios colectivos y que proteja a las comunidades más vulnerables. Igualmente, las organizaciones han empezado a utilizar los sistemas de datos para visibilizar violencias que no han sido reconocidas por los Estados.
El evento tuvo cuatro paneles en el que se presentaron experiencias con un tema común y con discusiones productivas para construir una agenda de investigación de la justicia social en sistemas de datos en América Latina.
1. Retomando el control público: Cómo las empresas de tecnologías están tomando las infraestructuras de interés público.
En medio de la trayectoria histórica de la privatización de servicios e infraestructuras públicas en América Latina, las compañías de tecnología están apuntando a expandirse a nuevos sectores y generar nuevas dependencias en las infraestructuras de interés público. En esta sección analizamos casos de la expansión oportunista de empresas de tecnologías, las afectaciones de estos sistemas y los mecanismos que podríamos utilizar para retomar el control público y proteger los derechos fundamentales de las comunidades.
Primero, Mariana Rielli (Data Privacy Brasil) presentó su investigación sobre el uso de tecnologías basadas en datos personales para combatir el COVID-19 en Brasil centrada en el caso de In Loco (Renombrada Incognia) que concentró la mayor cantidad de acuerdos con entidades públicas. Segundo, Jamila Venturini (Derechos Digitales) presentó un informe analiza el avance de los sistemas de reconocimiento facial en América Latina, las empresas proveedoras, las iniciativas del sector público, y sus riesgos en el ámbito social, político y económico. Finalmente, tuvimos la presentación de Daniel Vizuete (CTS LAB – FLACSO) que examinó la producción, circulación y uso de conocimientos sobre tecnologías de Big Data e Inteligencia Artificial en Ecuador, siguiendo los programas académicos y publicaciones, así como su uso en sectores privados y públicos en iniciativas de lucha contra la pobreza, corrupción y participación ciudadana.
2. Dignificando a las comunidades: Cómo las decisiones algorítmicas afectan la autonomía de las personas en América Latina.
El creciente uso de tecnologías de decisiones automatizadas en diferentes aspectos de la vida tiene implicaciones en la forma en que el Estado y el sector privado ven y tratan a las personas. Siguiendo tendencias históricas, las tecnologías automatizadas se han utilizado para reproducir violencias sobre comunidades vulnerables en la región. Esta sección analizó diferentes casos de violencias e inequidades por medio de sistemas de datos y decisión algoritmos en América Latina y exploró mecanismos para hacerle frente a estos desarrollos dignificando a las comunidades vulnerables.
En primer lugar, Joan Lopez-Solano (Global Data Justice / Fundacion Karisma) presentó un marco de justicia social para el diseño e implementación de sistemas de datos para la protección social basado en el caso del Sisben en Colombia. En segundo lugar, Oscar Maldonado (Universidad del Rosario/Fairwork Colombia) analizó las condiciones laborales en ocho plataformas digitales en tres sectores diferentes (reparto de alimentos, transporte privado y cuidado doméstico), sobre las condiciones de los trabajadores y ayudar a hacer que las plataformas rindan cuentas por sus prácticas. Juan David Gutiérrez y Sarah Muñoz-Cadena (Universidad del Rosario) presentaron un análisis del uso de sistemas de decisión automatizada (SDA) en el sector público de Colombia, mapeando y caracterizando su uso y sus implicaciones en términos de ética y gobernanza, a través de información recolectada de fuentes públicas y entrevistas con funcionarios encargados de su diseño e implementación. Finalmente, Romina Garrido (Universidad Adolfo Ibáñez/ GobLab UAI) presentó una investigación sobre la transparencia algorítmica en el sector público en Chile para generar recomendaciones que incorporen estándares éticos en el diseño y adquisición en el sector público y privado.
3. Haciendo veedurías ciudadanas: Cómo analizar los sistemas de datos y algoritmos desde una perspectiva de interés público
El uso de los sistemas de datos y decisiones automatizadas está centrado en los intereses de los actores más poderosos del sector público y privado afectando los derechos y las necesidades de las comunidades. Ahora bien, desde diferentes frentes, las ciudadanías se han organizado para hacerle frente a este tipo de sistemas y reclamar un gobierno de datos que traiga beneficios colectivos y que proteja a las comunidades más vulnerables. En esta sección analizamos diversas experiencias de evaluación y transformación de los sistemas automatizados de datos en torno a intereses ciudadanos.
En primer lugar, Katherine Reilly (Simon Fraser University) abordó el uso de datos personales por parte del sector privado para modelos de negocio de plataformas en el contexto latinoamericano a través de estudios impulsados por los ciudadanos sobre cómo los actores privados recopilan, utilizan y aprovechan los datos personales de acuerdo con sus valores. Segundo, Andrés Lombana y Carlos Barreneche (Universidad Javeriana) presentaron el caso de CanAirIO, una Red Ciudadana de Monitoreo de la Calidad del Aire en Bogotá, Colombia, que demuestra cómo la construcción de infraestructuras comunitarias alternativas y la movilización de datos generados por ciudadanos puede influir en el cambio de las normas de calidad del aire. En tercer lugar, Daniel Gómez (Universidad del Norte/ILEX) analizó el caso de la sentencia T-276 de 2022 en la que la Corte Constitucional de Colombia reconoció las graves vulneraciones a los derechos fundamentales de la población afrodescendiente por la invisibilización estadística en el Censo 2018 del Departamento Nacional de Estadística (DANE) a través del diseño del sistema, su implementación y uso.
4. Creando valor público: Cómo promover modelos de gobernanza de datos y algoritmos para el beneficio colectivo y la protección comunitaria
Los modelos dominantes para el gobierno de datos y los sistemas automatizados representan los intereses de los principales actores del sector tecnológico y de los Estados en cuyas economías están integrados. Los datos se conceptualizan principalmente como un recurso para el control social, el crecimiento económico o una propiedad privada. La idea de esta sección fue promover modelos alternativos de datos que contribuyan a la autonomía, la participación y el control público de las comunidades.
Primero, Paola Ricaurte (Tierra común/Tecnológico de Monterrey) presentó su investigación sobre imperativos normativos y políticos, la infraestructura pública de datos, el acceso digital y la alfabetización en materia de datos para responder a la necesidad de una cultura de datos alternativa y centrada en las personas contra los modelos hegemónicos de digitalización que refuerzan las asimetrías de poder que perjudican a las comunidades marginadas y vulnerables en América Latina. Segundo, Valentina Rozo-Angel (Yale Mcmillan Center/HRDAG) que presentó el caso de la Comisión de la Verdad en Colombia para mostrar cómo se pueden usar datos y sistemas automatizados para desvelar silencios estructurales sobre las experiencias de personas vulnerables en el marco del conflicto armado para encontrar patrones en las personas víctimas y algunas experiencias de violencia no se “contaban” igual.
