En América Latina, la política social se digitaliza a gran velocidad. La promesa: usar datos y algoritmos para reducir la pobreza. La realidad: decisiones automatizadas que reproducen sesgos, estigmatizan y excluyen a quienes más apoyo necesitan. La inteligencia artificial sin vigilancia ética convierte al ciudadano en un data point, olvidando su condición de sujeto con derechos.
La digitalización no es neutral. El diseño de los sistemas de datos y las tecnologías que los implementan refleja visiones políticas, sociales y económicas que pueden reforzar y amplificar desigualdades históricas. En nombre de la eficiencia, se han instalado lógicas de control algorítmico que priorizan la focalización sobre la universalidad, y la vigilancia sobre la confianza.
Es urgente poner la ética en el centro del diseño. Esto implica transparencia en la recolección y uso de datos, garantías de privacidad, supervisión humana y mecanismos efectivos de rendición de cuentas. No se trata de rechazar la tecnología, sino de exigir que sea justa, explicable e inclusiva por diseño. Solo así la transformación digital podrá fortalecer –y no debilitar– nuestro derecho al bienestar, especialmente de las poblaciones vulnerables. (O)
