El uso de la inteligencia artificial en la administración de justicia abre una oportunidad para modernizar procesos, pero también plantea riesgos que no pueden ser ignorados. La Unión Europea, a través del Reglamento de Inteligencia Artificial (AI Act), ha establecido un modelo normativo basado en riesgos que prioriza la protección de derechos fundamentales frente al uso de sistemas automatizados. Este reglamento establece un enfoque basado en riesgos, prohíbe usos inaceptables de la IA y somete a estrictas obligaciones a los sistemas de alto riesgo, especialmente aquellos que pueden incidir en derechos fundamentales.
Este precedente resulta particularmente relevante para América Latina. En Ecuador, la incorporación de herramientas algorítmicas en la función judicial debe ir acompañada de un marco constitucional y legal sólido. La Constitución de la República del Ecuador garantiza el debido proceso, la igualdad y la seguridad jurídica, principios que podrían verse vulnerados por decisiones automatizadas opacas o sesgadas.
Por ello, es urgente avanzar hacia una regulación que incorpore criterios de transparencia, supervisión humana y responsabilidad institucional. La justicia no puede ser delegada sin control a sistemas tecnológicos. La inteligencia artificial debe consolidarse como un instrumento al servicio de los derechos ciudadanos, y no como una amenaza silenciosa a su vigencia. (O)
X: @monicabanegas
