Unidad 7. El AI Act como marco vinculante con enfoque de riesgo, los referentes de Brasil y Colombia, y el mensaje articulador del TEMA 7.
El Reglamento de Inteligencia Artificial de la Unión Europea (AI Act) se configura como un marco jurídicamente vinculante para dicha región que introduce una arquitectura regulatoria integral basada en un enfoque de riesgo. Su premisa es que no todos los usos de IA exigen la misma intensidad de control: por ello, diferencia prácticas prohibidas (por considerarse incompatibles con derechos y valores), obligaciones de transparencia para ciertos casos, y un régimen reforzado para sistemas de “alto riesgo”. En términos de técnica regulatoria, el AI Act se centra en la gobernanza verificable: gestión de riesgos, documentación técnica, trazabilidad, control humano y mecanismos de supervisión y sanción, todo ello bajo una lógica de cumplimiento ex ante y monitoreo ex post.
En el componente de alto riesgo, el Reglamento exige protecciones como sistemas de gestión de riesgos, calidad y gobernanza de datos, documentación técnica, registro y conservación de logs, información clara para usuarios/operadores, medidas de supervisión humana, y estándares de precisión, robustez y ciberseguridad; además, incorpora un esquema institucional europeo para coordinación y aplicación. Junto a ello, el AI Act aborda de manera específica el fenómeno de la IA generativa y de propósito general mediante obligaciones de transparencia y deberes de información que buscan reducir asimetrías y riesgos sistémicos. El resultado es un modelo regulatorio que trata la IA como infraestructura sociotécnica con impactos sobre derechos, y no como simple herramienta neutral, lo que explica su influencia extraterritorial como referencia comparada.
Haz clic en cada tarjeta para desplegar el referente; vuelve a hacer clic para retraerlo.
La Resolução n. 332/2020 del Conselho Nacional de Justiça (CNJ) fija directrices para el desarrollo, adopción y uso de modelos de inteligencia artificial en el Poder Judicial brasileño, con un acento marcado en compatibilidad con derechos fundamentales y en parámetros éticos de transparencia, previsibilidad, auditabilidad, imparcialidad y justicia sustancial. En su dimensión operativa, antes de poner un modelo en producción exige homologación para identificar sesgos o generalizaciones y ordena medidas correctivas, incluyendo la descontinuación si el sesgo no puede eliminarse; define la transparencia como un paquete de deberes y, de forma especialmente exigente, la obligación de contar con una explicación satisfactoria y auditable por autoridad humana respecto de cualquier propuesta de decisión generada por IA. En paralelo, refuerza el control por el usuario: la propuesta del sistema no debe vincular, debe poder revisarse, y los usuarios externos deben ser informados de manera clara sobre el carácter no vinculante de la solución sugerida y su sometimiento a autoridad competente.
Volver ↻
El Acuerdo PCSJA24-12243 (Plan Especial de IA Generativa para la Rama Judicial) se inserta en la discusión institucional colombiana sobre cómo introducir IA generativa en la Rama Judicial sin comprometer estándares de responsabilidad pública, seguridad de la información y garantías procesales. Su relevancia comparada radica en que no parte de la idea de automatizar decisiones jurisdiccionales, sino de encauzar el fenómeno mediante un plan especial: un marco administrativo de orientación que reconoce tanto el potencial de apoyo como los riesgos asociados a errores, sesgos y tratamientos indebidos de información. El plan se describe públicamente como orientado a promover un uso responsable, seguro y ético de la IA generativa, con énfasis en reglas de prudencia sobre información, responsabilidades humanas y adopción gradual; prioriza usos de apoyo (por ejemplo, elaboración de borradores y asistencias instrumentales) bajo supervisión humana, evitando comprender la IA como sustituto del juicio institucional. El énfasis está en el carácter experimental y supervisado de la IA generativa, y en la necesidad de capacitar a jueces y funcionarios antes de un despliegue amplio.
Volver ↻Para Guatemala, estos referentes internacionales y regionales no son jurídicamente vinculantes, pero constituyen un canon persuasivo que puede orientar la elaboración de protocolos internos, guías de buenas prácticas y contenidos de capacitación. El módulo puede aprovecharlos para: mostrar que la preocupación por el uso responsable de IA en justicia es global; subrayar que el objetivo no es “prohibir la tecnología”, sino usarla de manera compatible con la independencia, la imparcialidad y la integridad judicial; y ofrecer a la SGT criterios comparados para evaluar propuestas de herramientas, contratos tecnológicos o proyectos piloto que involucren IA.
Al articular estos estándares con el bloque interno guatemalteco (Constitución, LOJ, LCJ y Reglamento, Normas Éticas, LAIP, Manual de la SGT y Pacto Colectivo), el TEMA 7 del módulo puede transmitir un mensaje claro: la IA es una herramienta potente que, si se utiliza bajo control humano significativo, con respeto a la confidencialidad y con trazabilidad, puede mejorar el trabajo de supervisión y prevención; pero, si se usa de forma acrítica o no gobernada, puede agravar problemas ya identificados por la CIDH y la ONU en materia de captura, presiones internas y erosión de la confianza pública en la justicia guatemalteca.