Bienvenidos
Técnicas de Investigación Administrativa y Preventiva
Uso responsable de IA
Unidad 7
Unidad 7 · Sección 7.1
0:00 / 0:00
Unidad 7. Buenas prácticas —no norma vinculante— para integrar la inteligencia artificial en la función preventiva e investigativa de la SGT, bajo control humano significativo y en diálogo con el marco normativo y los estándares internacionales.
Debe tenerse en cuenta, que un módulo de capacitación no es norma vinculante, sino más bien una guía de buenas prácticas. Por ello, los criterios y recomendaciones se plantean como buenas prácticas, que deben dialogar con el marco normativo vigente: Constitución, Ley del Organismo Judicial, Ley de la Carrera Judicial y su Reglamento, Ley de Servicio Civil y su Reglamento, Normas de Comportamiento Ético, LAIP, Pacto Colectivo y Manual de Procedimientos de la SGT. El objetivo es ofrecer un marco prudente y alineado con estándares internacionales (OCDE, UNESCO, UE, CEPEJ, CNJ de Brasil, Consejo Superior de la Judicatura de Colombia, entre otros), que evite tanto el rechazo tecnófobo como el uso acrítico o riesgoso de sistemas de inteligencia artificial (IA).
La discusión sobre qué es exactamente la “inteligencia artificial” está lejos de estar cerrada. Diferentes organismos internacionales han propuesto definiciones funcionales que, más que pretender ser “esenciales”, buscan describir familias de sistemas relevantes para la regulación y la gobernanza.
La OCDE, en su Recomendación sobre IA, define los sistemas de IA como sistemas basados en máquinas que, para objetivos explícitos o implícitos, procesan datos y producen resultados (predicciones, recomendaciones o decisiones) que afectan entornos físicos o virtuales. Esta definición subraya tres elementos: la base algorítmica/máquina, la orientación a un objetivo y la capacidad de generar resultados que influyen en la realidad (por ejemplo, priorización de casos, sugerencias de redacción, clasificadores de riesgo).
El AI Act europeo —Reglamento de la Unión Europea sobre inteligencia artificial— retoma y refina esta lógica al entender por sistema de IA un sistema basado en máquinas, diseñado para operar con diversos grados de autonomía, que puede mostrar adaptabilidad tras su despliegue y que, para objetivos explícitos o implícitos, infiere a partir de las entradas que recibe cómo generar salidas tales como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales. El énfasis está en la capacidad de inferir (no solo seguir reglas explícitas), en la autonomía variable y en el hecho de que los outputs pueden condicionar decisiones humanas o automatizadas.
En este marco general, la IA generativa es un subconjunto de sistemas de IA capaces de producir contenido nuevo (texto, imágenes, audio, video, código, resúmenes, borradores de informes) a partir de instrucciones o “prompts” en lenguaje natural. Modelos como los grandes modelos de lenguaje (LLMs) son ejemplos paradigmáticos: no “recuperan” simplemente fragmentos de texto, sino que generan respuestas probabilísticas en función de patrones aprendidos en grandes volúmenes de datos.
Para la administración de justicia, y específicamente para funciones de supervisión e investigación administrativa y preventiva, estos sistemas presentan un potencial importante (borradores de actas, síntesis documentales, analítica descriptiva de cargas), pero también riesgos significativos. Pulsa cada tarjeta para desplegar y retraer el detalle de los cinco riesgos.
Haz clic en cada tarjeta para desplegar el riesgo; vuelve a hacer clic para retraerlo.
Los modelos generativos pueden producir información factualmente errónea, pero redactada con alto grado de fluidez y aparente seguridad. En un contexto disciplinario esto puede implicar la construcción de resúmenes o argumentos basados en datos inexistentes, citas normativas falsas o caracterizaciones inexactas de actuaciones procesales. El riesgo es mayor cuando el usuario asume que “si lo escribe la máquina, debe ser cierto” y relaja el control de verificación.
Volver ↻
Muchos sistemas de IA aprenden a partir de datos históricos que reflejan desigualdades estructurales (por ejemplo, distribución desigual de sanciones disciplinarias, prácticas discriminatorias, sesgos de género o étnico). Sin supervisión adecuada, estos sistemas pueden reproducir o amplificar dichos sesgos, por ejemplo, al sugerir prioridades de supervisión o al describir perfiles de riesgo que afecten de forma desproporcionada a mujeres, pueblos indígenas, personas con discapacidad o colectivos sindicalizados. Esto entra en tensión con los principios constitucionales de igualdad y no discriminación, así como con las obligaciones internacionales en materia de derechos humanos.
Volver ↻
La SGT trabaja con expedientes que contienen datos personales, datos sensibles, información laboral y disciplinaria, e incluso información clasificada como confidencial o reservada conforme a la LAIP. Cargar esta información en servicios externos de IA (especialmente en plataformas públicas en la nube que almacenan o reutilizan los prompts y los documentos) puede constituir una violación de la reserva legal, de las normas de protección de datos personales y de la propia cadena de custodia administrativa y digital. La propia LAIP exige clasificación formal, prueba de daño y plazos de reserva; cualquier práctica de IA que vulnere este esquema podría constituir una falta disciplinaria (por violación de reserva, negligencia grave o abuso de autoridad), sin que sea necesario crear nuevos tipos.
Volver ↻
Algunos sistemas de IA —particularmente los modelos “caja negra”— no permiten explicar de manera clara cómo se llegó a un determinado resultado. En materia de justicia, esto es especialmente problemático: la motivación, la transparencia y la posibilidad de control judicial son requisitos esenciales del debido proceso. Si una recomendación disciplinaria, o una priorización de casos, se apoya de facto en un algoritmo opaco, la SGT corre el riesgo de no poder justificar racionalmente sus decisiones, lo que erosiona la confianza y expone a nulidades o reproches de la Corte de Constitucionalidad o de la propia carrera judicial.
Volver ↻
La integración de herramientas de IA que no estén alojadas o gobernadas por el propio Organismo Judicial puede generar dependencias tecnológicas y riesgo de fuga de datos (por ejemplo, proveedores que retienen logs, metadatos o fragmentos de expedientes). Además, la falta de control de versiones y de gobernanza institucional (como advierten la OCDE y la UNESCO para el sector público) puede conducir a una fragmentación de prácticas, donde cada unidad adopta herramientas distintas, sin análisis de impacto ni base legal clara.
Volver ↻Por estas razones, el uso de IA en la SGT debe entenderse siempre como herramienta de apoyo bajo control humano significativo, nunca como sustituto de la deliberación jurídica, de la valoración probatoria conforme a sana crítica, ni de la responsabilidad personal de quienes investigan, recomiendan y deciden.