Unidad 7. Cinco usos altamente problemáticos que el módulo debe desaconsejar expresamente, y la metodología de análisis de cumplimiento que dialoga con el régimen disciplinario.
De manera complementaria, la experiencia comparada muestra una serie de usos que deben considerarse altamente problemáticos o directamente contrarios a los estándares internacionales y al marco normativo interno, de modo que el módulo de capacitación debería desaconsejarlos expresamente como parte de las buenas prácticas de la SGT. Pulsa el botón + de cada nodo para desplegar el detalle.
Cada nodo despliega un uso fuertemente restringido o prohibido como buena práctica.
1. Automatizar decisiones disciplinarias
2. Acceso no autorizado a expedientes
3. Cargar datos reservados externos
4. Uso sin citación ni revisión
5. Perfiles de “riesgo disciplinario”
En todos estos casos, conviene subrayar que no se está “creando” un nuevo ilícito disciplinario por el uso de IA, sino recordando que el uso negligente o abusivo de herramientas tecnológicas se subsume en faltas ya existentes: violación de reserva, negligencia grave, abuso de autoridad, incumplimiento de deberes, entre otras.
Una cultura de uso responsable de IA en la SGT debería incluir, como parte de sus buenas prácticas, una metodología básica de análisis de cumplimiento, alineada con los estándares emergentes en materia de gobernanza de IA.
En primer lugar, es recomendable realizar, antes de la adopción de herramientas de IA de cierto impacto, una evaluación de impacto (similar, en espíritu, a las “AI impact assessments” que proponen la OCDE y el AI Act). Esta evaluación no requiere una ley nueva, pero sí un análisis interno que considere: finalidad del uso (¿qué problema pretende resolver la IA?); categorías de datos involucrados (¿hay datos personales, sensibles, información disciplinaria o clasificada?); posibles riesgos para derechos (debido proceso, igualdad, integridad personal, libertad de expresión); medidas técnicas y organizativas para mitigarlos (anonimización, límites de acceso, registro de acciones, auditorías periódicas); y un plan de revisión y descontinuación en caso de detectar efectos no deseados.
En segundo lugar, toda práctica de IA debe tener una base legal de tratamiento de datos clara. En el contexto guatemalteco, esta base se encuentra en: la Constitución y la Ley del Organismo Judicial, que asignan al OJ y a la SGT funciones de supervisión, disciplina y administración; la Ley de la Carrera Judicial y la Ley de Servicio Civil, que prevén evaluación del desempeño, investigación de faltas y aplicación de sanciones con respeto al debido proceso; la LAIP, que regula acceso, confidencialidad, información reservada y protección de datos personales. Cualquier uso de IA que suponga tratamiento de datos personales debe encajar en estas finalidades y respetar los límites que la LAIP impone para la clasificación, el plazo de reserva, el hábeas data y la prohibición de comercialización de datos sensibles.
En tercer lugar, es necesario establecer medidas de seguridad y control de versiones. Esto implica: identificar qué versiones de modelos de IA se utilizan (incluyendo actualizaciones o cambios de proveedor); documentar quién puede acceder a las herramientas y bajo qué credenciales; y garantizar que los registros (logs) se conserven conforme a las normas de archivo del Manual de Procedimientos de la SGT y a la legislación aplicable. La seguridad no es solo un asunto tecnológico; es también organizativo: perfiles de acceso, capacitación específica, protocolos claros sobre qué información puede o no introducirse en sistemas de IA y mecanismos de reporte cuando se identifique un uso indebido o una brecha.
Por último, el análisis de cumplimiento debe dialogar con el régimen disciplinario existente, no para amenazar, sino para clarificar: el mensaje pedagógico del módulo debería ser que el uso diligente de herramientas de IA puede mejorar la calidad y eficiencia de la supervisión; el uso imprudente o abusivo, en cambio, puede acarrear responsabilidad conforme a las normas vigentes.