De manera particular, la Sala Segunda de Revisión considera esenciales la apropiación y aplicación de los siguientes criterios orientadores en cuanto al uso de herramientas de IA como ChatGPT por parte de los despachos judiciales en el país:
a. Transparencia, entendida como la obligación de evidenciar con claridad y precisión el uso, alcances y ubicación en las actuaciones o decisiones de los resultados obtenidos por la utilización de tales herramientas, que permita a los usuarios e interesados su pleno conocimiento y la posibilidad efectiva de contradicción.
b. Responsabilidad, comprendida como aquella obligación que existe de que el usuario de la herramienta de IA se encuentre capacitado y comprenda los impactos del uso de estas tecnologías, para a su vez dar cuenta del origen, idoneidad y necesidad del uso de la IA y la información suministrada por la misma, la cual debe ser verificada.
c. Privacidad, es aquel deber de custodiar y proteger la reserva de los datos personales y sensibles que se ponen en conocimiento de la administración de justicia para cumplir con los fines propios de la Rama Judicial.
d. No sustitución de la racionalidad humana, como expresión de la imposibilidad ética y jurídica de sustituir la acción y la responsabilidad del individuo de la especie humana en la gestión de las actuaciones y decisiones judiciales.
e. Seriedad y verificación, que implica la obligación de realizar un estricto escrutinio sobre las fuentes, alcances, restricciones, posibilidades, falencias y riesgos que presente la herramienta de cara a la actuación en curso o a la solución del problema jurídico correspondiente.
f. Prevención de riesgos, como mandato en cuanto aplicar los estándares adecuados de control sobre situaciones que generen riesgo por la aplicación de tecnologías tales, en aspectos como imprecisiones, desactualizaciones, alucinaciones, sesgos, inconsistencias y demás.
g. Igualdad y equidad, en cuanto se erradiquen todas las formas de discriminación relacionadas con la aplicación de sesgos derivada del uso de tales tecnologías y su impacto negativo en la eficacia de los derechos humanos.
h. Control humano, en tanto considerando los anteriores criterios, siempre se permita la realización efectiva de escrutinios sobre las actuaciones y decisiones en que se usen herramientas de IA, mediante el acceso a la debida información y el uso de recursos que deban ser resueltos por autoridades humanas.
i. Regulación ética, que implica el desarrollo de estándares de comportamiento individual que se adecúen a los mandatos superiores y legales y a las pautas razonables para el uso de tales tecnologías por parte de los funcionarios y servidores de la Rama Judicial.
j. Adecuación a buenas prácticas y estándares colectivos, en tanto se apliquen los esquemas razonables que se definan para el funcionamiento de la Rama Judicial, desde su autonomía e independencia, a partir de las definiciones que adopten sus autoridades, tanto en sede de administración como de orientación jurisprudencial.
k. Seguimiento continuo y adaptación, a efecto que el uso de tales tecnologías consulte los avances jurídicos, sociológicos y tecnológicos que se vayan implementando, así como los esquemas de mejora y control que se construyan en forma progresiva.
l. Idoneidad. El uso de las tecnologías de la información y de las comunicaciones en la gestión y trámite de los procesos judiciales y asuntos en curso debe ser adecuado para facilitar y agilizar el acceso a la justicia.
📊 Cuadro comparativo:
Criterios orientadores vs. Lineamientos del Consejo Superior de la Judicatura.
| Criterios orientadores (Sala Segunda de Revisión) |
Lineamientos mínimos (Consejo Superior de la Judicatura) |
| Transparencia: claridad sobre uso, alcances y ubicación de resultados de IA. |
Garantizar transparencia en todas las actuaciones judiciales que usen IA. |
| Responsabilidad: capacitación y comprensión de impactos, verificación de información. |
Identificar un humano responsable de las decisiones y uso de IA. |
| Privacidad: protección de datos personales y sensibles. |
Evitar transgresión de derechos como habeas data e intimidad. |
| No sustitución de la racionalidad humana: la IA no reemplaza la acción y responsabilidad del juez. |
Prohibición expresa de sustituir el razonamiento lógico y humano del juez en valoración probatoria y decisiones. |
| Seriedad y verificación: escrutinio estricto sobre fuentes, alcances y riesgos. |
Uso de IA limitado a gestión administrativa, documental y apoyo, con verificación constante. |
| Prevención de riesgos: control sobre imprecisiones, sesgos, inconsistencias. |
Establecer sistema de control, seguimiento, alerta, evaluación y mejora en prácticas de IA. |
| Igualdad y equidad: erradicación de discriminación y sesgos. |
Garantizar acceso efectivo y no vulneración de derechos fundamentales en digitalización de justicia. |
| Control humano: escrutinio efectivo por autoridades humanas. |
Autorregulación ética y autocontroles de jueces y magistrados al usar IA. |
| Regulación ética: estándares de comportamiento conforme a mandatos superiores. |
Autorregulación ética como mecanismo de control en instancias y revisión de tutelas. |
| Buenas prácticas y estándares colectivos: esquemas razonables definidos por la Rama Judicial. |
Coordinación con Congreso, Gobierno, autoridades públicas y organismos internacionales sobre IA. |
| Seguimiento continuo y adaptación: actualización con avances jurídicos y tecnológicos. |
Divulgación de resultados y rendición de cuentas sobre uso de IA en despachos judiciales. |
| Idoneidad: uso adecuado para facilitar acceso a la justicia. |
Desarrollo de habilidades digitales en operadores jurídicos mediante la Escuela Judicial Rodrigo Lara Bonilla. |
|
Comments are closed.