Autor

Comunicación Poder Judicial

El Pleno del Consejo General del Poder Judicial ha aprobado hoy una instrucción dirigida a la Carrera Judicial en relación con la utilización de programas y/o herramientas de inteligencia artificial (IA) en el ámbito de la Administración de Justicia. La finalidad del texto es dotar a los/as jueces/as y magistrados/as de “un marco de actuación claro, homogéneo y coherente” con la normativa nacional y europea en esta materia, respetando en todo momento la independencia judicial y el ejercicio por los miembros de la Carrera Judicial de las funciones jurisdiccionales. 

La instrucción, que será publicada en el Boletín Oficial del Estado, advierte de la necesidad de establecer criterios, pautas de uso y principios para la utilización de los sistemas de inteligencia artificial por los jueces/as y magistrados/as en el ejercicio de la actividad jurisdiccional, especialmente los de IA generativa, cuyo empleo puede vulnerar los derechos y libertades de las personas. Y ello, dentro del contexto normativo tanto de la Unión Europea (Reglamento UE 2024/1689, de 13 de junio) como interno (Real Decreto 729/2023, de 22 de agosto; Real Decreto-ley 6/2023, de 19 de diciembre y Real Decreto 817/2023, de 8 de noviembre). 

El uso de estos sistemas, según el texto aprobado por el Pleno, que fue elaborado por la Comisión de Modernización e Informática, deberá hacerse, en todo caso, de acuerdo con las previsiones contenidas en la Ley Orgánica del Poder Judicial y en los reglamentos que la desarrollan, en las leyes procesales y otras normas de aplicación y de acuerdo con la Política de uso de la inteligencia artificial en la Administración de Justicia aprobada por el Comité Técnico Estatal de la Administración Judicial electrónica (CTEAJE). 

El documento incluye la definición de distintos conceptos, como el “sistema de IA”, al que se refiere como todo sistema basado en máquinas que esté diseñado para funcionar con distintos niveles de autonomía, que puede mostrar capacidad de adaptación y que infiere de la información de entrada que recibe la manera de generar resultados de salida; o las “herramientas de IA generativa”, sistemas capaces de generar de forma automatizada contenidos a partir de instrucciones formuladas por el usuario; o el “sesgo algorítmico”, que define como la desviación sistemática en los resultados generados por la IA a partir de los datos, modelos o procesos utilizados, pudiendo producir efectos arbitrarios o discriminatorios. 

La instrucción determina los principios que deben regir la utilización de las herramientas de inteligencia artificial en el ejercicio de la actividad jurisdiccional, como el principio de control humano efectivo, que implica el constante “control humano, real, consciente y efectivo” por parte de los/as jueces/as y magistrados/as de los sistemas de IA, que no podrán operar de forma autónoma para la toma de decisiones judiciales, la valoración de los hechos o de las pruebas o la interpretación y la aplicación del Derecho. 

Entre otros principios, el de “no sustitución de los jueces/as y magistrados/as”, que prohíbe que la IA supla a los miembros de la Carrera Judicial en el ejercicio de la actividad jurisdiccional; el de responsabilidad judicial; el de independencia judicial; el de respeto de los derechos fundamentales y principios de confidencialidad y seguridad y el de prevención de sesgos algorítmicos. 

Los miembros de la Carrera Judicial sólo podrán utilizar las aplicaciones de inteligencia artificial, incluidas las herramientas de IA generativa, que les sean facilitadas por las administraciones competentes en materia de Justicia y hayan pasado el control del CGPJ o aquellas que les sean proporcionadas directamente por el órgano de gobierno de los jueces. 

Elaboración de borradores de resoluciones judiciales 

La instrucción considera usos permitidos, además de lo que resulte de la normativa de aplicación, la búsqueda y localización de información jurídica, la recuperación de antecedentes procesales; el análisis, clasificación y estructuración de información, documentos y datos con fines de organización, comprensión o apoyo al estudio del asunto; o elaboración de esquemas, resúmenes o borradores de trabajo interno, siempre que no tengan carácter decisorio ni sustituyan la redacción personal. 

Los jueces/as y magistrados/as sólo podrán utilizar borradores de resoluciones judiciales o procesales generados por sistemas de IA (facilitados por las Administraciones competentes en materia de Justicia o por el CGPJ) como instrumentos de apoyo o asistencia. En el ejercicio de la actividad jurisdiccional, el uso de ese tipo de borradores exigirá siempre una revisión y validación personal completa y crítica por parte del juez/a y magistrado/o, quien mantendrá su exclusiva responsabilidad sobre la resolución. 

En todo caso, las herramientas de IA autorizadas no podrán usarse cuando implique sustitución, automatización o delegación de la toma de decisiones judiciales, valoración de hechos o pruebas o interpretación y aplicación del Derecho; tampoco podrán utilizarse resultados generados por inteligencia artificial que condicionen de manera directa o indirecta la independencia judicial o la libertad de criterio de los jueces/as y magistrados/as ni podrán incorporarse a las resoluciones judiciales contenidos generados por IA sin previa valoración “crítica, completa y personal” del juez/a o magistrado/a. 

Los sistemas de IA tampoco podrán ser utilizados por los miembros de la Carrera Judicial para el tratamiento de datos personales especialmente protegidos o de información sujeta a deberes reforzados de confidencialidad; y tampoco con fines de perfilado de personas, predicción de comportamientos, evaluación de riesgos o clasificación de sujetos.