Uso de la inteligencia artificial en la toma de decisiones judiciales

Por Carlos Suárez, asociado de Godoy Córdoba.

A través de la sentencia T-323 de 2024, la Corte Constitucional hace un primer acercamiento al uso de Inteligencia Artificial (IA) por parte de jueces, con el fin de determinar si esta práctica es viable jurídicamente o si por el contrario desconoce derechos y garantías fundamentales.

Este pronunciamiento se da cuando la Corte revisa una acción de tutela presentada por una madre en representación de su hijo menor de edad con diagnóstico de autismo, en el que busca a través de esta acción se proteja los derechos a la salud y seguridad social de su hijo.

Dentro del trámite de tutela, un Juez de Circuito del país al momento de emitir sentencia acudió a la herramienta de IA denominada ChatGPT 3.5, bajo el argumento que la Ley 2213 de 2022 que tiene por objeto la incorporación de las TIC en procesos judiciales lo habilitaba para realizar esta práctica. Para lo anterior, formuló a ChatGPT 3.5 cuatro preguntas relacionadas directamente con el objeto de la acción de tutela, al punto de cuestionar si en estos procesos debe o no prosperar la tutela. Para contextualizar, en este pronunciamiento la Corte acude, entre otros, a una definición dada por la Comisión Europea sobre el concepto de IA, en la que se entiende como un sistema de software diseñado por humanos que, mediante el suministro de datos, puede interpretarlos razonando sobre el conocimiento o procesando la información derivada de estos y decidiendo la mejor acción a tomar, según el objetivo propuesto.

La Corte destaca que, en Colombia no existe una regulación específica sobre el uso de IA, mucho menos para la toma de decisiones judiciales, motivo por el cual debe recurrirse tanto a regulaciones que tienen relación con esta tecnología como lo es el caso del uso de datos personales, así como estructurar estrategias que permitan autocontroles que armonicen el uso de la IA con principios y derechos constitucionales.

La Corte es clara al precisar que, la creación de la regulación de la IA será fundamental a la hora de determinar el alcance que tendrá esta tecnología en el desarrollo de actividades, incluido el servicio estatal y más específicamente el desplegado por la Rama Judicial a la hora de impartir justicia. Ahora, en la medida que la Corte expone en este caso criterios mínimos que armonizan el respeto de derechos fundamentales con el uso de la IA, esta sentencia deberá ser una guía para el legislador al momento de adoptar esta regulación, pues seguramente de optar por un modelo que ignore estos postulados, la constitucionalidad de la ley se vería seriamente comprometida.

Más allá de la definición, la Corte en su sentencia acude a pronunciamientos de empresas que desarrollan esta tecnología, en las que reconocen que los resultados pueden llegar a ser inexactos, engañosos y hasta mentirosos, en función a los datos y la actualización de estos que estén al alcance de la IA. Por lo cual, los usuarios deben tener especial precaución, validando, revisando y confirmando la información antes de tenerla como un hecho cierto.

Considera la Corte que, el uso de la inteligencia artificial para la toma de decisiones judiciales puede entrar en tensión con derechos y garantías fundamentales, como lo son el debido proceso, el juez natural, la imparcialidad del juez, la forma como se valoren pruebas, entre otras.

Te puede interesar: La futura regulación de la inteligencia artificial en el mundo del trabajo

Un uso indiscriminado de la IA por los jueces vulneraría estas y otras garantías, al punto que se abriría el debate de si quien está administrando justicia es el juez, o una herramienta tecnológica. Se recuerda que los resultados que arroje la IA dependerán necesariamente de la fuente de datos a su disposición, y el grado de actualización de esta, por lo cual es difícil garantizar la veracidad de los resultados a la vez que los mismos pueden ser sesgados en función de las bases de datos que alimentan la IA.

De acuerdo con lo anterior, la Corte establece unos escenarios en los que la IA puede ser utilizada por la Rama Judicial, como lo es para el ámbito de gestión administrativa y documental, así como en el apoyo a la gestión judicial, corrección y síntesis de largos textos.

El primordial criterio para determinar hasta donde pueden ser utilizadas estas tecnologías en la administración de justicia, radica en que no se puede usar con el fin de reemplazar la función esencial del juez, que no es otra que conocer y resolver de fondo el asunto puesto en su conocimiento por ser de su competencia.

Aunque la Corte establece unos principios que deben guiar esta actividad, se profundiza en dos; el de transparencia y el de responsabilidad:

• El de transparencia, implica que el juez al momento de impartir justicia no solo debe informar a las partes que en su labor ha hecho uso de herramientas de IA, sino que debe exponer cuál utilizó, de dónde proviene, qué bases de documentos utiliza, quien la desarrolla, cuál versión utiliza, por qué se acude a esa en particular. Lo anterior, para que sea claro para las partes la forma como se utilizó la IA y con ello garantizar el debido proceso y derecho de contradicción.
• El de responsabilidad, impone al juez la carga de revisar, verificar y constatar la información obtenida por la IA, pues no podría utilizar información desactualizada, errada o confusa como sustento de una decisión.

Así pues, la Corte hace un primer acercamiento al uso de la IA en Colombia por parte de la Rama Judicial a la hora de tomar decisiones judiciales, lo cual estará sujeto a cambios conforme se vaya desarrollando la regulación sobre la materia, así como los propios avances de esta tecnología. Se destaca que su utilización es avalada por la Corte, siempre y cuando con ello no se reemplace la función del juez, ni se afecten derechos y garantías fundamentales.

Aunque los principios previstos por la Corte lucen razonables y proporcionales, sí surge la duda de su practicidad, pues seguramente los jueces opten por no utilizar estas herramientas, pues generaría reprocesos que implican más tiempo que el que se ahorran con su uso.

Encuentra esta edición completa de Dos:Puntos haciendo clic aquí.