El creciente uso de herramientas tecnológicas, especialmente la inteligencia artificial – IA, ha generado algunos desafíos para la actividad judicial. En este contexto, se analizará el derecho al debido proceso en un sistema judicial que utiliza IA, se precisarán algunos conceptos y aspectos básicos acerca del funcionamiento e impacto del uso de herramientas de IA en la sociedad, el estado actual de la materia en Colombia, algunas experiencias concretas relacionadas con la IA en la práctica judicial y el debido proceso probatorio en sistemas que utilizan dichas herramientas.
Caso de la acción de tutela:
La acción de tutela es presentada por una madre de un niño menor de edad con diagnóstico de trastorno de espectro autista – TEA que requiere terapia ocupacional, psicología y fonoaudiología. La madre radicó ante la Entidad Promotora de Salud – EPS la solicitud para no tener que asumir el costo de las cuotas moderadoras de salud y los copagos, además de que se sufragaran por la Entidad los gastos de transporte para acudir a las terapias con su hijo, dado que, no contaba con los recursos económicos y que se encontraba clasificada en el grupo A4 del Sistema de Identificación de Potenciales Beneficiarios de Programas Sociales – SISBEN, correspondiente a pobreza extrema. La EPS no brindó respuesta favorable sobre el particular.
En primera instancia, el Juzgado Municipal competente amparó los derechos a la salud y a la vida en condiciones dignas del niño, para lo cual ordenó a la EPS asumir el trasporte o autorizar el valor del mismo para al menor de edad y a un acompañante, por lo que se deberían brindar la prestación de los servicios de salud el niño necesitaria como consecuencia del TEA, sin el cobro de copagos o cuotas moderadoras mientras perviviera la condición de falta de recursos. La decisión fue impugnada por la EPS solicitando la declaración de improcedencia de la acción por no existir vulneración alguna de derechos.
En segunda instancia, el Juzgado del Circuito confirmó la sentencia impugnada e indicó que, en casos como este, el pago del valor de cuotas moderadoras o copagos se constituía en una barrera de acceso, por lo que el juez constitucional debe intervenir para eliminarla. Adicionalmente, el juez de dicha instancia indicó que utilizó herramientas de IA generativa para extender los argumentos de la decisión adoptada y realizó las siguientes preguntas a ChatGPT:
- ¿Menor autista esta exonerado de pagar cuotas moderadoras en sus terapias?;
- ¿Las acciones de tutela en estos casos se deben conceder?;
- ¿Exigir en estos casos la cuota moderadora es una barrera de acceso al servicio de salud?;
- ¿La jurisprudencia de la corte constitucional ha tomado decisiones favorables en casos similares?
Debido proceso y uso de IA en procesos judiciales:
Este asunto fue seleccionado por la Sala Segunda de Revisión de Tutelas de la Honorable Corte Constitucional, estableciendo los siguientes problemas jurídicos:
- ¿Existe una posible vulneración del derecho fundamental al debido proceso cuando el juez resuelve un caso apoyándose con el uso de IA -específicamente ChatGPT-?
- ¿Una EPS vulnera los derechos fundamentales a la salud, la vida digna y la seguridad social de un niño diagnosticado con TEA (i) al no exonerarlo de copagos y cuotas moderadoras; (ii) al no suministrarle el servicio de transporte interurbano bajo el argumento de que no existe prescripción médica que lo ordene pese a que su familia cuenta con escasos recursos para cubrirlo y (iii) al no autorizarle un tratamiento integral? (T – 323 de 2024, párr. 72).
Para ello, la Sala indica que el debido proceso se define como el conjunto de garantías que aseguran que los derechos constitucionales sean respetados durante cualquier actuación judicial o administrativa, incluyéndose el derecho a un juez natural, la motivación de las decisiones judiciales, el derecho a la defensa y la presunción de inocencia. Subraya que estas normas no deben ser consideradas meramente adjetivas, sino que son sustanciales para la correcta aplicación de la justicia.
En cuanto al uso de herramientas de IA en el ámbito judicial, en particular ChatGPT, menciona que pueden ser utilizadas como apoyo en la investigación legal y en la redacción de documentos. Sin embargo, se advierte que la responsabilidad final recae en los jueces en relación con sus decisiones, quienes deben tener la capacitación y experiencia necesarias para interpretar y aplicar la Ley. Si bien, la IA puede ser útil para identificar errores gramaticales o mejorar la escritura de un texto, su uso debe realizarse bajo la supervisión humana, especialmente en lo que respecta al contenido legal. La Corte puntualiza sobre la importancia de realizar un análisis de impacto en cuanto a la privacidad antes de implementar sistemas de IA generativa en el ámbito judicial, identificando los datos se recopilarán, el propósito para ello, y la manera en la que se almacenarán y protegerán.
Por otro lado, la Corte dicta algunas directrices que permiten validar el cumplimiento de los principios de transparencia, responsabilidad y privacidad por parte de los operadores jurídicos.
- La transparencia se cumple cuando el funcionario judicial pone en conocimiento de las partes que hizo uso de una herramienta de IA, explica su funcionamiento, expone la fundamentación en relación con dicha herramienta, informa los datos utilizados, además de precisar la necesidad e idoneidad de su uso para el caso en particular.
- En cuando a la responsabilidad, indica que el juez debe verificar la veracidad de los datos proporcionados por la herramienta y que la misma sea apropiada para el asunto, además que sea compresible para la administración de justicia y los ciudadanos que acuden a ella.
- Respecto a la privacidad, el funcionario judicial debe custodiar y proteger la reserva de los datos personales y sensibles que se ponen en su conocimiento para la administración de justicia.
Adicionalmente, la Sala considera esencial la aplicación de los siguientes criterios orientadores:
(i) transparencia, (ii) responsabilidad, (iii) privacidad, (iv) no sustitución de la racionalidad humana, (v) seriedad y verificación, (vi) prevención de riesgos, (vii) igualdad y equidad, (viii) control humano, (ix) regulación ética, (x) adecuación a buenas prácticas y estándares colectivos, (xi) seguimiento continuo y adaptación y (xii) idoneidad. (T – 323 de 2024, párr. 423)
Pronunciamiento de la Corte sobre el caso en concreto:
A consideración de la Sala, si existió el uso indebido de la herramienta de IA, dado que, no se cumplió con la transparencia y responsabilidad a cabalidad. Sin embargo, la sentencia del ad quem es válida, en la medida en la que el juez motivó la decisión, valoró los hechos, analizó las pruebas y aplicó la normativa pertinente para desarrollar el fallo.
Finalmente, la Corte ordena al Consejo Superior de la Judicatura emitir lineamientos sobre el uso de IA en la función judicial y que, en ese sentido, se adopten prácticas que permitan el uso razonable y proporcionado de herramientas innovadoras y dinámicas como las referidas, sin que ello vulnere la garantía al debido proceso o restrinja la autonomía e independencia judiciales.
En cuanto al derecho a la salud y la exoneración de cobros por copagos y cuotas moderadoras para niños (as) con funcionalidad diversa, la Sala ordena a la EPS autorizar el servicio de transporte requerida por el menor y su acompañante desde su residencia hasta la Institución Prestadora de Salud – IPS para recibir la atención médica asistencial, las veces que requiera para el tratamiento del TEA, mientras subsista la insuficiencia de recursos económicos de sus padres. También ordenó a la EPS realizar las gestiones y trámites necesarios para que las IPS encargadas de la atención del niño apliquen la exoneración de cobros de copagos y cuotas moderadoras.
Con todo, si bien la Corte recalca la relevancia de la IA en el ámbito legal, también advierte sobre sus limitaciones y la necesidad de un enfoque crítico, ético y fundamentado. Es claro que dichas herramientas ofrecen ventajas significativas, no obstante, su implementación debe ser cuidadosamente regulada y supervisada para brindar protección de los derechos fundamentales de los individuos y garantizar el respeto al debido proceso. La integración de la IA en el sistema judicial debe priorizar la transparencia, la seguridad de la información y la protección de la privacidad.
Referencias bibliográficas:
Corte Constitucional, Sala Segunda de Revisión. Sentencia T – 323 de 2024. MP.
Juan Carlos Cortés González. 2 de agosto de 2024. https://www.corteconstitucional.gov.co/relatoria/2024/T-323-24.htm
Elaborado por:
ERIKA GARRIDO
CONSULTORA LEGAL
GONZALEZ PAEZ ABOGADOS S.A.S
