La inteligencia artificial en los estrados: ¿entre la eficiencia tecnológica y la deshumanización de la justicia?

Por: Luisa Herrera, Docente Investigadora del Departamento de Seguros y Laura Lucía Cacua, Egresada de la Universidad Externado de Colombia

Harari ha sostenido que “somos los únicos mamíferos que pueden cooperar con numerosos extraños, porque solo nosotros somos capaces de inventar historias ficticias, difundirlas y convencer a millones de otros de creer en ellas”[1]. En su libro Nexus, advierte además sobre los riesgos derivados de dejar de cuestionar la información generada por sistemas de inteligencia artificial y sobre el peligro de asumir, sin gobernanza ni controles, que la IA es neutral[2]. La historia demuestra que las tecnologías de la información han mejorado la conectividad y la cooperación humana, pero no necesariamente han producido representaciones más veraces del mundo[3].

La Sala de Casación Penal de la Corte Suprema de Justicia de Colombia, mediante sentencia STP21973-2025, resolvió la impugnación contra la decisión que había negado una acción de tutela interpuesta dentro de un proceso penal. En dicha tutela se alegaba la vulneración de los derechos fundamentales al debido proceso y a la imparcialidad judicial, derivada del uso indebido de inteligencia artificial generativa por parte del despacho judicial.

El caso se originó en una recusación presentada por una de las partes, tras advertir en el expediente digital la existencia de un archivo denominado “Sentencia ordinaria”. El documento contenía una valoración probatoria integral, conclusiones sobre la responsabilidad penal, la imposición de una condena de 18 años de prisión e incluso la firma de la titular del despacho, pese a que aún no se habían presentado los alegatos de conclusión ni se había anunciado el sentido del fallo. En primera instancia, la tutela fue declarada infundada bajo el entendido de que se trataba de un borrador cargado por error humano y carente de efectos jurídicos vinculantes.

No obstante, al revisar el expediente, la Corte constató que el análisis del testimonio de la víctima no provenía del razonamiento del juez natural, sino que había sido elaborado mediante inteligencia artificial generativa. El documento contenía referencias explícitas a que el uso de la IA estaba “orientado a valorar su utilidad para una sentencia condenatoria”.

Con fundamento en ello, la Corte amparó los derechos fundamentales al debido proceso y al juez imparcial, revocó las decisiones de instancia y ordenó apartar a la jueza del conocimiento del caso. Consideró que la sola existencia y conocimiento del borrador vaciaban de contenido la presunción de inocencia y comprometían la imparcialidad objetiva, en la medida en que anticipaban el resultado del proceso y convertían el juicio en un “mero ritual” desprovisto de auténtica función decisoria. Asimismo, emitió un exhorto enfático recordando que la inteligencia artificial no puede sustituir el razonamiento humano ni las funciones jurisdiccionales indelegables.

La relevancia de esta decisión trasciende el caso concreto. No se trata únicamente de una irregularidad procesal, sino de la tensión entre racionalidad humana y racionalidad algorítmica. Esta sentencia se suma a la decisión AC739-2026 del 13 de febrero de 2026, también proferida por la Corte Suprema de Justicia de Colombia, en la que se examinó un caso donde un abogado presentó referencias jurisprudenciales generadas por inteligencia artificial que no existían en la realidad. En esa oportunidad, la Alta Corporación advirtió sobre la creación de un “pseudo-derecho” cuando se elaboran memoriales o decisiones sustentados en fundamentos ficticios derivados de las denominadas “alucinaciones” de los sistemas generativos.

Juzgar no es una operación aritmética ni la aplicación mecánica de normas. Implica interpretar hechos complejos, valorar la credibilidad de la prueba, contextualizar conductas y asumir la responsabilidad de subsumir realidades humanas en categorías jurídicas. Cuando esa labor se delega, aunque sea parcialmente, en un algoritmo, se erosiona el núcleo deliberativo que legitima el ejercicio del poder jurisdiccional y el ejercicio del abogado.

En su estado actual, la inteligencia artificial no comprende la prueba ni el conflicto; opera sobre correlaciones estadísticas y patrones lingüísticos. Puede producir textos coherentes, pero no ejerce juicio, prudencia ni conciencia. Delegar en modelos de lenguaje la evaluación de la coherencia interna de los memoriales o la ponderación de la conducta de las partes equivale a vaciar las decisiones judiciales del razonamiento humano e intelectual que le confiere autoridad y legitimidad.

Automatizar el acto de juzgar como si fuera una operación estandarizada, el juez corre el riesgo de convertirse tan solo en el validador de textos generados por sistemas tecnológicos. Ello puede tener implicaciones graves en la imparcialidad y en la responsabilidad ética de quien administra justicia, y de los demás operadores jurídicos.

Desde una perspectiva más amplia, la discusión no se limita a la tecnología en los tribunales. Los humanos hemos creado diversas tecnologías de la información —desde la narración y el mito hasta la imprenta e internet— que fortalecieron la cooperación social sin garantizar necesariamente mayor verdad. La primera tecnología de información fueron los diversos relatos historicos. No hay evidencias que indiquen que es posible asumir que la inteligencia artificial romperá ese patrón y privilegiará automáticamente la verdad[4].

Es inexorable la gobernanza algorítmica. No se trata de prohibir la inteligencia artificial en el ámbito judicial ni en el ejercicio profesional, sino de establecer límites, controles y mecanismos de supervisión que preserven el núcleo humano de la administración de justicia y del ejercicio del derecho. Las sociedades democráticas cuentan con mecanismos de corrección institucional que deben extenderse al uso de sistemas algorítmicos en la administración de justicia. La experiencia comparada demuestra que no toda tecnología que puede desarrollarse debe necesariamente implementarse sin restricciones. Y el principio de neutralidad tecnológica no resulta ser un argumento suficiente para defender la no regulación.

El desafío actual no consiste en reemplazar al juez ni en optar entre inteligencia artificial y criterio humano, sino en diseñar marcos de gobernanza tecnológica que mantengan al ser humano como centro. La pregunta no es si la IA puede asistir al juez, sino hasta dónde puede hacerlo sin alterar la esencia del acto de juzgar.

En última instancia, la administración de justicia descansa sobre una premisa inmodificable: las decisiones que afectan derechos y libertades deben ser el resultado de una conciencia humana que asume responsabilidad. Cuando esas decisiones se desplazan hacia sistemas algorítmicos sin controles adecuados, el riesgo no es solo técnico, sino institucional y democrático.

Por ello, la sentencia STP21973-2025 debe leerse como una advertencia temprana. La tecnología puede fortalecer la justicia, pero no puede impartirla. Es la sana crítica del juez humano la que la legitima.

Adicionalmente, en auto AC739-2026 de la Sala Civil impuso una sanción equivalente a quince salarios mínimos mensuales legales vigentes a un abogado que, al fundamentar un recurso, incorporó en su escrito varias decisiones judiciales que no correspondían a precedentes reales. La medida resultó más severa debido a la reiteración de la conducta. Luego de ser requerido para aclarar las inconsistencias detectadas, el profesional presentó un escrito de corrección en el que incluyó cuatro referencias adicionales que tampoco existían.. Si bien su utilización no está prohibida en el ejercicio profesional, exige que los escritos reflejen el criterio propio del abogado, quien es responsable de la veracidad de su contenido, de la verificación en fuentes oficiales y de la diligencia empleada en su elaboración. Estas cargas profesionales son, además, indelegables.

Para el sector asegurador, esta discusión no es ajena ni meramente académica. La inteligencia artificial es utilizada en el sector asegurador para el análisis de riesgos, la suscripción, la detección de fraude, gestión de siniestros y para la elaboración de documentos jurídicos. Precisamente por ello, los debates que hoy se plantean en el ámbito judicial anticipan desafíos en procesos y asuntos que impactan a aseguradoras, reaseguradoras y corredores.

La discusión no puede concluirse en la desconfianza absoluta de la IA, sino en la necesidad de aplicar criterios de gobernanza en su uso. La utilización de sistemas algorítmicos exige trazabilidad, supervisión humana y definición precisa de los regímenes de responsabilidad. Las decisiones adoptadas mediante la delegación a sistemas automatizados pueden generar efectos nocivos en la reputación, confianza y estabilidad jurídica de las instituciones pudiéndose derivar en riesgos de cara al cumplimiento normativo y a la legitimidad de las decisiones.

En definitiva entonces debe haber un balance claro de herramientas de gestión de riesgos y gobernanza con el fin de evitar que los riesgos derivados del uso inadecuado de la IA se materialicen. En esa medida, en la era de la inteligencia artificial se trata de aplicar una combinación efectiva y eficiente del cumplimiento normativo y la aplicación de criterios éticos con el fin de ajustar o regular lo necesario para preservar y cuidar la legitimidad de las decisiones e instituciones que las adoptan y aplican. La tecnología genera optimización pero también representa vulnerabilidades por lo que su aplicación debe considerar que los regímenes de responsabilidad y las obligaciones atribuibles al ser humano son indelegables, y mucho menos a los sistemas de inteligencia artificial.

---

[1] Harari, Y. N. (2015, June 16). Why humans run the world. TED Ideas. https://ideas.ted.com/why-humans-run-the-world/

[2] Harari, Y. N. (2024). Nexus: A brief history of information networks from the Stone Age to AI. Random House.

[3] Ibídem.

[4] Harari, Y. N. (2024). Nexus: A brief history of information networks from the Stone Age to AI. Random House.