El derecho a impugnar una decisión tomada por inteligencia artificial.

El derecho a impugnar una decisión tomada por inteligencia artificial Un ciudadano puede controvertir una decisión administrativa. Puede interponer recursos, aportar pruebas, discutir los hechos y cuestionar las razones jurídicas utilizadas por la autoridad. Pero la discusión cambia cuando descubre que, antes de que un funcionario adoptara la decisión, un sistema de inteligencia artificial clasificó su expediente, identificó determinados factores de riesgo, priorizó su caso o produjo una recomendación que terminó influyendo en el resultado. La pregunta entonces es qué puede conocer el ciudadano, qué puede controvertir y hasta dónde debe llegar la explicación que la Administración está obligada a ofrecer. Colombia ya no enfrenta esta cuestión como una hipótesis puramente tecnológica. La Corte Constitucional ha comenzado a establecer criterios sobre transparencia, explicabilidad y supervisión humana frente al uso de inteligencia artificial, mientras que distintas entidades públicas han incorporado herramientas algorítmicas en sus procesos. El problema jurídico consiste en determinar si el ciudadano conserva una posibilidad real de defensa cuando una parte relevante de la decisión administrativa se produce mediante sistemas que no siempre son comprensibles para quien resulta afectado. La tesis es que el uso de inteligencia artificial no puede reducir el contenido material del derecho de defensa. Cuando un sistema algorítmico interviene de manera relevante en una decisión administrativa, la persona afectada debe poder conocer esa circunstancia, comprender la función que cumplió la herramienta, controvertir los elementos determinantes del resultado y obtener una revisión humana efectiva. No se trata de exigir que cada ciudadano conozca el código fuente de un sistema, sino de impedir que la complejidad tecnológica convierta una decisión estatal en una conclusión jurídicamente inexpugnable. El primer problema es la transparencia. El artículo 29 de la Constitución extiende el debido proceso a las actuaciones administrativas, mientras que los principios de publicidad y transparencia rigen la función administrativa. El CPACA, además, reconoce el derecho de los interesados a conocer y controvertir las actuaciones administrativas y exige que las decisiones de fondo sean motivadas. La incorporación de una herramienta tecnológica no elimina estas obligaciones. La dificultad aparece cuando la autoridad puede explicar el resultado, pero no explicar suficientemente cómo se llegó a él. Un sistema puede determinar que una solicitud tiene determinado nivel de riesgo, que un expediente debe ser priorizado o que una persona debe recibir determinado tratamiento administrativo. Si el ciudadano únicamente recibe el resultado, pero desconoce que intervino un sistema algorítmico y no puede identificar los elementos relevantes que condujeron a la conclusión, la posibilidad formal de recurrir puede convertirse en una posibilidad materialmente limitada. La Corte Constitucional ha avanzado en esta dirección. En la Sentencia T-067 de 2025, al analizar el uso de sistemas automatizados, desarrolló la idea de transparencia algorítmica y señaló que las personas deben poder comprender cómo estos sistemas procesan información y producen resultados que pueden afectar sus derechos. La Corte también distinguió entre transparencia y divulgación irrestricta del código fuente: la garantía no exige necesariamente revelar toda la arquitectura técnica del sistema, sino proporcionar información suficiente para comprender y cuestionar el resultado. Esta distinción resulta fundamental para el derecho administrativo. El ciudadano no necesita conocer cada línea de programación. Necesita saber, cuando sea jurídicamente relevante, que la herramienta fue utilizada, cuál era su finalidad, qué función desempeñó, qué información resultó determinante y qué intervención tuvo finalmente el funcionario competente. El segundo problema es la motivación. Una Administración no puede sustituir la motivación de un acto administrativo por una referencia al resultado producido por una máquina. La expresión “el sistema determinó que” no constituye, por sí misma, una explicación jurídica suficiente. La motivación cumple una función esencial: permite conocer las razones de la decisión y facilita su contradicción y posterior control. Por eso, cuando la inteligencia artificial participa en la formación de la decisión, la motivación debe permitir identificar qué papel desempeñó el sistema y cuáles fueron las razones que la autoridad hizo propias. La Sentencia T-008 de 2026 resulta particularmente relevante porque trasladó esta discusión al ámbito de la actuación administrativa. La Corte examinó los problemas asociados con el uso de inteligencia artificial generativa en la elaboración de actos administrativos y destacó cuestiones como la transparencia, la trazabilidad, la explicabilidad, la legalidad, la voluntad administrativa y la responsabilidad. También precisó que los cuestionamientos relacionados con la expedición y motivación de actos administrativos corresponden, en principio, al ámbito de control de la jurisdicción de lo contencioso administrativo. Esto permite formular una regla sencilla: la Administración puede utilizar una herramienta algorítmica para apoyar una decisión, pero debe conservar la capacidad de explicar jurídicamente el acto que finalmente adopta. El tercer problema es el derecho a controvertir los datos y criterios utilizados por el sistema. Una decisión algorítmica no surge de la nada. Depende de datos de entrada, parámetros, variables, reglas de procesamiento y criterios de clasificación. Cualquiera de estos elementos puede contener errores. Una persona podría, por ejemplo, ser clasificada como de alto riesgo debido a información desactualizada, recibir una determinada prioridad por un dato incorrecto o ser excluida de un procedimiento como consecuencia de una inferencia equivocada. Si el ciudadano solamente puede controvertir el resultado final, pero no los elementos que lo produjeron, su derecho de defensa queda reducido. La Ley 1581 de 2012 ofrece aquí un marco relevante. Los principios de legalidad, finalidad, libertad, transparencia, acceso restringido, seguridad y veracidad limitan el tratamiento de datos personales. La inteligencia artificial no crea una excepción tecnológica a estas obligaciones. Por el contrario, la capacidad de los sistemas para combinar grandes cantidades de información e inferir características o patrones exige prestar especial atención a la calidad, pertinencia y finalidad de los datos utilizados. El cuarto problema es la discriminación algorítmica. Un sistema puede reproducir patrones existentes en los datos con los cuales fue entrenado o diseñado. Incluso cuando una variable protegida no sea incorporada expresamente, otras variables pueden funcionar como aproximaciones indirectas y producir efectos diferenciados sobre determinados grupos. Esto adquiere una dimensión constitucional cuando la herramienta se utiliza para distribuir beneficios, seleccionar destinatarios de programas públicos, priorizar inspecciones, determinar niveles de riesgo o adoptar decisiones que afecten el acceso a derechos o servicios. Por ello, el derecho a impugnar una decisión algorítmica no puede limitarse a conocer el resultado. También debe permitir cuestionar, cuando resulte pertinente, la calidad de los datos, los criterios utilizados y los posibles efectos diferenciados producidos por el sistema. El quinto problema es la revisión humana. No toda intervención humana es suficiente. Un funcionario que simplemente confirma automáticamente el resultado producido por un sistema no necesariamente realiza una revisión sustancial. La supervisión humana debe tener capacidad real para detectar errores, apartarse del resultado algorítmico cuando existan razones para hacerlo y explicar las razones de la decisión final. De lo contrario, la supuesta intervención humana puede convertirse en una formalidad destinada únicamente a conservar la apariencia de responsabilidad administrativa. Esto es particularmente importante cuando el resultado del sistema tiene consecuencias jurídicas significativas. Cuanto mayor sea el impacto de la decisión sobre los derechos de una persona, mayor debería ser la intensidad de la supervisión y de las garantías destinadas a permitir su contradicción. El sexto problema es la responsabilidad. Si una decisión administrativa apoyada en inteligencia artificial produce un perjuicio, la entidad no puede trasladar la responsabilidad al algoritmo. La herramienta tecnológica no adquiere la competencia administrativa ni se convierte en sujeto de imputación jurídica por el simple hecho de haber participado en el procedimiento. La responsabilidad debe permanecer vinculada a las autoridades y entidades que tienen a su cargo la actuación administrativa. Por eso resultan esenciales la trazabilidad y la conservación de registros: debe ser posible reconstruir qué sistema intervino, qué información recibió, qué resultado produjo, quién lo revisó y qué razones condujeron a la decisión definitiva. Esta trazabilidad también será relevante para el control judicial. Si una persona cuestiona un acto administrativo sustentado parcialmente en inteligencia artificial, el juez debe poder reconstruir el proceso decisorio suficiente para determinar si se respetaron la competencia, el procedimiento, la motivación, la igualdad y el debido proceso. Existe, sin embargo, un contraargumento importante. Exigir explicaciones detalladas, revisión humana y registros permanentes puede incrementar los costos de implementación y disminuir algunas de las ventajas asociadas a la automatización. Además, determinados sistemas de aprendizaje automático presentan dificultades técnicas para ofrecer explicaciones completas en términos que resulten comprensibles para cualquier persona. La respuesta no debería consistir en exigir una transparencia absoluta técnicamente imposible. Tampoco en aceptar una opacidad absoluta porque el sistema sea complejo. El estándar debe ser jurídico y funcional: la explicación debe ser suficiente para que la persona pueda comprender el papel que desempeñó el sistema, identificar los factores relevantes de la decisión y ejercer de manera efectiva los mecanismos de defensa disponibles. La transparencia algorítmica, entonces, no equivale necesariamente a publicar el código fuente. Puede comprender información sobre la finalidad del sistema, las categorías de datos utilizadas, los criterios relevantes, sus límites, el grado de intervención automatizada y la forma en que una autoridad humana revisó el resultado. El reto consiste en evitar dos extremos. El primero sería asumir que toda utilización de inteligencia artificial es incompatible con el debido proceso. El segundo sería considerar que la complejidad tecnológica justifica una reducción de las garantías ciudadanas. La Administración puede utilizar inteligencia artificial para procesar información, detectar patrones, clasificar expedientes o apoyar decisiones. Pero cuando esa herramienta interviene de manera relevante en una decisión que afecta derechos, debe existir un camino jurídicamente reconocible entre el dato, el algoritmo, la decisión administrativa y la posibilidad de controvertirla. Por ello, Colombia necesita avanzar hacia un verdadero debido proceso algorítmico administrativo. Cuando una herramienta tenga capacidad relevante para incidir en los derechos de una persona, la entidad debería identificar su utilización y finalidad; evaluar previamente sus riesgos; documentar los datos y criterios relevantes; conservar registros auditables; establecer responsables humanos; informar al ciudadano cuando la intervención algorítmica sea material para la decisión; garantizar una revisión humana efectiva y permitir que las autoridades de control y los jueces puedan reconstruir razonablemente el proceso decisorio. La intensidad de estas garantías no tiene que ser idéntica en todos los casos. Una herramienta utilizada para organizar documentos no presenta el mismo riesgo que un sistema utilizado para determinar quién recibe un beneficio público o quién será objeto de una actuación administrativa. A mayor autonomía algorítmica y mayor impacto sobre los derechos, mayor debe ser la intensidad de las garantías jurídicas. La discusión sobre inteligencia artificial en la Administración Pública no consiste, entonces, en decidir si las máquinas pueden reemplazar a las personas. La cuestión jurídica es más concreta: qué garantías debe conservar una persona cuando una máquina interviene en una decisión que puede afectarla. El Estado puede automatizar procesos, utilizar modelos predictivos y apoyarse en sistemas capaces de procesar grandes cantidades de información. Lo que no puede automatizar es el derecho del ciudadano a conocer las razones de una decisión, controvertirlas y obtener una revisión efectiva. Porque una decisión administrativa puede ser producida con tecnología avanzada. Pero para ser legítima, debe seguir siendo una decisión susceptible de explicación, contradicción y control.

Elaborado por: Matheo Jose Dager De La Hoz