IA en la Procuraduría: enseñar a usarla no basta, hay que enseñar a gobernarla

El procurador Gregorio Eljach firmó la Política para el uso responsable de la inteligencia artificial en la Procuraduría y encargó a la Universidad del Ministerio Público la formación de sus funcionarios. "La inteligencia artificial no es un lujo, es una necesidad", dijo, y ubicó la decisión en un diagnóstico más amplio: el Ministerio Público sigue operando con el Decreto 262 de 2000, una arquitectura institucional del siglo pasado. Comparto el diagnóstico y celebro la secuencia elegida capacitar antes de masificar. Pero quiero detenerme en una pregunta que la noticia deja abierta: ¿qué se va a enseñar?

Colombia no parte de cero. El Documento CONPES 4144 de 2025, aprobado el 14 de febrero de ese año, fijó la Política Nacional de IA con más de cien acciones a 2030 y una inversión cercana a los $479.000 millones. Su primer eje no es tecnológico sino de gobernanza y ética: fortalecer los mecanismos que aseguren un desarrollo y uso responsable de la IA. 

Sobre esa base, la Presidencia publicó la Guía Ética para la Implementación, Desarrollo y Uso de Sistemas de IA en Entidades Públicas, que traduce a seis principios operativos: (i) centralidad humana, (ii) transparencia y (iii) rendición de cuentas, (iv) equidad, (v)privacidad y (vi) gobernanza de datos, (vii) robustez y (viii) sostenibilidad los estándares de la OCDE, la Recomendación de la UNESCO sobre ética de la IA y los principios rectores del Órgano Asesor de Alto Nivel de Naciones Unidas.

Ese último documento, Gobernar la IA para la humanidad, es especialmente útil para una entidad como la Procuraduría porque plantea la gobernanza de la IA no como un asunto de ingenieros sino de derecho: debe estar al servicio del interés público, construirse en paralelo a la gobernanza de datos y anclarse en el derecho internacional de los derechos humanos. Y advierte que el principal riesgo hoy es el déficit de gobernanza, no la falta de herramientas.

La Rama Judicial ya recorrió parte de este camino. La Corte Constitucional, en la sentencia T-323 de 2024, admitió el uso de IA generativa por los jueces bajo criterios de transparencia, responsabilidad y verificación, y ordenó al Consejo Superior de la Judicatura fijar lineamientos. El resultado fue el Acuerdo PCSJA24-12243, que prohíbe usar la IA para valorar pruebas, motivar decisiones o resolver problemas jurídicos, y exige "evitar el uso de chatbots generales o comerciales de IA en sus versiones gratuitas". Ese es el estándar técnico que ya rige a los operadores judiciales; sería difícil justificar que el órgano que vigila su conducta se exija menos a sí mismo.

Hay una diferencia entre enseñar a un funcionario a redactar un prompt y enseñarle por qué una decisión disciplinaria no puede apoyarse en una salida no verificada. La primera es una destreza; la segunda es un criterio. La Guía Ética lo dice con claridad, en el sector público "debe prevalecer la protección de los derechos humanos y la dignidad sobre la eficiencia", y advierte sobre el sesgo de automatización, esa tendencia a confiar en el resultado de la máquina sin escrutinio.

En la Procuraduría ese riesgo no es abstracto, en tanto que la entidad decide sobre sanciones que afectan derechos políticos, interviene en procesos donde están en juego la libertad y el patrimonio, y vigila el cumplimiento de la Constitución. Un modelo de lenguaje que "alucina" una jurisprudencia o clasifica mal un expediente no produce un error informático: produce una vulneración; Por eso la formación no puede limitarse al uso, tiene que incluir el debate de fondo sobre debido proceso, igualdad, protección de datos que en todo caso se han desarrollado en la Ley 1581 de 2012 y la reciente sentencia T-067 de 2025 sobre transparencia algorítmica— y responsabilidad del servidor que firma.

Propongo que el marco de enseñanza que anunció el procurador se construya sobre un criterio conservador: la IA asiste, el funcionario decide y responde. Conservador no significa prohibicionista; significa que la carga de la prueba la tiene la herramienta, no el derecho. En términos prácticos, sugiero tres niveles:

•  Antes de tocar una herramienta, el funcionario debe conocer el marco: CONPES 4144, la Guía Ética de Presidencia, los principios de OCDE, UNESCO y Naciones Unidas, la línea jurisprudencial T-323 de 2024 y T-067 de 2025, y el Acuerdo PCSJA24-12243 como referente de mínimos. El objetivo es que entienda que la IA en el Estado es una cuestión de legalidad, no de productividad.

• Una matriz clara de lo permitido y lo prohibido, sí a la búsqueda, la sistematización y la redacción preliminar con herramientas trazables cuyo origen de datos se conozca; no a la valoración probatoria, a la calificación de conductas ni a la motivación de decisiones a partir exclusivamente de una respuesta automatizada.

• Anonimización obligatoria de datos personales, prohibición de versiones gratuitas de chatbots comerciales y deber de dejar constancia del uso.

• Registro interno de los sistemas de IA que usa la entidad, evaluación de impacto algorítmico para cualquier aplicación que incida en decisiones sobre personas, y un comité de ética y gobernanza que revise casos. 

 

Aquí la Procuraduría tiene una ventaja que ninguna otra entidad tiene: la Guía Ética recomienda fortalecer a los órganos de control para auditar el uso de IA en el Estado. Si la Procuraduría aprende a gobernar su propia IA, quedará en condiciones de vigilar cómo la usan las demás.

La Política firmada por el procurador Eljach es un acierto de secuencia, primero la regla, luego la formación, después la herramienta. Lo que falta por ver es si la formación va a producir usuarios o va a producir criterio. Desde la práctica legaltech lo vemos a diario: la IA bien gobernada libera tiempo para el juicio jurídico; mal gobernada, lo sustituye sin que nadie lo note hasta que ya es tarde. 

 

 

Elaborado por: Valentina Motta Amar