La peligrosa comodidad del Chatbot Jurídico: La Falacia del Abogado Artificial

En este artículo, no se hablará únicamente de la IA, sino de la transición que el
mundo jurídico atraviesa en silencio: el paso del chatbot como herramienta de
consulta, al ecosistema digital integral como infraestructura de trabajo. Una
diferencia que parece técnica, pero que esconde consecuencias profundas sobre
cómo ejercemos el derecho, blindamos el secreto profesional de nuestros clientes y
cómo sobrevivirá profesionalmente el abogado que se niegue a entenderla.
De este modo, el chatbot jurídico no es el destino final, sino el punto de partida de
un ecosistema que integra IA, programación, ingeniería de datos y Legal Design para
redefinir la praxis jurídica.
Ahora bien, para comprender tal transición, se abordarán estos ejes temáticos: (i) la
incompatibilidad epistemológica entre la IA y el razonamiento jurídico; (ii) el secreto
profesional y el Habeas Data; (iii) la consolidación del código y la arquitectura de
sistemas propios como parte de la lex artis de la abogacía.
En primer lugar, es preciso fijarnos en nuestro ordenamiento jurídico, en aras de
ilustrar la incompatibilidad de la IA en nuestro ejercicio profesional. La jurisprudencia
aporta un análisis esclarecedor respecto al uso de chatbots o LLM. En Sentencia
STC17832-2025 la Corte Suprema resolvió un escenario insólito: sancionó la falsa
motivación en la que incurrió un tribunal al revocar una providencia apoyándose en
jurisprudencia inexistente. La IA que asistió la redacción había generado las citas con
la fluidez de quien recita de memoria, demostrando que, aunque la máquina carece
de tarjeta profesional, posee un talento literario envidiable para el realismo mágico
procesal. Para la Sala de Casación Civil, el error no radicó en los engranajes de la
máquina, sino en la abdicación del abogado frente a su deber de escrutinio.
Este fenómeno, comúnmente llamado "alucinación", no es un simple error de
programación; es el síntoma de un choque epistemológico fundamental. El
LegalTech lleva años ignorando una verdad incómoda: la incompatibilidad entre
modelos de lenguaje y razonamiento jurídico; el primero no razona; predice. Su
función técnica es generar el siguiente fragmento de palabra más probable
basándose en el contexto previo. Es una colosal operación matemática de similitud

estadística ejecutada a escala industrial. No sabe si una sentencia existe porque el
concepto de "existencia normativa" no tiene representación en un espacio vectorial.
El razonamiento jurídico, por el contrario, es inductivo; opera bajo certezas y
autoridades vinculantes. Cuando un abogado invoca una sentencia, no está
estimando un resultado estadísticamente verosímil; está afirmando que una
autoridad específica, obliga en un caso concreto.
Confundir la probabilidad del algoritmo con la certeza del derecho es un error; por
ello, el profesional que le confía el fondo de una demanda a un chatbot no está
usando mal la herramienta, está usando la herramienta correcta para el problema
equivocado.
En segundo lugar, emerge el riesgo inherente al manejo de la información. El
ejercicio de nuestra profesión está ligado a dirimir conflictos relacionados con los
bienes jurídicos más tutelados de la sociedad; bienes que, en muchas
ocasiones, tienen rango de derechos fundamentales en nuestra Carta Magna.
No obstante, el mercado actual nos exige estándares implacables de eficiencia
y celeridad para solucionar las controversias, esta presión genera una
peligrosa dicotomía entre el respeto irrestricto a la reserva legal que le
debemos al cliente y la necesidad de mantener una productividad competitiva.

Atrapados en esta encrucijada, muchos abogados ceden a la tentación de
recurrir a chatbots potenciados por LLMs de código abierto o plataformas de
uso público; sin embargo, este atajo tecnológico pone en grave peligro la
información de nuestros clientes, dejando expuestos datos sensibles en
servidores de terceros. Ignoramos el destino final de esa información, pero
existe una altísima probabilidad de que termine siendo utilizada para
reentrenar los propios modelos de estas corporaciones.

Frente a esta realidad, y pese al silencio legislativo que aún persiste en la
materia, nuestras instituciones de control no han sido ajenas al problema. El
Acuerdo PCSJA24-12243 del Consejo Superior de la Judicatura es imperativo
al imponer un deber de abstención absoluto: prohíbe introducir datos
personales o información confidencial en herramientas de IA que no
garanticen la privacidad, a menos que se apliquen protocolos rigurosos de

anonimización. En la misma línea, la Circular Externa 002 de la SIC exige que el
tratamiento de datos en ecosistemas de IA sea verificable y no induzca al error.

Cargar un expediente real o un contrato confidencial en un chatbot comercial
sin la depuración necesaria no es una simple falencia técnica; es una
vulneración flagrante al régimen de Habeas Data y una fractura directa al
secreto profesional. La eficiencia algorítmica pierde toda su validez jurídica si
el precio a pagar es la entrega de la confidencialidad del cliente a una caja
negra corporativa, convirtiendo nuestro deber de reserva en una generosa
donación para que un servidor en el extranjero intente aprender, a costa de
nuestros clientes, las complejidades de nuestro derecho civil.

Comprendida la incompatibilidad epistemológica y el riesgo a la privacidad, el
reto exige cambiar el paradigma: construir la IA como una infraestructura
basada en expedientes organizados, hechos verificados y normas indexadas,
sin depender del contexto fáctico aportado por el usuario.

Un ejemplo tangible en Colombia es Respublika S.A.S. Bajo la dirección de su
cofundador, el abogado Juan Sebastián Palomino Alarcón, esta firma
comprendió que programar un sistema propio era una necesidad de
responsabilidad jurídica. Combinando lenguajes de programación e ingeniería
de datos, desarrollaron una arquitectura que entrelaza orgánicamente el
código, el derecho y la inteligencia artificial.

En el centro del ecosistema opera un módulo en Python que genera
documentos jurídicos adaptados a cada caso a partir de expedientes
procesados mediante OCR y almacenados localmente como texto
estructurado; por ejemplo, al redactar un memorial para un expediente
determinado, el sistema ya dispone de la información procesal pertinente.

Además, el software produce cada escrito respetando el estilo de redacción de
la firma o del abogado, integrando logos, marcas de agua y diseños
corporativos de forma programática. El formato y el tono no dependen de la
disciplina del usuario, pues viven encriptados en el código.

Para resolver la brecha entre complejidad técnica y comprensión del cliente, el
sistema genera simultáneamente un documento jurídico y una versión de
Legal Desing, así las obligaciones se traducen a lenguaje simple y el proceso
queda esquematizado visualmente para el cliente.

La respuesta a las alucinaciones es una base normativa con búsqueda
semántica vectorial que supedita el avance del borrador a la verificación
humana de las citas, manteniendo el control decisorio en el abogado.

La soberanía del dato sustenta la estructura: el secreto profesional se protege
mediante servidores con acuerdos de confidencialidad como AWS y la
anonimización de la información antes de su transmisión a la IA. La visión a
futuro de Palomino Alarcón es implementar un servidor propio con una IA
jurídica de ejecución local, buscando licenciar esta arquitectura para que otros
despachos eleven sus estándares tecnológicos de forma segura.
En este panorama, la sinergia es esencial, mientras infraestructuras como
Respublika organizan la gestión procesal, las plataformas de asistencia jurídica
especializada se consolidan como complementos naturales de los ecosistemas
jurídicos avanzados.

Como advirtió Eduardo J. Couture, el derecho evoluciona constantemente. El
LegalTech madura cuando las limitaciones de la IA se controlan mediante
diseño y permanecen subordinadas al razonamiento humano.

Colombia. Corte Suprema de Justicia. Sala de Casación Civil. Sentencia
STC17832-2025. M.P. Adriana Consuelo López Martínez. 5 de
noviembre de 2025. Radicación n.o 11001-0203-000-2025-05001-00.

Colombia. Consejo Superior de la Judicatura. Acuerdo PCSJA24-12243. "Por el
cual se adoptan lineamientos para el uso y aprovechamiento
respetuoso, responsable, seguro y ético de la inteligencia artificial en la
Rama Judicial". 16 de diciembre de 2024.

Colombia. Superintendencia de Industria y Comercio. Circular Externa 002.
"Lineamientos sobre el Tratamiento de Datos personales en Sistemas
de Inteligencia Artificial". 21 de agosto de 2024.

Eduardo J. Couture, Los mandamientos del abogado (Montevideo: Facultad de
Derecho y Ciencias Sociales, 1949)
Republika. (s.f.). Republika. https://respublika.co/

Elaborado por: Juan Pablo Mateus Polanco