La regulación de la inteligencia artificial en la justicia: un paso hacia una innovación responsable

La incorporación de herramientas de inteligencia artificial en el ámbito jurídico dejó de ser una discusión sobre el futuro para convertirse en una realidad del presente. Tanto estudios jurídicos como empresas, organismos públicos y tribunales comienzan a explorar distintas formas de integrar estas tecnologías para optimizar procesos, mejorar la gestión de la información y facilitar el acceso a la justicia.

En este contexto, la Suprema Corte de Justicia de la Provincia de Buenos Aires dio un paso significativo al presentar el Proyecto de Reglamento para el desarrollo y uso responsable de la inteligencia artificial, acompañado de una instancia de consulta pública destinada a recibir observaciones y aportes de la comunidad jurídica.

Más que una regulación sobre una tecnología específica, el proyecto propone un marco de gobernanza para el uso de sistemas de IA dentro del Poder Judicial, estableciendo principios, límites y responsabilidades que buscan compatibilizar la innovación tecnológica con las garantías propias de la función jurisdiccional.

Un enfoque basado en la gestión de riesgos

Uno de los aspectos más interesantes del proyecto es que evita adoptar una postura prohibicionista frente a la inteligencia artificial.

Lejos de plantear la IA como una amenaza, reconoce expresamente su potencial para mejorar la eficiencia institucional, optimizar procesos internos y fortalecer el acceso a la justicia. Al mismo tiempo, establece mecanismos destinados a prevenir los riesgos que pueden surgir de su utilización.

Este enfoque resulta consistente con las tendencias regulatorias internacionales, que priorizan la gestión del riesgo por sobre la prohibición absoluta, entendiendo que el desafío no consiste en impedir el uso de estas herramientas, sino en utilizarlas bajo condiciones adecuadas de seguridad, transparencia y control.

La decisión judicial sigue siendo humana

Quizás uno de los principios más relevantes del proyecto sea el reconocimiento expreso de que la función jurisdiccional es indelegable e insustituible.

La inteligencia artificial puede asistir, organizar información, realizar búsquedas o generar borradores, pero nunca reemplazar el razonamiento jurídico ni la decisión de un magistrado.

En otras palabras, la IA aparece como una herramienta de apoyo al trabajo judicial y no como un sustituto del juez.

Esta definición aporta seguridad jurídica y reafirma un principio esencial: la responsabilidad sobre las decisiones continúa siendo exclusivamente humana.

Supervisión, validación y responsabilidad

El proyecto también incorpora una obligación que resulta especialmente relevante para quienes utilizan herramientas de IA en la práctica profesional: toda salida generada por estos sistemas debe ser revisada y validada por una persona.

Esta exigencia responde a una realidad conocida por quienes trabajan habitualmente con inteligencia artificial. Los modelos generativos pueden producir respuestas incorrectas, referencias inexistentes o interpretaciones erróneas si no existe una adecuada supervisión humana.

Por ello, el reglamento establece que los operadores judiciales deben ejercer un control efectivo sobre los resultados obtenidos mediante estas herramientas y asumir la responsabilidad por su utilización.

La importancia de verificar las fuentes jurídicas

Entre las previsiones más destacables se encuentra la obligación de verificar y contrastar toda referencia normativa, jurisprudencial o doctrinaria generada por herramientas de inteligencia artificial antes de incorporarla a una actuación judicial.

Este punto merece especial atención.

Uno de los principales riesgos asociados al uso de modelos generativos consiste en la posibilidad de que produzcan citas inexistentes o referencias inexactas, fenómeno conocido como "alucinaciones".

En consecuencia, la utilización responsable de IA exige mantener intacto uno de los principios fundamentales del ejercicio profesional: la verificación independiente de las fuentes jurídicas.

La inteligencia artificial puede acelerar la investigación, pero nunca sustituir el deber de corroborar la información antes de utilizarla.

Protección de datos y confidencialidad

Otro aspecto central del proyecto es la protección de la información.

El reglamento contempla expresamente los riesgos vinculados al tratamiento de datos personales y prohíbe la utilización de herramientas que procesen información confidencial cuando no existan garantías adecuadas de seguridad y privacidad.

Esta previsión adquiere especial relevancia considerando que gran parte de la actividad judicial involucra información especialmente sensible.

La incorporación de inteligencia artificial en el ámbito jurídico requiere, necesariamente, que las soluciones tecnológicas respeten elevados estándares de protección de datos y confidencialidad.

¿Qué significa este proyecto para el ecosistema LegalTech?

La propuesta de la Suprema Corte refleja una tendencia que comienza a consolidarse en distintos sistemas judiciales: la inteligencia artificial no debe ser entendida como un reemplazo del profesional del derecho, sino como una herramienta que puede potenciar su trabajo cuando se utiliza bajo criterios claros de responsabilidad.

En este escenario, el crecimiento del ecosistema LegalTech cobra una importancia cada vez mayor.

Las soluciones especializadas para el sector jurídico evolucionan hacia modelos diseñados específicamente para las necesidades de abogados, estudios jurídicos y organismos públicos, incorporando mecanismos de trazabilidad, transparencia y utilización de fuentes jurídicas verificables.

El desarrollo de este tipo de herramientas demuestra que la innovación tecnológica y la seguridad jurídica no son objetivos incompatibles, sino complementarios.

Un equilibrio necesario

La discusión ya no gira en torno a si la inteligencia artificial debe utilizarse o no dentro del ámbito jurídico. La verdadera pregunta es cómo utilizarla de manera responsable.

El proyecto presentado por la Suprema Corte de Justicia de la Provincia de Buenos Aires constituye un avance importante en esa dirección. Al establecer principios de supervisión humana, responsabilidad, protección de datos y verificación de la información, propone un modelo que busca aprovechar los beneficios de la tecnología sin comprometer los valores fundamentales del sistema de justicia.

En definitiva, el futuro del ejercicio profesional probablemente no dependa de elegir entre derecho o tecnología, sino de construir un equilibrio que permita integrar ambas dimensiones de manera ética, segura y responsable. Ese es, precisamente, uno de los principales desafíos para la abogacía y para el ecosistema LegalTech en los próximos años.

 

Elaborado por: Micaela Silva