Responsabilidad del administrador social por el uso de inteligencia artificial.

El paradigma en la toma de decisiones empresariales ha cambiado. Antes sucedía que los administradores tomaban las decisiones de negocio a partir de su experiencia o la de sus equipos de trabajo, de la información financiera disponible y de conceptos emitidos por asesores claramente identificables, como abogado o consultores. Es decir, era relativamente sencillo reconstruir quién recomendó qué, con base en qué información y bajo qué supuestos.

Sin embargo, hoy cada vez es más común encontrar que los administradores sociales se apoyen en modelos de inteligencia artificial para tomar las decisiones más relevantes. Tan solo a título ilustrativo, estas herramientas pueden sugerir mercados “ideales”, precios “óptimos”, rutas “más eficientes” o proveedores “más confiables”.

El problema es que esos algoritmos no son oráculos infalibles. En realidad —y aun a riesgo de simplificar— funcionan como cajas negras entrenadas con datos que no necesariamente son completos y que, con frecuencia, pueden estar sesgados. El riesgo aparece cuando los administradores dejan de ver la inteligencia artificial como lo que debe ser: un insumo, un elemento adicional para nutrir el proceso decisorio, y empiezan a tratarla como sustituto y único criterio. En ese tránsito silencioso, la organización corre el riesgo de que se diluya la noción misma de “proceso de decisión” exigible al administrador y de que, en la práctica, se confundan las responsabilidades: parece decidir la máquina, pero quien sigue respondiendo es la persona.

Es perfectamente posible que, en ese escenario de confianza casi ciega en las recomendaciones de la IA, las cosas salgan mal y se causen perjuicios a la sociedad. Aplicando la misma terminología, puede que el mercado sugerido no sea el “ideal” sino uno expuesto a sanciones o inestabilidad regulatoria; el precio recomendado no sea insostenible; la ruta “eficiente” incremente significativamente los riesgos y costos logísticos; los proveedores escogidos como “confiables” resulten insolventes o incumplidos. En todos esos casos, el daño no lo sufre el algoritmo, sino la sociedad, sus socios y eventualmente terceros.

En el derecho societario colombiano, el punto de partida sigue siendo claro. Los “administradores responderán solidaria e ilimitadamente de los perjuicios que por dolo o culpa ocasionen a la sociedad, a los socios o a terceros”, de acuerdo con el artículo 200 del Código de Comercio, modificado por el artículo 24 de la Ley 222 de 1995. Esa norma no exige resultados perfectos, pero sí impone un estándar en función del cual se valora la diligencia del administrador. A esto debe sumarse que la Superintendencia de Sociedades ha acogido la business judgment rule.

De allí surge la pregunta central: ¿cómo debe valorarse la conducta de los administradores cuando las decisiones tomadas con base en modelos de inteligencia artificial terminan causando perjuicios a la sociedad? Es decir, ¿qué cuenta como “diligencia” en un contexto en el que los algoritmos participan —a veces de forma decisiva— en el proceso de toma de decisiones?

Hasta donde hoy se conoce, esta pregunta no ha sido abordada de forma directa por jueces colombianos en el ámbito estrictamente societario, en casos donde la inteligencia artificial se incorpore expresamente al órgano de administración. No obstante, sí existen líneas relevantes tanto en jurisprudencia constitucional como en la doctrina comparada. 

La Corte Constitucional, por ejemplo, ha destacado que el uso de herramientas de inteligencia artificial exige que el usuario esté capacitado y comprenda sus impactos, así como deberes reforzados de transparencia y supervisión humana cuando se emplean sistemas algorítmicos para adoptar decisiones relevantes.

“369. […] También, el juez o magistrado debe tener en cuenta los sesgos y, en caso de que formule una pregunta que pueda verse afectada por los mismos, ha de asumir nuevas cargas, como lo puede ser el manejo del resultado de su búsqueda, lo cual solo se logra si hay una capacitación respecto al uso de estas tecnologías y si se comprende el funcionamiento mismo de la IA correspondiente.

[…]

372. […] Teniendo en cuenta que las decisiones judiciales que acudan a este tipo de herramientas -IA- deberán dar cuenta del origen, idoneidad y necesidad de la información utilizada, la responsabilidad del juez se centra, especialmente, en verificar que la información sea real, apropiada para el asunto, respetuosa de los presupuestos fácticos y jurídicos, y comprensible para la administración de justicia y los administrados. Es responsabilidad del juez estar capacitado y comprender el buen manejo de estas tecnologías al interior de la administración de justicia y sus impactos.

Si bien estos razonamientos fueron expuestos en relación con la aplicación de la inteligencia artificial en la función jurisdiccional, estos principios también pueden ser trasladables al ámbito de la administración societaria. Así, quien decide apoyado en inteligencia artificial debe entender cómo funciona la herramienta, sus límites y riesgos, y no puede delegar por completo en ella su juicio profesional. Si se mira la cuestión desde la lógica general de la responsabilidad de administradores, la diligencia empleada seguirá siendo un criterio elemental para valorar su conducta en todo el ciclo de uso de la inteligencia artificial en la toma de decisiones: selección del modelo, calidad y pertinencia de los datos utilizados, diseño de controles internos y, sobre todo, contraste crítico de los resultados antes de convertirlos en decisiones sociales. En otras palabras, la inteligencia artificial no puede ser la única herramienta para decidir y, aun cuando tenga un peso central, sus resultados deben ser corroborados a la luz de otra información disponible y del contexto de la operación. Asimismo, la información y los datos que alimentan a la inteligencia artificial también deben ser objeto de escrutinio, porque de ellos depende en buena medida la razonabilidad de la recomendación que el algoritmo produce. Desde esta perspectiva, el estándar de diligencia no se agota en “haber usado una herramienta sofisticada”, sino en haberla usado bien, con conciencia de sus límites y las cargas que su uso exige.De ahí que las buenas prácticas en el uso de la inteligencia artificial no sean solo una recomendación de ética empresarial, sino una verdadera necesidad jurídica en materia de responsabilidad de administradores. La experiencia comparada y la doctrina reciente apuntan en la misma dirección: la incorporación de inteligencia artificial en la gestión empresarial tiende a reforzar, y no a diluir, los deberes de cuidado, supervisión y lealtad de los administradores. La responsabilidad por un uso indiscriminado, sin filtros ni revisión, recae en última instancia en las personas que deciden apoyarse en esos sistemas. En el ámbito corporativo, eso se traduce en que quienes ejercen la administración de la sociedad deberán demostrar que, incluso cuando se sirvieron de modelos de inteligencia artificial, mantuvieron un proceso de decisión informado, crítico y razonable, acorde con el estándar de diligencia antes mencionado.

Elaborado por: Daniel Peñaranda Rodriguez