Uso de inteligencia artificial en la creación de contenido digital y sus implicancias en el derecho a la imagen y al honor

En estos ultimos años, la implementación de la inteligencia artificial ha generado una gran presencia en las redes sociales, especialmente si hablamos de plataformas de alcance mundial como Tiktok, Instagram y Facebook. Inicialmente, cientos de usuarios curiosos comenzaron a utilizar las herramientas de inteligencia artificial para crear videos con fines de entretenimiento y a su vez teniendo como objetivo el aumento de sus seguidores en la cuenta. Sin embargo, hoy en día, el uso de la inteligencia artificial en la creación de contenido audiovisual responde a una necesidad económica, puesto que numerosos creadores de contenido buscan monetizar sus publicaciones a través de las redes sociales.

Con la reciente implementación de mejoras en programas y herramientas de inteligencia artificial, como Kling AI, Seedance 2.0, Sora, Runway AI, Google Veo, se ha incrementado exponencialmente la capacidad de generar videos cada vez más hiperrealistas al punto que un usuario común y corriente no podría notar que el video es falso. No obstante, esta creciente evolución tecnológica ha generado numerosas preocupaciones jurídicas en todo el mundo ya que decenas de miles de usuarios están haciendo un uso indebido del rostro y cuerpo de personas famosas o de terceros sin permiso ni su autorización directa. Este tipo de prácticas podrían vulnerar el derecho a la imagen, la privacidad, los derechos de autor y los derechos conexos. Y sin irnos a un extremo, estas situaciones pueden igualmente vulnerar el derecho al honor y la reputación de la persona involucrada, especialmente si estos videos realizados con inteligencia artificial son manipulados en escenarios polémicos o dañinos para la imagen de una tercera persona.

Existen diversos casos que evidencian en su totalidad la existencia de riesgos jurídicos asociados al uso no supervisado de los programas y sistemas de inteligencia artificial. Uno de los ejemplos más conocidos ocurrió en el año 2023, cuando el actor Tom Hanks denunció públicamente que su imagen había sido utilizada sin su autorización en un anuncio publicitario para promocionar un plan dental. Este caso evidencia que la inteligencia artificial puede ser utilizada para suplantar la identidad de una persona y con ello generar una falsa participación de aquella persona sin su autorización. Esto por lo tanto deriva en la vulneración al derecho de imagen y en determinados casos, al derecho de publicidad.

Además, los comportamientos de los usuarios en las redes sociales permiten identificar sus motivaciones detrás del uso sin consentimiento de rostros y cuerpos de terceros, especialmente si nos referimos a personas famosas, en contenidos que han sido previamente generados por inteligencia artificial. En ciertos casos, estas prácticas se relacionan con el denominado “roleplay”, en donde los usuarios simulan ser una celebridad o un personaje público con fines recreativos y sin necesariamente perseguir un beneficio económico. Sin embargo, existen situaciones donde los usuarios crean personajes virtuales para así incrementar su número de seguidores y su alcance en redes sociales. Incluso se ha observado que estos usuarios creados mediante inteligencia artificial han realizado colaboraciones con marcas comerciales, simulando que el avatar digital interactúa o hace uso de los productos durante el video publicado.

La creación de este tipo de contenido resulta sencillo gracias al desarrollo continuo de las herramientas de inteligencia artificial. Basta con subir una imagen o video de una persona dentro del sistema y proporcionar instrucciones mediante los prompts para que el programa genere un nuevo contenido en donde se visualice el rostro o el cuerpo del tercero en escenas o contextos distintos. Es cierto que, durante los primeros años de desarrollo de estas tecnologías, muchas de las compañías carecían de filtros estrictos para limitar la creación de este preciso tipo de contenido, lo que ocasionaba el riesgo de uso indebido, pero hoy en día hay un mayor porcentaje de filtros cuando un usuario hace uso de esta tecnología. Tomando como ejemplo a la herramienta Grok, desarrollada por la empresa tecnológica X Corp, donde se puede encontrar dos tipos de subscripciones donde amplían considerablemente las capacidades de generación de imágenes y videos hiperrealistas mediante su inteligencia artificial. Asimismo, usuarios que hacen uso de la misma herramienta reportan que este tipo de tecnología ha sido utilizada para crear contenido manipulado de carácter sexual o difamatorio utilizando la imagen de un tercero sin su consentimiento.

En ese contexto, desde una perspectiva jurídica legal, las restricciones impuestas por los programas, aplicaciones y plataformas podrían tener repercusiones en cuanto al respeto y a los derechos de autor, la protección de datos y las responsabilidades de la plataforma ante contenido generados por usuarios y por lo tanto deben ser analizadas a profundidad dentro del marco normativo peruano. La constitución política peruana a través de su articulo 2 Inc. 7 respalda que el uso de la imagen de una persona sin su atorización vulnera un derecho constitucional con la finalidad que se respete su honor, reputación y la intimidad personal. A si mismo, nuestro código civil, a traves de su artículo 15, Derecho a la imagen, nos expresa que la imagen y voz de una persona no puede ser aprovecha sin la autorización expresa de la persona en cuestión. Resulta importante destacar que el daño moral ocasionado mediante herramientas de inteligencia artificial a un tercero puede ser extremadamente perjudicial. En este sentido, el Código Civil peruano, a través de su artículo 1984, reconoce la posibilidad de reclamar una indemnización por daño moral cuando se afecta los derechos de carácter personal y, por lo tanto, esta disposición podría ser útil y aplicable en aquellos casos en donde la inteligencia artificial está afectando el honor, la reputación o la imagen.

En definitiva, esta reciente expansión de la inteligencia artificial ha transformado significativamente la manera en como hoy en día se produce y difunde la información. En consecuencia, la utilización de la inteligencia artificial deberá estar siempre dentro de los límites que respeten los derechos fundamentales de las personas. El actual desafío jurídico consiste en la promulgación del uso de estas tecnologías de manera responsable y ética, para garantizar la protección de los derechos de terceros en el entorno digital.

Elaborado por: Sebastian Castillo Leveau