Muchas empresas utilicen voces generadas por inteligencia artificial para vídeos corporativos, anuncios, contenidos para redes sociales, podcasts o tutoriales, ahorrando tiempo y costes de producción. Y es que cada vez contamos con más herramientas basadas en IA, pero ¿es legal utilizar voces generadas por IA para tu negocio? En este post te contamos los detalles sobre la nueva normativa que ha llegado a Europa.
Qué dice la Ley de IA sobre las voces generadas por inteligencia artificial
El Reglamento de Inteligencia Artificial de la Unión Europea establece diferentes obligaciones en función de quién desarrolla una herramienta y quién la utiliza. Y esta diferencia es muy importante para entender qué debes hacer si tu empresa publica contenidos con una voz sintética.
También te puede interesar: Herramientas de IA para crear tu propio logo de empresa
Por un lado están los proveedores, es decir, las empresas que desarrollan sistemas capaces de generar contenido mediante inteligencia artificial. El artículo 50 obliga a los proveedores de herramientas que generan audio, imágenes, vídeo o texto sintético a incorporar mecanismos que permitan detectar que ese contenido ha sido creado o manipulado mediante IA. Este marcado debe ser legible por máquinas y suficientemente robusto siempre que sea técnicamente posible.
Por otro lado están los responsables del uso de estas voces generados por IA, que son, en términos sencillos, las empresas o profesionales que utilizan estos sistemas en su actividad. Y aquí aparece la gran pregunta: ¿tienes que avisar siempre de que estás utilizando una voz generada por IA?
La Ley de IA diferencia entre un audio simplemente sintético y un deepfake. Este último se define como una imagen, audio o vídeo generado o manipulado mediante inteligencia artificial que se parece a una persona, objeto, lugar, entidad o acontecimiento existente y que podría parecer auténtico o verdadero.
Esto significa que utilizar una voz completamente artificial para narrar un vídeo de tu empresa no convierte automáticamente ese contenido en un deepfake. Si utilizas una voz genérica incluida en una herramienta de texto a voz, sin hacer creer que pertenece a una persona concreta, el artículo 50 no establece para el responsable del despliegue la misma obligación de advertencia pública que existe con los deepfakes.
Eso sí, el proveedor de la herramienta continúa sujeto a las obligaciones técnicas de marcado correspondientes. Así que tú no tienes ninguna responsabilidad, y puedes utilizar voces generadas por IA sin problema. Aunque hay una gran excepción, como verás más adelante.
Si imitas la voz de una persona real, la situación cambia
El escenario es muy diferente si utilizas inteligencia artificial para clonar la voz de una persona real y conocida. Por ejemplo, si generas un anuncio que suena exactamente como un actor conocido, un creador de contenido, un empresario o cualquier otra persona identificable.
También te puede interesar: Las mejores herramientas IA para autónomos y Pymes
Si el audio puede hacer creer a quien lo escucha que se trata de una grabación auténtica, estaremos ante el supuesto de deepfake contemplado por la normativa europea. Esto incluye casos en los que tienes el permiso de ese actor o persona conocida para utilizar su voz generada por IA.
Así que, en casos así, debes informar de forma clara de que el contenido ha sido generado o manipulado artificialmente. La Comisión Europea ha aclarado además que esta información debe aparecer, como muy tarde, en la primera exposición al contenido y ser perceptible sin necesidad de utilizar ninguna herramienta especial.
Por ejemplo, en un vídeo podrías indicar claramente que la voz ha sido generada mediante inteligencia artificial. En un contenido exclusivamente sonoro, una advertencia audible al comienzo puede ser una forma de conseguir que el origen artificial resulte evidente.
En MASMOVIL Negocios esperamos que te haya resultado útil descubrir si es legal publicar contenidos con voces generadas por IA y qué debes tener en cuenta antes de utilizar esta tecnología en tu empresa.
