Microsoft advierte sobre los peligros de la IA que puede crear voces realistas

Investigadores de Microsoft en Asia han publicado un estudio que pone en riesgo a los socios de un programa de inteligencia artificial (IA) diseñado para generar voces extremadamente realistas.

Riesgos de la inteligencia artificial

Los expertos siguen advirtiendo sobre los posibles peligros de la inteligencia artificial. Un artículo publicado por los propios investigadores de Microsoft revela que la empresa está desarrollando un sistema con “riesgo potencial”.

El modelo VAL-E 2

El modelo de inteligencia artificial que se está desarrollando es VALL-E 2, un programa que permite convertir texto en voz. Este tipo de tecnología se conoce como TTS (texto a voz, o conversión de texto a voz, utilizando sus símbolos en inglés).

Capacidad VAL-E 2

Los investigadores del equipo de Microsoft Asia observaron que este nuevo modelo puede pronunciar palabras complejas de forma natural, incluso aquellas que son difíciles de leer o contienen oraciones repetitivas.

Riesgos potenciales

También se advierte de los “posibles riesgos” derivados de un uso inadecuado del VALL-E 2, como su uso para acceder a sistemas de identificación por voz o para sustituir a otras personas.

Recomendaciones

El estudio sugiere que los usuarios deben dar su consentimiento al uso de su voz para garantizar que esta IA pueda leer los textos. Antes de identificar peligros, se recomienda implementar un protocolo que asegure que el “dueño” del artículo verifique su uso.

También discutimos la posibilidad de desarrollar un modelo capaz de detectar audio sintetizado con VALL-E 2.

Declaraciones de Microsoft

Microsoft afirmó en su página dedicada a esta inteligencia artificial que la compañía “no tiene planes de incorporar VALL-E 2 a un producto ni de ampliar su acceso público”.