OpenAI, una empresa líder en inteligencia artificial, anunció que está trabajando en una nueva tecnología de voz que puede leer texto y emular tonos vocales específicos de manera perfecta. Esta nueva tecnología, llamada «Voice Engine», se considera un avance significativo en la producción de voz artificial, lo que podría aumentar los riesgos de deepfake.
La compañía compartió los primeros resultados de prueba y los posibles usos de este modelo de transformación de voz llamado «Voice Engine». Sin embargo, debido a preocupaciones de seguridad, esta función aún no se ha puesto en uso. OpenAI prefirió compartir esta tecnología con un grupo limitado de desarrolladores para recopilar comentarios.
En su declaración, OpenAI hizo hincapié en los serios riesgos de imitar la voz humana. Especialmente, considerando los posibles riesgos de uso de tales tecnologías en momentos críticos como los años de elecciones, se indicó que el proceso de desarrollo se lleva a cabo en colaboración con socios en Estados Unidos e internacionales.
Anteriormente, las tecnologías de inteligencia artificial se habían utilizado en algunos casos para imitar voces. Por ejemplo, una llamada telefónica falsa que imitaba la voz del presidente de Estados Unidos, Joe Biden, intentó engañar a los votantes en New Hampshire.
El nuevo motor de voz de OpenAI puede imitar perfectamente el estilo y la entonación del hablante, requiriendo solo una grabación de voz de 15 segundos para hacerlo. Organizaciones como el Instituto de Neurociencia Norman Prince, uno de los socios desarrolladores de OpenAI, están utilizando esta tecnología para ayudar a los pacientes a recuperar sus voces. Por ejemplo, la voz de un joven paciente que perdió la capacidad de hablar debido a un tumor cerebral se recreó utilizando una grabación de voz previa en un proyecto escolar.
Además, los modelos de voz pueden traducir las voces generadas a diferentes idiomas, lo que brinda una gran ventaja especialmente para empresas que producen contenido de audio. Empresas como Spotify ya están utilizando esta tecnología en programas piloto.
OpenAI continúa recopilando comentarios de diferentes expertos antes de que esta tecnología se implemente ampliamente. También enfatiza la necesidad de aumentar la conciencia pública sobre la eliminación de medidas de autenticación de voz y la creación de conciencia sobre el contenido falso generado por inteligencia artificial.