Lo que necesitas saber:
Por todos lados escuchamos que la Inteligencia Artificial es capaz de clonar tu voz. Nosotros lo intentamos y es extremadamente fácil, pero abre la puerta a algunas consecuencias inesperadas.
Mucho hemos platicado de los enredos de las nuevas tecnologías o de las consecuencias inesperadas de sus avances. Sin embargo, de entre todas estas ideas, una en particular nos intrigaba: poder clonar una voz con Inteligencia Artificial.
¿Podríamos hacerlo sin ninguna clase de entrenamiento específico? ¿Qué tan difícil es lograrlo? ¿Qué podría pasar?
El resultado de clonar mi voz con Inteligencia Artificial terminó sorprendiéndonos. Fue muy fácil, nos tardamos unos cuantos minutos y nos costó apenas 17 pesos. Aunque definitivamente no es perfecta, la versión digital terminó hablando idéntico a mí.
Nos encanta la tecnología, pero, la mera verdad: el futuro sí da miedo. Les contamos más sobre este experimento.
Así logré clonar mi voz con Inteligencia Artificial
Como queríamos comprobar qué tan fácil podría ser clonar mi voz con Inteligencia Artificial, teníamos que encontrar un programa gratuito que usara la tecnología. También tenía que ser sencillo de utilizar: nada de conocimientos de programación, ni manos mágicas en la edición de audio.
Usamos la prueba gratis del software de ElevenLabs, una empresa fundada por un ex-ingeniero de Google, que permite clonar voces en distintos idiomas.
El proceso, como lo esperábamos, fue ridículamente sencillo. Una vez que aceptamos no romper ninguna ley con el experimento y que mis intenciones no eran defraudar a nadie, llegó el momento de subir una pequeña prueba de mi voz.
Cargamos un audio de 2 minutos, en el que estaba hablando durante el programa de radio de SopitasFM en RadioChilango. También subimos una pequeña prueba en la que estaba leyendo; duraba apenas un minuto.
El resultado, la mera verdad, nos sorprendió. Échenle una oreja:
Seguro ya lo notaron en el video. Aunque sí logré clonar mi voz con Inteligencia Artificial, el resultado no es perfecto… ¡pero se acerca mucho!
El software logró capturar el timbre y el tono de mis palabras; también se parecía bastante a la forma en la que hablo. Lo único diferente es que era un poco más grave y que, por supuesto, se escuchaba demasiado serio, como si estuviera leyendo.
¿Qué es lo peor que podría pasar?
Obviamente, apenas logré clonar mi voz con Inteligencia Artificial, nos ganaron los pensamientos intrusivos: ¿qué es lo peor que podría pasar?
En este experimento probamos una serie de posibles estafas, como las que se han reportado en todo el mundo. Mensajes de auxilio, en los que piden dinero a seres queridos. También escribimos notas de voz hablando de emergencias.
“Mamá, ¿me ayudas? Tengo que depositar algo súper urgente. Te escribo”.
Siguiendo con los escenarios más trágicos posibles, logramos que la voz clonada con IA pudiera decir: “Mi voz es mi firma”. Ya saben, como las medidas de seguridad que existen en algunos bancos.
El potencial de la Inteligencia Artificial para este tipo de estafas se ha popularizado en los últimos meses. El New York Times reveló que los bancos reciben cerca de 20 llamadas diarias con voces clonadas, en la espera de acceder a la cuenta —o los datos— de sus usuarios.
Un estudio realizado por la empresa de ciberseguridad McAfee encontró que 77% de las personas que han recibido una llamada con voces clonadas por IA cayeron en la estafa. Una tercera parte de las víctimas perdió más de 5 mil dólares. La gran mayoría de los casos eran llamadas de supuesta emergencia con familiares o seres queridos.
La política de clonar una voz con Inteligencia Artificial
Todos recuerdan aquel video de Barack Obama —interpretado realmente por Jordan Peele— usando deepfakes para insultar a Donald Trump, ¿no?
Hace unos años parecía una tecnología de punta, pero, ahora, la idea de clonar una voz con Inteligencia Artificial es tremendamente accesible. Solo necesitas unos segundos de voz grabada, un programa gratuito y unos cuántos minutos de dedicación para lograrlo.
Normalmente lo usamos para la comedia, como los videos de AMLO cantando las rolas de Valentín Elizalde, para escuchar a Messi leer libros de Economía o para que Cristiano Ronaldo te envíe mensajes de apoyo.
Sin embargo, en México, la situación ha llegado al terreno de la política o la guerra sucia.
En un audio reciente —que rápidamente se hizo viral o se compartía en WhatsApp— se escuchaba al aspirante presidencial Marcelo Ebrard decir que estaba dispuesto a aliarse con los partidos opositores. Su voz, clonada con Inteligencia Artificial, estaba enmascarada con ruidos de oficina, para darle realismo a la idea de “micrófono escondido”.
Ese es un ejemplo de grilla política, pero las consecuencias podrían ser peores. Un informe del Instituto Brookings, enfocado en la manipulación mediática en tiempos de guerra, alertaba del avance tecnológico.
“Podría ser usado para falsificar órdenes de líderes militares, cocinar confusión entre el público, autoridades políticas o las fuerzas armadas; darle legitimidad a las guerras”, describían en el reporte.
“Nunca antes había sido posible que cualquier actor en un conflicto pueda generar audio, video o texto realista de sus oponentes, líderes políticos o autoridades militares”, señalan. “Mientras la IA se vuelve más sofisticada, los riesgos de los deepfakes en tiempos de clonflictos armados solo aumentarán”.
Nadie regula la tecnología para clonar voz con Inteligencia Artificial
En México no existe ninguna ley que regule el uso de la Inteligencia Artificial —con trabajos le echan un ojo a internet, ¿verdad?
Se presentó recientemente una iniciativa en la Cámara de Diputados para comenzar a platicar de este tema, pero se ha quedado en la congeladora. Esta iniciativa, además, buscaba crear el Consejo Mexicano de Ética para la Inteligencia Artificial y la Robótica que apenas comenzaría a presentar las mejores prácticas al respecto. Sigue en pañales.
De hecho, en todo este experimento de clonar mi voz con Inteligencia Artificial el único momento que encontramos normas a seguir fue cuando aceptamos los términos y condiciones del software.
Eso sí, no decían nada importante mas que “prometíamos no violar los derechos de nadie, no hacer nada ilegal, nada fraudulento y nada dañino”. P
¿El futuro sí da miedo?
Al clonar mi voz con Inteligencia Artificial se abrieron interesantes puertas y la mera verdad es que la tecnología es completamente divertida. Sin embargo, si pensamos en todas las veces que compartimos nuestra voz en línea, las cosas se pueden poner complicadas.
En esta nueva era tecnológica, también llega una era de dudar de todo lo que recibimos por internet —aunque suene y se parezca a ti.
Todo lo que no sabías que necesitas saber lo encuentras en Sopitas.com
Vía Sopitas.com