Los mensajes de voz falsos, también conocidos como “voces profundas”, están actualmente de moda en el espacio de la desinformación en línea. Estas voces falsas generadas por la inteligencia artificial se han convertido en una poderosa herramienta para influir en la opinión pública y sembrar confusión.
En New Hampshire, durante las primarias demócratas y republicanas, algunos votantes fueron víctimas de estos mensajes de voz falsos. Recibieron llamadas que decían ser de Joe Biden, instándoles a no votar en las elecciones primarias. Estas llamadas fueron tan convincentes que muchos destinatarios fueron engañados.
Las “voces profundas” se crean utilizando software de inteligencia artificial que puede clonar e imitar perfectamente una voz. Este software está fácilmente disponible en línea, lo que hace que la creación de mensajes de voz falsos sea accesible para todos. Simplemente cargue una muestra de la voz de la persona que desea imitar y luego el software utiliza algoritmos para generar un audio que es casi indistinguible de la voz original.
La dificultad radica en identificar estos mensajes de voz falsos. A diferencia de los vídeos deepfake, donde se pueden detectar inconsistencias visuales, el audio falso es mucho más difícil de detectar. De hecho, es raro que tengamos acceso a la grabación de voz original, lo que dificulta la comparación. Además, tendemos a confiar ciegamente en lo que escuchamos, lo que facilita la difusión de información errónea.
Las consecuencias de estos mensajes de voz falsos son profundas. Pueden influir en los resultados electorales manipulando a los votantes y desacreditando a los candidatos. Además, alimentan la desconfianza y el escepticismo hacia los medios y la información en línea, socavando nuestra confianza en la democracia.
Ante este creciente problema, es fundamental desarrollar herramientas de detección fiables para identificar mensajes de voz falsos. Empresas como Loccus.ai y Reality Defender ya han iniciado este camino, pero todavía queda mucho trabajo por hacer para que estas herramientas sean accesibles para todos.
En conclusión, los mensajes de voz falsos, o “voces profundas”, se han convertido en una formidable herramienta de desinformación. Su fácil creación y dificultad de identificación los convierten en una seria amenaza para la democracia y la confianza pública en la información en línea. Es urgente encontrar soluciones para combatir esta nueva forma de manipulación.