A través de un audio y una imagen del candidato presidencial Jorge Tuto Quiroga (Alianza Libre) se lo escucha mencionar que «los bonos y rentas estancan el crecimiento del país» y que por eso «no se seguirá alimentando ese tipo de sistema». No obstante, tras un análisis digital se detectó que este material fue creado con inteligencia artificial (IA), por lo tanto, es falso.

“Los bonos y rentas se han convertido en una muleta política que estanca el crecimiento del país.  No vamos a seguir alimentando un sistema que premia la dependencia y castiga el esfuerzo”, se escucha en el video.

Sin embargo, el audio fue sometido a dos herramientas de detección de inteligencia artificial para comprobar si eran reales o falsos.

Según Hive Moderation concluyó que el audio fue generado en un 99,7% con IA.

Resultados de Hive Moderation.

Mientras que Hiya determinó que el material tenía apenas un 1% de autenticidad.

Plan de Gobierno

Respecto a los bonos, en el programa Yo Elijo del periódico El Deber, el candidato afirmó que “cree firmemente en ese beneficio”, por lo que contradice el mensaje que se difunde por TikTok.

«Los bonos que se pagan a los niños para que vayan al colegio o para cuidar a la gente mayor son algo en yo creo firmemente. Hace muchísimo tiempo en la campaña de 2005 yo las proponía, que se llama eso, transferencia condicionada de recursos. Es lo más liberal que existe. En lugar de que el Estado cree entidades y genere burocracia para buscar darte atención, pasarle el dinero directamente a la gente que se puede beneficiar», mencionó.

Dentro de su Plan de Gobierno no existe alguna propuesta que indique la eliminación de los bonos y rentas.

La entrada Jorge Quiroga no cuestionó los bonos y rentas ni advirtió con suprimirlos se publicó primero en Bolivia Verifica Elecciones.

La semana que terminó, el medio español EDATV difundió un audio en inglés asegurando que el empresario Marcelo Claure «admite que comprando los medios puede imponer a un político y controlarlo como una marioneta». Ante la viralización del archivo sonoro, Bolivia Verifica lo analizó en colaboración con tres equipos de peritos internacionales de la organización Witness.

Los expertos concluyeron que es altamente «probable que el audio no haya sido manipulado por IA, pero podría ser una combinación de diferentes grabaciones». En este Explicador, te contamos todos los detalles del análisis.

El audio de 36 segundos fue difundido el 3 de agosto y está en inglés, pero en los subtítulos se lee lo siguiente:

«Y otra cosa que tenemos que pensar, si vamos a comprometernos y ser serios. puedes comprar medios de Bolivia por nada. Quiero decir que sabes que recibo ofertas para comprar todos los diarios en Bolivia por un par de millones de dólares. Sabes que básicamente puedes tener el control, Bolivia sigue siendo un país con periódicos en crecimiento, más redes sociales, etcétera. 

Así que es relativamente fácil mover un país que conoces y creo que será un experimento divertido, ya sabes podemos poner el político adecuado para una buena causa. Hay que asegurarse de que ponemos a alguien que realmente dirige el país mejor».

Bolivia Verifica envió el material a sus aliados del Grupo de Respuesta Rápida de Deepfakes de Witness para tener un diagnóstico preciso del contenido. Tres equipos lo revisaron por separado con diferentes herramientas de código cerrado y metodologías de análisis, y el proceso de análisis establece que es altamente probable que «el audio no haya sido manipulado por IA, pero podría haber sido una combinación de diferentes grabaciones».

A continuación, detallamos los resultados de cada uno de los análisis:

Equipo 1

El análisis que hizo este grupo de especialistas consistió en segmentar el audio en 3 partes de 12 segundos cada una para ver alguna incidencia de inteligencia artificial (IA).

«La primera parte fue marcada como probablemente generada, mientras que la segunda y la tercera no lo fueron. Al escuchar el audio, los expertos notaron una transición muy antinatural a los ~7 segundos de la grabación. Basándose en su interpretación del espectrograma de audio y del propio audio, su evaluación sugiere que los primeros 7 segundos causaron el diagnóstico falso. El equipo también notó que el audio pudo ser una combinación de grabaciones diferentes sacadas de sus contextos originales».

A continuación podrás ver los espectrogramas (la representación visual de un sonido): al lado izquierdo el audio atribuido a Claure y al derecho la imagen de cómo la herramienta esperaba que se viera el audio:

Según su resultado, el audio pudo ser manipulado por IA en sus primeros 7 segundos, pero este resultado no es concluyente. Y advierten que el análisis tuvo una limitación y es que el ruido de fondo sugiere que se usó un micrófono de un dispositivo antiguo sin cancelación de ruido para grabar el audio. «Nuestra teoría es que esto pudo haberse hecho para eliminar cualquier rastro digital del audio».

Equipo 2

El Equipo 2 segmentó más de 120 veces el audio para identificar su veracidad o falsedad, pero tuvo resultados mixtos, por lo que no llegaron a una conclusión clara. Sus limitaciones fueron el ruido, la calidad del audio y el idioma, según su reporte.

Equipo 3

El equipo 3 concluyó que el audio no presenta manipulaciones con inteligencia artificial (IA).

«El equipo encontró algunas instancias de ruidos de fondo y ruido por manipulación del micrófono. Estos ruidos indican que la grabación se realizó en un espacio con características acústicas auténticas.

Los expertos también han identificado una frecuencia resonante que está presente en la voz, alrededor de 500 Hz, debido a la acústica del espacio en el que se realizó la grabación. Además, el sonido de lo que parece ser el crujido de una silla a los 14 segundos también tiene una resonancia similar. Esta es una indicación de que la grabación de la voz y los sonidos de fondo se realizaron en el mismo espacio y que la grabación es muy probablemente auténtica«.

En su reporte menciona que también hicieron una ingeniería inversa de la voz de Claure, «utilizando la generación de voz con aprendizaje automático y usando las muestras conocidas de su voz. Al escuchar críticamente la voz generada sintéticamente por el equipo y compararla con el audio en cuestión, el equipo cree que el audio en cuestión exhibe un perfil de hablante y una patología que la voz generada sintéticamente no logró capturar. El equipo no encontró ningún artefacto de audio típicamente asociado con el audio sintético. Esto sugiere que el audio en cuestión probablemente no fue generado sintéticamente.

La única limitante que notaron es la calidad de la grabación.

Análisis de Bolivia Verifica

El equipo de Bolivia Verifica sometió el audio al análisis de herramientas gratuitas que de igual modo no fueron concluyentes. Al usarlas en diferentes momentos del audio arrojaron resultados diferentes, pero ninguno concluyó que se tratara de una creación con inteligencia artificial:

Usando herramientas de verificación de paga se concluyó que hay indicios técnicos que sugieren una manipulación digital, pero aclaran que no es una prueba definitiva.

Asimismo, se comparó el material con otro audio de Claure hablando en inglés y con aplicaciones de edición de audios se comparó ambos contenidos, pero tampoco se identificó algún dato concluyente que certifique que es o no es el empresario.

Luego de compartir el audio, EDATV presentó un informe en el que se detalla que el audio es original según un análisis forense que hicieron con las herramientas ElevenLabs y Resamble IA Deepfake Detector

Por su parte, Claure publicó que «ese audio, manipulado y editado, intenta hacer creer que yo estoy comprando medios de comunicación. Eso es absolutamente falso.».

¿Qué es el Grupo de Respuesta Rápida de Witness?

El Grupo de Respuesta Rápida de Deepfakes de WITNESS colabora con Bolivia Verifica para analizar contenido que puede haber sido generado o editado con IA con la finalidad de desinformar y manipular a la opinión pública.

El Grupo de Respuesta Rápida está conformado por personas expertas y empresas que trabajan de manera independiente, pero que se unen de manera voluntaria para crear este ‘Task Force’, o grupo de trabajo.

¿Qué diferencia las herramientas de código cerrado de las de código abierto?

Bolivia Verifica recuerda a sus lectores que las herramientas de código abierto o gratuitas empleadas para el análisis de contenidos generados con IA no dan resultados concluyentes ni son 100% confiables, por lo que se debe buscar mayores respaldos para certificar si un contenido es real o no.

Una herramienta de inteligencia artificial de código cerrado, también conocida como software propietario, es aquella cuyo código fuente no es accesible públicamente, lo que evita que actores malintencionados puedan analizarlo para encontrar vulnerabilidades. El proveedor es responsable de implementar y mantener las medidas de seguridad.

La entrada Peritos internacionales alertan de posible montaje en el audio de Claure y descartan el uso de IA se publicó primero en Bolivia Verifica Elecciones.

Este 4 de junio, el dirigente cocalero Rudy Capquique compartió un audio en el que se escucha al expresidente Evo Morales instruir un plan para el cerco a las ciudades, tal como en 2019. Tres análisis periciales realizados por expertos internacionales del Grupo de Respuesta Rápida de Deepfakes de Witness —aliado de Bolivia Verifica— revelaron que este contenido no fue creado con inteligencia artificial y tiene rasgos auténticos.

En una de sus partes más sobresalientes, el audio enviado por Morales a Capquique contiene la siguiente afirmación: «Si el día lunes hay cerco en La Paz, vamos a meter. Aquí vamos a quedarnos otra vez como en octubre, en vano un mes y medio bien cercado Cochabamba». Bajo esta misma línea discursiva, Morales también refiere los bloqueos de caminos en torno a los departamentos de Oruro y Santa Cruz.

Análisis del audio

Un primer equipo del Grupo de Respuesta Rápida de Deepfakes de Witness analizó el material con diferentes modelos de detección de deepfakes de código cerrado y llegó a la conclusión de que «el análisis sugiere con una alta confianza de que la grabación no fue generada ni manipulada por IA«.

El segundo equipo coincidió en que el audio es “muy probablemente real«, sin indicios claros de generación o manipulación de IA.

Adicionalmente, el tercer equipo consideró que el material tampoco fue manipulado y para evaluar la calidad del sonido hasta replicó el escenario grabando una conversación de WhatsApp.

A continuación, detallamos los hallazgos de los peritos:

Equipo 1

1. El detector automático arrojó un resultado de «poca evidencia / probablemente real«.

2. La revisión humana independiente estuvo de acuerdo con la evaluación: un lingüista hispanohablante y dos expertos que no hablan español encontraron que la entonación, las micropausas y la articulación eran muy consistentes con el habla natural.

El lingüista destacó pequeños errores gramaticales, por ejemplo, en 00:20 “no cree nadies” en lugar del correcto “nadie”. Y en 00:08 “nos ganan o perdemos”, que son más típicos de la conversación humana espontánea que un audio creado usando una herramienta de text-to-speech.

3. El análisis espectro-temporal tampoco reveló signos comunes en voces sintetizadas.

En conjunto, estos hallazgos sugieren que la grabación no fue generada ni manipulada por IA.

Equipo 2

1. El detector arrojó un resultado de “muy probablemente real» indicando que no se encontraron signos claros de generación o manipulación de IA en el audio.

2. El detector funciona mejor para el español castellano y por eso puede pasar por alto matices del dialecto boliviano.

Equipo 3

1. «Nuestros análisis no encontraron pruebas significativas que sugirieran que el audio se generó utilizando IA o se manipuló».

2. Los niveles de audio en la grabación cambiaban a lo largo del tiempo, un fenómeno común en sistemas de ajuste automático de ganancia. Más relevante aún, el espectro de la señal de audio de Morales mostraba una notable falta de energía en las frecuencias bajas (por debajo de 300 Hz). (NdE: según el reporte, esta característica contrasta con la voz de Capquique, quien es la persona que grabó el video, cuya voz presentaba un rango de frecuencias más completo).

3. Este patrón es coherente con el escenario de una grabación de video de una conversación de WhatsApp, donde el audio del altavoz podría tener una calidad de sonido diferente a la del grabador, debido a las condiciones de captura. Para verificar esta hipótesis, el equipo replicó el escenario, grabando una conversación de WhatsApp y confirmando que se obtenía un patrón de audio similar.

4. «No había otras indicaciones manifiestas de manipulación».

Los tres equipos de expertos compartieron algunos comentarios respecto de las limitaciones que pudieran tener los análisis. Apuntan otras formas de manipulación, como un imitador, una edición de partes de grabaciones genuinas o la alteración de los metadatos del audio, factores que, no obstante, no fueron detectados en su análisis.

En todo caso, sugieren corroborar los datos con otra información. Con ese fin, el equipo de Bolivia Verifica también había adelantado un análisis con herramientas gratuitas de detección de IA —cuya fiabilidad no es del 100%, según los especialistas en este tema—, pero el estudio también arrojó que no hay alteraciones en el audio.

Las herramientas empleadas por nuestra Redacción fueron Hive Moderation y Deepfake-o-meter.

¿Qué es el Grupo de Respuesta Rápida de Witness?

El Grupo de Respuesta Rápida de Deepfakes de WITNESS colabora con Bolivia Verifica para analizar contenido que puede haber sido generado o editado con IA con la finalidad de desinformar y manipular a la opinión pública.

El Grupo de Respuesta Rápida está conformado por personas expertas y empresas que trabajan de manera independiente, pero que se unen de manera voluntaria para crear este ‘Task Force’, o grupo de trabajo.

Qué denunció Capquique y qué se oye en el audio

En conferencia de prensa, Capquique develó el plan del expresidente. «Evo Morales nos ha llamado, bueno, a mí persona particularmente, donde nos ha dado la instrucción clara de levantarnos en sublevación. Y queremos advertir que el señor Evo Morales está dando instrucciones a los dirigentes, en este caso a nosotros y a otros muchos, para convulsionar Bolivia, generar caos, zozobra y muerte en el territorio boliviano», dijo.

Acto seguido, el dirigente hizo escuchar el audio, cuyo contenido es el siguiente:

«Es con todo hermano, es la batalla final, nos ganan o perdemos.

Ahora mira, yo veo que la situación va a empeorar porque al Lucho ya no cree nadies, va a empeorar esto y el segundo, es gobierno maleante, corrupto, familiar e institucionalmente. No van a confiar. A esta semana va a llegar, puede conseguir esa semanita, pero no va a resolver estructuralmente. La salida de Yungas sigue todo eso, hacia Lago, hacia Desaguadero, hacia Aroma, listo. Sobre eso Oruro, Santa Cruz solamente ha bloqueado de caminos. Cochabamba ya está empezando.

No, a ver, en octubre ha sido más de un mes, pero ya se ha dado movilización nacional, punto. No que vamos a esperar, no vamos a esperar nada. Si La Paz no encabeza, esto no va a haber. El pacto venía ya el sábado desde el miércoles cierra. El me ha mandado acá 5% a La Paz no ha llegado por tema de bloqueos, me dijeron. Cochabamba se ha quedado mucha gente, ya tenían que estar en La Paz del Trópico.

Entonces, aquí van a esperar, si el día lunes hay cerco en La Paz, vamos a meter, aquí vamos a quedarnos otra vez como en octubre, en vano un mes y medio, bien cercado Cochabamba.

Se ha sumado Omar Ramírez exdirigente de la confederación, buen compañero es. De acuerdo, nos comunicamos».

En 2019, se filtró otro audio de Morales, quien durante una conversación telefónica grabada por su interlocutor instruía varias acciones para garantizar el cerco y la asfixia a las ciudades capitales. En esa oportunidad, un equipo de peritos de Colombia confirmaron que era real.

Morales lo niega y el Gobierno le inicia un proceso

El exmandatario y su círculo más cercano, entre ellos legisladores y sus abogados, denunciaron que el audio era montado. Así lo prueba su post a través de su cuenta en Facebook, donde dijo que buscan «desprestigiarlo».

Por su parte, el Gobierno, presentó una denuncia formal en contra de Morales. El anuncio fue hecho, en las puertas del Ministerio Público, por el ministro de Justicia, César Siles.

«Hemos presentado una denuncia por los delitos de acción pública, atribuibles, en primera instancia, al señor Evo Morales Ayma, a la señora Suseth Rodrígues y a quienes resulten encubridores de los hechos. Entre los principales delitos se encuentran terrorismo, instigación pública a delinquir, atentados contra la seguridad de los servicios públicos y desobediencia a resoluciones constitucionales», dijo la autoridad.

En defensa de Morales, el abogado Vladimir Ochoa, miembro de su equipo jurídico, afirmó que «en materia de derecho penal, lo que se sanciona es la ejecución. Cualquier anuncio, en la medida que no se ejecute, no es delito». Luego añadió: «No tenemos la fidelidad de que ese audio sea real y aunque así fuese, no se ha ejecutado ningún delito«.

La entrada Peritos internacionales no hallan rastros de IA en el audio de Evo Morales; es real se publicó primero en Bolivia Verifica Elecciones.