CNET también está disponible en español.

Ir a español

Don't show this again

Ciencia

Resulta que los ratones son una adorable arma contra el 'deepfake'

Uno de los usos más aterradores de la inteligencia artificial es ser decodificado por pequeños mamíferos con una pequeña cola.

fullhouse1

Nick Offerman representa una niña bastante rarita en este video 'deepfake' del popular programa de TV 'Full House'.

Captura de pantalla: Bonnie Burton/CNET

Décadas después de que Skynet de Terminator nos enseñara por primera vez a tenerle miedo al potencial apocalíptico de la inteligencia artificial (IA), el fenómeno conocido como deepfake (o falsificaciones profundas) representa una amenaza muy real. Y ahora, algunos investigadores están utilizando una herramienta sorprendente y —definitivamente analógica— para detectar audio manipulado por IA: ratones. Sí, ratones.

Si bien la falsificación de audio y video ha existido de alguna forma durante décadas, el aprendizaje automático recientemente ha hecho que sea mucho más fácil producir discursos falsos que realmente cruzan ese valle misterioso hacia el reino de la credibilidad.

La tecnología detrás del llamado deepfake no muestra signos de desaceleración, por lo que los investigadores están buscando herramientas para detectar cosas falsas, incluidas personas y... sí, hasta ratoncitos.

"Creemos que los ratones son un modelo prometedor para estudiar el procesamiento de sonido complejo", se lee en un estudio de unos investigadores liderados por Jonathan Saunders del Instituto de Neurociencia de la Universidad de Oregon. "Estudiar los mecanismos computacionales por los cuales el sistema auditivo de mamíferos detecta audio falso podría informar a algoritmos de próxima generación para la detección de falsificaciones".

En otras palabras, los ratones tienen un sistema auditivo similar al de los humanos, excepto que no pueden entender las palabras que escuchan. Sin embargo, esta falta de comprensión en realidad podría ser una ventaja para detectar el habla falsa, ya que los ratones no pueden distraerse para pasar por alto los signos reveladores de algo falso mientras se concentran en descifrar el significado real de las palabras.

Por ejemplo, un archivo de audio falso puede incluir un error sutil, como el sonido de "b" donde debería estar una "g". Digamos que un discurso falso de una celebridad pidiendo una "hamburbesa", por ejemplo. Los humanos tienden a pasar por alto esta alerta de falsificación, porque estamos entrenados para extraer el significado de las frases que escuchamos mientras que ajustamos pifias verbales, acentos y otras inconsistencias.

El equipo ha logrado entrenar ratones para distinguir entre los sonidos de ciertos pares de consonantes, lo que podría ser útil para detectar el habla falsa. La investigación fue presentada en una sesión en la conferencia Black Hat en Las Vegas a principios de agosto.

Los ratones detectaron correctamente los sonidos del habla a tasas de hasta 80 por ciento. En realidad, eso es más bajo que la tasa de 90 por ciento a la que los investigadores descubrieron que los humanos podían identificar falsificaciones profundas o deepfakes.

La idea no es, sin embargo, entrenar a un ejército de roedores para identificar deepfakes. En cambio, los científicos esperan monitorizar la actividad cerebral de los ratones a medida que disciernen entre falsificaciones y discurso auténtico para aprender cómo lo hace el cerebro. Entonces, el objetivo es entrenar nuevos algoritmos de detección con los secretos obtenidos a partir de los pequeños roedores.