Esta nueva herramienta hace facil detectar un deepfake

herramientas

Si bien los algoritmos están cambiando el mundo para mejor, finalmente los malos actores también se están aprovechando para sus propios beneficios, y un ejemplo reciente de tal caso ha sido el de generar caras falsas que pueden hacernos creer como si las imágenes fueran reales.

Pero finalmente, ahora hay una forma de identificar si la persona en la imagen es real o no, todo gracias a una herramienta en línea creada por investigadores de una empresa de inteligencia de amenazas visuales con sede en Ámsterdam, Sensity.

La herramienta ha sido diseñada de tal manera que sus algoritmos detectan si alguien ha creado la imagen con intención de manipulación tomando la ayuda de las redes adversas generales (GAN). Para aquellos de ustedes que no lo saben, las GAN son el verdadero negocio cuando se trata de crear varios deepfakes que gradualmente han comenzado a dominar Internet.

La detección de falsificaciones también se lleva a cabo con la combinación de más técnicas forenses visuales y de aprendizaje profundo, según lo dicho por Giorgio Patrini, director ejecutivo y cofundador de Sensity. Según él, los ingenieros primero entrenan los detectores deepfake alimentando cientos y miles de videos deepfake e imágenes generadas por GAN tomadas de Internet, y para una mayor investigación y desarrollo, los ingenieros también han elaborado los materiales de capacitación por su cuenta para entrenar los algoritmos. de manera que sean capaces de luchar contra desafíos más formidables.

A partir de ahora, Patrini tiene la esperanza de que la herramienta pueda detectar fácilmente cualquier rostro falso. Sin embargo, para avanzar más, su equipo actualmente también está trabajando para identificar un objeto falso en imágenes de videos.

El equipo de ingenieros probó exhaustivamente la herramienta insertando fotos creadas por IA de diferentes tipos de generadores de caras falsas. Afortunadamente, la herramienta de detección reconoció las caras falsas con un 99,9% de resultados.

Por otro lado, el resultado de los intercambios de caras no resultó ser tan sencillo. Por ejemplo, el equipo probó la herramienta para un extracto de un programa de YouTube, "Sassy Justice", en el que los creadores de South Park convirtieron a Mark Zuckerberg en un vendedor con intercambio de caras. En los resultados, si bien la herramienta pudo reconocer que el rostro no está generado por GAN, el nivel de confianza resultó ser del 64,7%.

Patrini piensa que si hay claros signos de manipulación o artefactos visuales de un generador deepfake, el nivel de confianza puede subir hasta el 90%.

En caso de poca confianza, el equipo aún ha encontrado señales de manipulación, pero esas no son suficientes para clasificar si el objeto debe contarse como deepfake o ahora. Por lo tanto, con más observación e I + D, Patrini apunta a una mayor precisión y confianza en los tiempos venideros.

Sensity primero tenía usuarios técnicos que integraban la herramienta para su propia tecnología, pero como los deepfakes se están convirtiendo rápidamente en un problema global, ahora también hay más necesidad de un detector de deepfake para las aplicaciones diarias.

Ya vimos el caso durante el pasado mes de julio en el que Reuters descubrió a un periodista falso llamado Oliver Taylor, que se escondía detrás de un rostro creado por IA y logró usar la persona para arremeter contra los activistas. Al final, tuvo éxito en su misión ya que recibió suficiente atención de los canales de noticias israelíes.

Hubo otra historia similar reportada por The Financial Times que incluía rostros generados por GAN por Rusia para la campaña relacionada con China impulsando puntos pro-Ser.

Más recientemente, en agosto de 2019, UCL también publicó un informe que menciona que los deepfakes pronto se convertirán en el crimen creado por IA más peligroso hasta la fecha. El alcance solo aumentará desde la vergüenza y el falso porno de venganza hasta la falsificación de contenido de audio y video también.

Gracias por visitar este sitio, espero que te haya gustado y vuelvas proximamente, compartela en las redes sociales, gracias

Compartir en Facebook Compartir en twitter

Semrush sigue a tu competencia

Fecha actualización el 2021-02-09. Fecha publicación el 2021-02-09. Categoría: herramientas Autor: Oscar olg Mapa del sitio Fuente: digitalinformationworld