Como llego a prosperar el extremismo en YouTube

youtube

Un sistema creado para atraer la máxima atención del usuario supera con creces todas las expectativas, solo para terminar promoviendo información falsa peligrosa y el discurso de odio en todo el mundo

Es una historia que hemos considerado a menudo en el contexto de Facebook , que ha respondido a las críticas con la promesa de cambiar la naturaleza misma de la empresa . Y es una historia que no hemos discutido lo suficiente en el contexto de YouTube, que ha promovido una red igualmente perturbadora de extremistas y propagandistas extranjeros y ha tendido a intervenir con cautela y con una fuerza abrumadora.

Ciertamente, YouTube ha recibido su parte de críticas desde que comenzó el análisis más amplio sobre las redes sociales en 2016. El CEO de Google, Sundar Pichai, se vio obligado a responder preguntas sobre el gigante del video cuando se presentó ante el Congreso el año pasado. Pero, en general, hemos tenido poca información sobre cómo YouTube toma decisiones de alto nivel sobre temas relacionados con sus recomendaciones algorítmicas y su cultivo inadvertido de una nueva generación de extremistas. ¿Qué dicen los empleados sobre el fenómeno de la "mala viralidad"? La capacidad incomparable de YouTube toma una pieza de información errónea o de incitación al odio y, al utilizar su opaco sistema de recomendaciones, ¿es la audiencia más amplia posible?

En un nuevo informe importante para Bloomberg , Mark Bergen comienza a darnos algunas respuestas. Durante cerca de 4.000 palabras, se describe cómo YouTube perseguido atención de los usuarios con el celo de una sola mente, anuló crítica interna, e incluso desalienta a los empleados de la búsqueda de vídeos que violan sus reglas, por temor a que podría causar a la empresa a perder sus protecciones de salvaguarda bajo La Ley de Decencia en las Comunicaciones. Hasta el 2017, la CEO de YouTube, Susan Wojcicki, presuntamente impulsó una renovación del modelo de negocios de la compañía para pagar a los creadores en función de la atención que atrajeron, a pesar de la creciente evidencia interna de que estas métricas basadas en el compromiso incentivan la producción de videos diseñados para indignar a la gente. Aumentar el riesgo de violencia en el mundo real.

Bergen informa:

En respuesta a las críticas sobre la priorización del crecimiento por sobre la seguridad, Facebook ha propuesto un cambio dramático en su producto principal. YouTube aún tiene dificultades para explicar cualquier nueva visión corporativa al público y a los inversores, y en ocasiones a su propio personal. Cinco empleados de alto nivel que abandonaron YouTube y Google en los últimos dos años citaron en privado la incapacidad de la plataforma para domesticar videos extremos e inquietantes como la razón de su partida. [...]

La inercia de YouTube se iluminó de nuevo después de que un brote mortal de sarampión atrajo la atención pública hacia las conspiraciones de vacunación en las redes sociales hace varias semanas. Los nuevos datos de Moonshot CVE, una firma con sede en Londres que estudia el extremismo, encontraron que menos de veinte canales de YouTube que han difundido estas mentiras alcanzaron a más de 170 millones de espectadores, muchos de los cuales luego recomendaron otros videos cargados con teorías de conspiración.

La historia de Bergen es, en cierto modo, un espejo de la historia de noviembre del New York Times sobre cómo Facebook ignoró por primera vez y luego trató de minimizar las señales de advertencia sobre las consecuencias involuntarias de la plataforma. Ambas piezas ilustran la manera fea en que se han desarrollado nuestras redes sociales: la Fase uno es una guerra total para ganar la atención del usuario y construir un negocio de publicidad; la fase dos es un esfuerzo tardío para limpiar los muchos problemas que vienen con la escala global más rápido de lo que pueden surgir otros nuevos.

Al igual que Facebook, YouTube ha comenzado a abordar algunas de las preocupaciones planteadas por los empleados que se fueron. Lo más importante es que, en enero, la compañía dijo que dejaría de recomendar lo que denomina "contenido límite" : videos que casi no cumplen con las normas de la comunidad, pero que se detienen en breve. El año pasado, también comenzó a agregar enlaces a las entradas relevantes de Wikipedia en algunos engaños comunes, como videos que declaran que la Tierra es plana.

En South by Southwest, antes de anunciar la función de Wikipedia, la CEO de YouTube, Susan Wojcicki, comparó el servicio con una humilde biblioteca, un repositorio neutral para gran parte del conocimiento del mundo. Es una definición que intenta convertir a YouTube en una institución cívica noble y tergiversar su poder. Después de todo, la mayoría de las bibliotecas no envían a los miembros una versión más radical del libro que estaban leyendo tan pronto como terminaron la última.

Un extremista que ha utilizado la plataforma con agilidad durante los últimos años es Tommy Robinson, un activista de extrema derecha que anteriormente dirigió una organización islamofóbica y antiinmigratoria en el Reino Unido. Las publicaciones anti-islamistas de Robinson fueron lo suficientemente nocivas como para que lo expulsaran la semana pasada de Instagram y Twitter . YouTube decidió hoy dejarle mantener su cuenta y sus 390,000 suscriptores, informa Mark DiStefano :

Si bien YouTube no llega a una prohibición total, las restricciones significarán que los nuevos videos de Robinson no tendrán recuentos de visitas, videos sugeridos, me gusta ni comentarios. Habrá una "pizarra intersticial" o negra, que aparece antes de cada video advirtiendo a las personas que podría no ser apropiado para todos los públicos.

A Robinson también se le impedirá transmitir en vivo a su canal.

Estas herramientas pueden recordarle el enfoque de Pinterest para la información errónea contra las vacunas, que escribí en febrero . Robinson obtendrá su libertad de expresión (todavía puede subir videos), pero se le negará lo que Aza Raskin ha llamado "libertad de alcance". Es un enfoque que, en general, estoy a favor. Y, sin embargo, aún me estremezco ante otra revelación del informe de Bergen: una herramienta interna de YouTube creada por un disidente mostró que los creadores de extrema derecha como Robinson se han convertido en un pilar de la comunidad:

Un empleado decidió crear una nueva "vertical" de YouTube, una categoría que la empresa utiliza para agrupar su montaña de secuencias de video. Esta persona reunió videos bajo una vertical imaginada para el "derecho superior", el conjunto político vinculado a Trump. Basándose en el compromiso, la hipotética categoría de derecho-derecho se unió a la música, los deportes y los juegos como los canales más populares en YouTube, un intento de mostrar cuán críticos eran estos videos para el negocio de YouTube.

Y si bien algunas de las iniciativas de YouTube para reducir la propagación del extremismo se encuentran en sus primeras etapas, sigue habiendo una cantidad preocupante en la plataforma. Aquí está Ben Makuch en la placa base hoy :

Pero incluso frente a esos horribles ataques terroristas, YouTube sigue siendo un bastión de la militancia nacionalista blanca. En los últimos días, Motherboard ha visto videos de propaganda nacionalista blanca y neonazi en el sitio web que no han sido detectados por YouTube, se les ha permitido mantenerse al día con la plataforma o se han subido recientemente.

Cuando la placa madre mostró específicamente en YouTube los ejemplos, la compañía nos dijo que desmonetizaba los videos, los colocaba detrás de una advertencia de contenido, eliminaba algunas características como "Me gusta" y comentarios, y los eliminaba de las recomendaciones, pero finalmente decidió dejar los videos en línea. . Los videos permanecen fácilmente accesibles a través de la búsqueda.

El mes pasado, al escribir sobre la diferencia entre los problemas de la plataforma y los problemas de Internet , noté que la respuesta definitiva que estamos buscando es cuán libre debe ser Internet. La apertura de YouTube ha beneficiado a un grupo grande y diverso de creadores, la mayoría de los cuales son inocuos. Pero al leer hoy sobre Cole y Savannah LaBrant, padres famosos de Internet que engañaron a su hija de 6 años para que creyera que estaban regalando a su cachorro y filmaron su reacción, es justo preguntar por qué YouTube tan a menudo lleva a sus creadores a la locura.

El extremismo en todas sus formas no es un problema que YouTube pueda resolver solo. Sin embargo, lo que hace que el informe de Bergen sea tan perturbador es la forma en que YouTube, sin saberlo, promovió a los extremistas hasta que se convirtieron en uno de sus grupos más poderosos. De una manera muy real, el extremismo es un pilar de la plataforma, y ​​desenrollar lo mejor de YouTube de su corazón podrido promete ser tan difícil como cualquier otra cosa que la compañía haya hecho.

Semrush sigue a tu competencia


Fecha actualización el 2019-04-03. Fecha publicación el 2019-04-03. Categoria: youtube Autor: Oscar olg Mapa del sitio Fuente: theverge Version movil