Hoy, hablemos de una pregunta resuelta que Meta ha decidido reabrir: ¿qué debe hacer la compañía ante la desinformación relacionada con el COVID-19?
Desde los primeros días de la pandemia, Meta ha tratado de eliminar las afirmaciones falsas sobre la enfermedad de Facebook e Instagram. Y durante el mismo tiempo, la compañía ha enfrentado críticas de que no ha hecho un muy buen trabajo. Hace un año, este mes, cuando se le preguntó sobre el papel que desempeñaron las “plataformas como Facebook” en la difusión de información errónea sobre la enfermedad, el presidente Biden dijo que “están matando a la gente”, aunque retiró su declaración un día después.
Aún así, Biden expresó un temor que está profundamente arraigado entre los críticos de Meta: que la enorme base de usuarios de la plataforma y las recomendaciones algorítmicas a menudo se combinan para ayudar a que las teorías de conspiración marginales lleguen a grandes audiencias principales, promoviendo la vacilación de las vacunas, la resistencia al uso de máscaras y otros daños a la salud pública.
La pandemia no está cerca de terminar: se estima que 439 personas murieron de COVID en el último día, un aumento del 34 por ciento en las últimas dos semanas. Y las subvariantes Omicron altamente infecciosas continúan desgarrando el país, lo que aumenta los temores de un aumento en los casos de COVID largo, una condición que los expertos dicen que ya ha sido “un evento incapacitante masivo”. Se estima que 1 de cada 13 adultos estadounidenses informó tener síntomas largos de COVID a principios de este mes, según los Centros para el Control y la Prevención de Enfermedades de los Estados Unidos.
A pesar de eso, Meta ahora está considerando si relajar algunas de las restricciones que ha impuesto a la desinformación relacionada con COVID, incluida la de continuar eliminando publicaciones sobre afirmaciones falsas sobre vacunas, máscaras, distanciamiento social y temas relacionados. Ha pedido a la Junta de Supervisión, un grupo independiente financiado por Meta para ayudarlo a hacer llamadas difíciles relacionadas con el habla, una opinión consultiva sobre cómo proceder.
Nick Clegg, presidente de asuntos globales de la compañía, explicó el martes en una publicación de blog:
En muchos países, donde las tasas de vacunación son relativamente altas, la vida está volviendo cada vez más a la normalidad. Pero este no es el caso en todas partes y el curso de la pandemia continuará variando significativamente en todo el mundo, especialmente en países con bajas tasas de vacunación y sistemas de salud menos desarrollados. Es importante que cualquier política que Meta implemente sea apropiada para toda la gama de circunstancias en las que se encuentran los países.
Meta está fundamentalmente comprometida con la libertad de expresión y creemos que nuestras aplicaciones son una forma importante para que las personas hagan oír su voz. Pero cierta desinformación puede conducir a un riesgo inminente de daño físico, y tenemos la responsabilidad de no dejar que este contenido prolifere. Las políticas de nuestras Normas Comunitarias buscan proteger la libertad de expresión al tiempo que previenen este contenido peligroso. Pero resolver las tensiones inherentes entre la libertad de expresión y la seguridad no es fácil, especialmente cuando nos enfrentamos a desafíos sin precedentes y de rápido movimiento, como lo hemos sido en la pandemia. Es por eso que estamos buscando el asesoramiento de la Junta de Supervisión en este caso. Su guía también nos ayudará a responder a futuras emergencias de salud pública.
A pesar de todas las críticas que Meta ha recibido sobre su aplicación de la desinformación sobre la salud, según algunas medidas, los pasos que tomó claramente tuvieron un efecto positivo en la plataforma. La compañía estima que ha eliminado más de 25 millones de publicaciones bajo sus políticas más estrictas, que ahora requieren la eliminación de 80 afirmaciones falsas separadas sobre la enfermedad y sus vacunas.
Al mismo tiempo, podría decirse que la plataforma a veces se ha excedido. En mayo de 2021, escribí sobre la decisión de Meta de revertir una prohibición anterior de discutir la posibilidad de que COVID-19 se filtrara de un laboratorio chino. La compañía tomó esa decisión en medio de un aumento en la violencia de odio contra los asiáticos, temiendo que las teorías de conspiración relacionadas con el origen de la enfermedad pudieran usarse para justificar nuevos ataques.
Pero a medida que se intensificaba el debate sobre el origen del virus, Meta comenzó a permitir que la gente especulara nuevamente. (Hasta la fecha, no ha surgido un consenso sobre el tema). Escribí en ese momento que la compañía probablemente no debería haber tomado una posición sobre el tema en primer lugar, sino que debería haber utilizado sus políticas existentes de discurso de odio para moderar las publicaciones racistas:
En general, estoy a favor de un enfoque intervencionista cuando se trata de teorías de conspiración en las redes sociales: dado el daño causado por los adherentes a QAnon, Boogaloo y otros movimientos extremistas, veo un valor real en las plataformas que reducen su alcance e incluso las eliminan por completo.
Sin embargo, en algunas preguntas, la intervención de la plataforma puede hacer más daño que bien. Prohibir la hipótesis de la filtración de laboratorio le dio la apariencia de conocimiento prohibido, al reconocer la realidad -que es poco probable, pero una pregunta abierta- puede haber sido lo suficientemente aburrida como para evitar que se incendiara en esos pantanos febriles.
La semana pasada, le pregunté a Clegg por qué la compañía había decidido pedirle a la junta una segunda opinión sobre la desinformación sobre la salud ahora. Uno, dijo, Meta asume que habrá futuras pandemias que traerán consigo su propio conjunto de cuestiones de política. La compañía quiere obtener orientación experta ahora para que pueda actuar de manera más cuidadosa la próxima vez. Y dos, dijo, la Junta de Supervisión puede tardar meses en producir una opinión. Meta quería comenzar ese proceso ahora.
Pero más que nada, dijo, la compañía quería un control sobre su poder: que la junta, con la que este mes firmó un nuevo acuerdo operativo de tres años y $ 150 millones, interviniera en lo que han sido algunas políticas bastante estrictas.
“Esta fue una extensión muy dramática de nuestra sanción más exigente”, me dijo Clegg. “No lo hemos hecho a esta escala en un período de tiempo tan corto antes. … Si tienes un poder impresionante, es aún más importante que ejerzas ese poder increíble de manera reflexiva, responsable y transparente. Sería curioso y excéntrico, en mi opinión, no remitir esto a la Junta de Supervisión”.
META Y OTRAS PLATAFORMAS SOCIALES TIENEN UNA PROFUNDA NECESIDAD DE ESTE TIPO DE SISTEMA DE JUSTICIA RUDIMENTARIO.
De hecho, opinar sobre políticas como esta es uno de los dos deberes centrales de la junta. El deber principal es escuchar las apelaciones de los usuarios que creen que sus publicaciones deben restaurarse después de ser eliminadas, o eliminadas después de haber sido dejadas por error. Cuando la junta toma esos casos, sus decisiones son vinculantes, y Meta hasta ahora siempre ha honrado sus hallazgos.
El otro deber clave de la junta es ofrecer opiniones sobre cómo Meta debería cambiar sus políticas. A veces adjunta esas opiniones a decisiones en casos individuales; otras veces, como con las políticas COVID, Meta le pregunta a la junta sobre algo. A diferencia de los casos sobre puestos individuales, las opiniones de la junta aquí no son vinculantes, pero hasta la fecha, Meta ha adoptado aproximadamente dos tercios de los cambios que la junta ha propuesto.
Algunas personas continúan cancelando la pizarra de todos modos. Desde incluso antes de que comenzara a escuchar casos en 2020, la junta ha estado sujeta a quejas fulminantes de críticos que argumentan que sirve como poco más que una función de relaciones públicas para una compañía tan asediada que tuvo que cambiar su nombre el año pasado.
Y, sin embargo, también está claro que Meta y otras plataformas sociales tienen una profunda necesidad del tipo de sistema de justicia rudimentario que una junta como esta puede proporcionar. En su primer año, la junta recibió 1,1 millones de apelaciones de los usuarios de Meta. Antes de que existiera la junta, no tenían ningún recurso cuando Facebook cometía un error más allá de algunos sistemas automatizados limitados. Y cada pregunta difícil sobre el discurso fue hecha en última instancia por una persona, Mark Zuckerberg, sin espacio para apelar.
Me parece obvio que un sistema en el que estos casos son escuchados por un panel de expertos, en lugar de un CEO solitario, es superior, incluso si todavía deja mucho que desear.
Entonces, ¿qué pasa ahora?
Una posibilidad es que los equipos de políticas de Meta quieran relajar las restricciones al habla relacionadas con la política COVID, pero quieren la cobertura que una decisión de la Junta de Supervisión les daría. Tienen razones para creer que la junta podría llegar a esa conclusión: estaba repleta de defensores de la libertad de expresión, y generalmente cuando han fallado en contra de Meta, ha sido en nombre de la restauración de puestos que la junta cree que fueron eliminados injustamente.
“DEBERÍAS PONER EL LISTÓN MUY ALTO”.
Dicho esto, es probable que la compañía también se enfrente a un roce de políticos y periodistas de izquierda, junto con un cierto número de usuarios, si la junta les da el visto bueno para relajar sus políticas y la compañía lo hace. Clegg me dijo que, si eso sucediera, Facebook e Instagram usarían otras medidas para reducir la propagación de información errónea, agregando verificaciones de hechos, por ejemplo, o reduciendo la distribución de publicaciones falsas en los feeds. Pero la mera existencia de contenido anti-vaxx en Meta dará lugar a nuevas críticas, y posiblemente a nuevos daños.
Otra posibilidad es que la junta no muerda el anzuelo. Los Miembros podrían argumentar que la eliminación de la desinformación sobre la salud, si bien es un paso drástico, sigue siendo necesario, al menos por ahora. La junta sigue siendo relativamente nueva, y en su mayoría desconocida para el público en general, y me pregunto qué apetito tienen los miembros para defender el derecho de las personas a difundir mentiras sobre las vacunas.
Independientemente de lo que decida la junta, dijo Clegg, Meta se moverá con cautela con cualquier cambio. Al mismo tiempo, dijo, la compañía quiere ser juiciosa en la forma en que elimina las publicaciones de los usuarios.
“Creo que debería implementar la sanción de remoción con mucho cuidado”, dijo. “Deberías poner el listón muy alto. No quieres que las empresas del sector privado eliminen cosas a menos que realmente estén demostrablemente relacionadas con un daño inminente en el mundo real”.
