«Videos que muestren actos de tortura infligidos a una o más personas». Sobre las Normas Comunitarias de Facebook

Es bien sabido que las Normas Comunitarias son necesarias en internet. Existen y son aceptadas (no queda otra) pero rara vez son leídas y repasadas realmente. Cuando se analizan detenidamente las Normas Comunitarias de una empresa tan importante y poderosa en internet como lo es Facebook y se lee detenidamente aquello que consideran «Contenido Inaceptable», se aprende mucho de cómo somos, de cómo es realmente internet, de lo que realmente implica el tráfico de información en la red y de los límites de la libertad de expresión y de la sensibilidad moral aceptable. 

Una buena forma de adentrarnos en el tema es consultar el artículo publicado por Adrian Chen [1] en el que analiza la tolerancia de Facebook ante contenidos sensibles de diferente índole como sexo, drogas, violencia, crueldad, lenguaje que incita al odio, etc. Los resultados son verdaderamente asombrosos (por mucho que estemos acostumbrados, desgraciadamente, a ellos): una fotografía de una madre amamantando a su hija, un pezón femenino o una persona inconsciente/borracha/dormida con «cosas» dibujadas por toda la cara son considerados contenidos inapropiados por su carácter sexual; las fotografías de drogas están completamente prohibidas a no ser que se trate de marihuana o de cualquier otra droga presentada en un contexto académico, científico o médico; sin embargo, con respecto al contenido violento o explícito, cuerpos ensangrentados, heridas profundas y demás están permitidos siempre y cuando no se muestren los órganos internos en exceso —claro, mejor quedarse en la superficie y no profundizar en lo pornográfico, que sólo puedan acusarnos de erotismo o, como mucho, de porno light—. 

En la página principal de las Normas Comunitarias de Facebook aclaran: «Nuestras Normas Comunitarias siempre apuntaron a crear un espacio donde las personas se expresen y den a conocer su opinión, y esta máxima no cambiará» [2]. Es de agradecer el énfasis que Facebook hace en la libertad de expresión, pero resulta confusa la forma en la que catalogan una imagen como sexualmente inapropiada, mientras que también sorprende la asombrosa tolerancia que mantienen con la violencia gráfica. Dentro del apartado «Contenido Inaceptable», en el sub-apartado de «Violencia y Contenido Gráfico» [3] se establecen tres categorizaciones: aquello que no se puede publicar, lo que se publica como contenido para mayores de 18 años y lo que se publica con una etiqueta que advierte del contenido explícito. En la primera categoría advierten que no se pueden publicar fotos y vídeos de personas muriendo, heridas o fallecidas con contenido de desmembramiento, cuerpos carbonizados, degollaciones o cuerpos con los órganos internos visibles (siempre y cuando no sea contenido médico o científico). Sin embargo, la confusión aparece cuando en el contenido que sí se puede publicar para mayores de 18 años incluyen fotos de personas heridas o fallecidas que muestren desmembramiento, órganos internos visibles o cuerpos en descomposición, personas carbonizadas o quemándose, víctimas de canibalismo y degollación. También pueden publicarse bajo esta categoría vídeos que muestren la muerte violenta de una o más personas por un accidente o asesinato, imágenes fijas que muestren la muerte violenta de una o más personas, vídeos que muestren actos de tortura infligidos a una o más personas, fotos y vídeos que muestren cómo se introducen cuerpos extraños no-médicos (como objetos metálicos, cuchillos o clavos) de forma involuntaria en personas o animales causándoles lesiones graves, y un largo y desagradable etcétera. ¿Cuál es el problema? Que no se está teniendo en cuenta el gran dilema moral que este tipo de contenidos permitidos implican: es cierto que, con su política de contenidos, Facebook promueve la libertad de expresión —expresión violenta, por supuesto, la sexual queda terminantemente prohibida— pero también contribuye al consumo de este tipo de contenidos, ayuda a generar una red de intercambio de violencia estetizada. Facebook advierte: «Eliminamos el contenido que enaltece la violencia o celebra el sufrimiento o la humillación de otras personas, ya que puede crear un entorno que disuada la participación. Permitimos el contenido gráfico (con algunas restricciones) para ayudar a las personas a generar conciencia sobre algunos temas». La cuestión es que Facebook tiene muy claro cuál es su cometido como empresa, el propósito por el cual se publican este tipo de contenidos, pero parece dar por sentado (u olvidar, directamente) el propósito con el que el público va a consumirlos, lo cual es otro asunto muy diferente. 

Fotogramas del vídeo en el que Katelyn Nicole Davis (de 12 años) se suicida en directo a través de Facebook el 30 de diciembre de 2016

Estas dinámicas acaban logrando que las redes sociales se conviertan en espacios abiertos donde poder compartir y exponer material extremo, pero sin la consciencia o autorreflexión que ofrecen algunos shock sites [4]. La presencia y difusión de este tipo de material en la web 2.0 —principalmente en las redes sociales— lleva varios años levantando serios debates que se avivaron con los ataques del 11-S: para muchos es algo necesario para «que podamos apreciar la horrible gravedad de lo que está sucediendo» [5] mientras que para otros es un «uso sensacionalista» de imágenes extremas que «trata de aprovecharse lucrativamente de su efecto de atracción, de la curiosidad morbosa que muchos sienten por este tipo de documentos visuales» [6]. El principal problema reside en que nunca se llega a ningún consenso, demostrando que «los límites entre informar de lo ocurrido y colaborar en la pretensión terrorista de propagar el terror no son, en efecto, nada nítidos» [7]. De hecho, posiblemente la respuesta no se encuentre en ninguno de ambos extremos. Podría aclararse, como bien señala Byung-Chul Han, que la visualización de este tipo de contenido violento hace que uno sea «víctima y verdugo al mismo tiempo» [8]. En este caso «la víctima también es cómplice del sistema» [9] ya que, al difundir y consumir este tipo de contenidos, denunciamos la violencia tanto como la compartimos. Cuando un suicidio tiene lugar en directo a través de Facebook [10], ¿acaso no es el espectador un verdugo a través de su mirada? ¿Es Facebook culpable por no controlar el contenido de su material en streaming? ¿Es para Facebook esto una manifestación de «libertad de expresión«? Esta opacidad de los límites desemboca en la problemática fundamental a la hora de perseguir y eliminar esta clase de contenido: que no se sabe exactamente qué es lo que se está persiguiendo y eliminando. Georges Didi-Huberman nos advierte de que «para criticar la violencia, uno tiene que describirla (lo que implica que tiene que ser capaz de mirar)» [11]. El caso es que los algoritmos persiguen y Facebook muestra algo que no son capaces siquiera de «describir», un enemigo que nunca han sido capaces de «mirar» fijamente a los ojos: «No está muy claro contra quién se ofrece esta resistencia» [12], sólo han sabido afrontarlo de forma superficial y caer en el «gran error» que «es pensar que sólo se mira con los ojos» [13]. Una cosa está clara: ya sea como víctimas o verdugos, es inevitable reconocer la sentencia de Nick Land y admitir que, mediante estas dinámicas, «el ciberespacio se torna una superlativa cámara de tortura» [14]. 

***

(Este texto consiste en una adaptación del capítulo homónimo presente en mi investigación para el Trabajo Fin de Grado titulado Estéticas spam. Imagen violenta en internet y terrorismo creativo, desarrollado dentro del Departamento de Filosofía I. Área de Estética y Teoría de las Artes, Universidad de Granada)

1. Adrian Chen, «Inside Facebook's Outsourced Anti-Porn and Gore Brigade, Where 'Camel Toes' are More Offensive Than 'Crushed Heads'», Gawker, https://gawker.com/5885714/inside-facebooks-outsourced-anti-porn-and-gore-brigade-where-camel-toes-are-more-offensive-than-crushed-heads
2. Facebook, «Normas Comunitarias», Facebook, https://www.facebook.com/communitystandards/
3. Facebook, «13. Contenido violento y gráfico», Facebook, https://www.facebook.com/communitystandards/graphic_violence
4. Los shock sites son sitios web de contenido violento que empezaron a popularizarse a principios del nuevo milenio con el desarrollo de la web 2.0. Aparecieron páginas webs, blogs, espacios virtuales dedicados a albergar contenidos extremos de un alto grado de violencia, escatología y pornografía en un diverso abanico de formatos: galerías de fotos, vídeos, sites de descargas para intercambio de material, etc. Mucho de este material era tomado directamente de la dark web y puesto a disposición del usuario medio en navegadores accesibles y extendidos en un intento por democratizar la violencia cibernética y defender el libre tráfico de información.
5. Juan Martín Prada, El ver y las imágenes en el tiempo de Internet (Madrid: Akal, 2018), 170.
6. Ibídem, 171.
7. Ibídem, 172. 
8. Byung-Chul Han, Topología de la violencia (Barcelona: Herder, 2016), 90.
9. Ídem.
10. Para investigar sobre los suicidios en streaming emitidos en Facebook consultar María Isabel Echeverría Jaramillo, «Modernidad líquida: La Deshumanización en la esfera de las redes sociales a partir de los suicidios transmitidos en vivo por Facebook». Pontífica Universidad Católica del Ecuador, Quito, 2019. 
11. Georges Didi-Huberman, «Prólogo», en Desconfiar de las imágenes, ed. Inge Stache (Buenos Aires: Caja Negra Editora, 2015), 34. 
12. Byung-Chul Han, Topología de la violencia (Barcelona: Herder, 2016), 132. 
13. Saioa Camarzana, «Georges Didi-Huberman: "Toda imagen es una manipulación"», El Cultural, https://elcultural.com/Georges-Didi-Huberman-Toda-imagen-es-una-manipulacion
14. Nick Land, Fanged Noumena (Barcelona: Holobionte Ediciones, 2019), 83. 

Comentarios

  1. Lucky Club Casino Site Review, Bonuses & Promotions - Lucky Club
    Lucky Club Casino Site Review. Lucky Club Casino is a trusted online casino. All the info you luckyclub.live need is detailed. In this Lucky Club Casino review, we cover everything you need to know

    ResponderEliminar

Publicar un comentario

Entradas populares de este blog

Torso (atlas)

Restos de Warhol

Recortes humeantes: «Tangled up in play» en F2 Galería