Puedes unirte a la discusión aquí: www.eureka.club/cycle/21
Moderar el contenido en línea se ha convertido en un desafío público, intrínseco a la existencia de los gigantes de las redes sociales. En las palabras del investigador y autor Tarleton Gillespie, “una plataforma no solo sería poco funcional sin la moderación, sino que la moderación es un elemento indispensable para que exista una plataforma.”
Sin embargo, la idea de tener nuestras discusiones, comportamientos e interacciones en línea “moderados” puede llegar a ser inquietante y tiende a ser una actividad subjetiva (la cual depende de la mirada de quien esté moderando). Algunas personas han sido "demasiado moderadas" y han visto su contenido eliminado, entre ellas artistas, mujeres diversas, activistas, ya sea por mostrar (algunos) cuerpos desnudos, pezones o incluso por incurrir en, supuestamente, ‘discurso de odio’ o ‘violencia gráfica’. Otras han deseado una "mejor moderación", como quienes han sido víctimas de violencia digital, quienes se han enfrentado a discursos de odio o "cancelación", o incluso políticxs que ven cómo la desinformación desenfrenada puede influir en los resultados de las elecciones.
A medida que las plataformas han crecido, sus ‘normas comunitarias’ han evolucionado, imponiendo más restricciones pero también enfrentando más escrutinio. Jillian C. York (Silicon Values, 2020), explica que:
"Hemos llegado firmemente a una era [...] en la que los grupos que ya están marginados por la sociedad son aún más victimizados por plataformas que no rinden cuentas, y los que ya son poderosos son libres de difundir información errónea u odio con impunidad".
De hecho, las experiencias digitales a menudo reflejan relaciones de poder tradicionales del mundo físico, que van desde los valores que prevalecen hasta el hecho que los tomadores de decisiones que pertenecen a los subgrupos dominantes de la población. Asimismo, discutir la moderación de contenido desde una perspectiva feminista interseccional, es decir, considerando cómo las diferentes formas de discriminación se superponen en línea, puede ofrecer nuevas perspectivas sobre la construcción de espacios digitales para toda la diversidad de cuerpos e identidades.
Existe una línea tenue entre garantizar espacios seguros y combatir la violencia a través de la moderación de contenido a gran escala, versus incidir en la libertad de expresión y/o silenciar a voces disidentes. Eso plantea cuestiones sustanciales en la intersección de los derechos humanos y la tecnología, y a medida que avanzamos en la era de la "infocracia", son las empresas de redes sociales quiénes pasaron a tomar esas decisiones sobre el discurso (una prerrogativa que solía pertenecer al estado-nación).
Existe una línea tenue entre garantizar espacios seguros y combatir la violencia a través de la moderación de contenido a gran escala, versus incidir en la libertad de expresión y/o silenciar a voces disidentes.
Julie Ricard, Mozilla Fellow
Las plataformas más populares (Facebook, Youtube, WhatsApp, Instagram, Twitter, etc.) fueron creadas en el Norte Global (sobretodo en Estados Unidos) por hombres cisgénero-blancos que se han vuelto las personas más ricas del mundo (Forbes, 2021). Es justo decir que no son una muestra representativa de la población mundial y, aun así, sus valores permean profundamente a las personas en todo el mundo.
Por ello, junto a EQUIS Justicia para las Mujeres, estamos organizando un "ciclo temático" en Eureka para discutir la moderación de contenidos en redes sociales desde una perspectiva feminista e imaginar bajo qué reglas de moderación deberían operar los espacios digitales. Con base en una selección que incluye dos documentales y algunos capítulos de libros, discutiremos preguntas clave como: ¿Qué es la moderación de contenidos y quién la implementa? ¿Cómo la moderación de contenidos reproduce e incluso alimenta la misoginia y la discriminación? Y críticamente: ¿cómo se pueden mejorar las prácticas actuales, considerando tanto la necesidad de erradicar la violencia en línea como de proteger la libertad de expresión?
¿Qué es la moderación de contenidos?
La moderación de contenidos se puede definir como “el proceso de decidir qué permanece en línea y qué se elimina” (¿Quién modera a los gigantes de las redes sociales?, NYU, 2020). Implica la clasificación de todo el contenido producido en las redes sociales en contenido aceptable (comentarios sociales y culturales, fotos de mascotas, comentarios del día a día) versus contenido inaceptable (contenido sexual, contenido violento, contenido ilegal, discursos de odio). Dicho esto, parte del contenido cae en un área gris, como el contenido de salud, los comentarios políticos y la desinformación (Marianne Díaz Hernández, Mozfest, Marzo 2021).
El proceso en sí mismo, no es nuevo. Como dice York (2020), “a lo largo de la historia, varios organismos han impuesto reglas sobre lo que las personas pueden ver o decir”, lo que a menudo se conoce como “censura”. La autora argumenta que "la censura es en sí mismo un término intrínsecamente neutral", pero a menudo se usa para describir sólo "las restricciones que desaprobamos" (como insultar a los líderes de los países) frente a las que aprobamos (como la explotación sexual infantil).
Históricamente, los estados-nación han sido los guardianes del discurso y, a menudo, “cuanto más democrático es un estado, más transparente es respecto a lo que censura” (York, 2020). A nivel internacional, existen lineamientos y acuerdos que tienen como objetivo proteger la libertad de expresión y ayudar a definir lo que no se tolera en ella, como el discurso de odio. Dicho esto, en los últimos 20 años, hemos transicionado hacía un “régimen de información” (Byung-Chul Han, Infocracy, 2022), en el que poseer cantidades de información sin precedentes es clave de poder económico y sociopolítico. Las principales empresas de "tecnología", incluido los gigantes de las redes sociales, crecieron exponencialmente mediante la explotación de "big data". Hoy en día, dominan en gran medida el mercado digital en la mayoría de los países, lo que los ha convertido efectivamente en los nuevos "guardianes del habla" (York, 2020).
Por lo tanto, las preguntas clave con respecto a la “censura” (tomada como un término de valor neutral) incluyen: ¿Quién decide qué censura aprobamos nosotres (como sociedad)? ¿Qué tan transparentes son los procesos para tomar tales decisiones? ¿Qué tan transparentes son las consecuencias de infringir tales reglas?
¿Qué es Eureka?
Estamos viviendo una crisis de democracia liberal y de confianza. Academicxs han demostrado que la "crisis de confianza" está relacionada con la pérdida de una "realidad compartida", incluida la capacidad de ponerse de acuerdo sobre hechos básicos o discutir los desacuerdos civilizadamente. Ethan Zuckerman (Mistrust, 2021), argumenta que:
“Más allá de las preocupaciones sobre las fortalezas y debilidades de nuestro gobierno, el civismo, la confianza y un sentido colectivo de propósito parecen estar ausentes. Una amplia franja de instituciones –la prensa, las corporaciones y las plataformas digitales– nos conectan y nos dividen a la vez, pero ninguna de ellas parece estar a la altura de la tarea de mantenernos unidos”.
Mientras tenemos a nuestra disposición más medios y redes de comunicación que nunca en la historia, la democracia como gobierno por medio de la discusión parece estar retrocediendo.
Eureka es una plataforma sin fines de lucro y sin extracción de datos, que se está desarrollando como parte de Tech and Society Fellowship, con el apoyo de la Fundación Mozilla. Es un espacio en línea que favorece el pensamiento analítico y la deliberación, utilizando contenidos culturales como películas, documentales y libros (de ficción y no ficción). Junto a Organizaciones de la Sociedad Civil, como EQUIS Justicia para las Mujeres, organizamos “ciclos temáticos”: espacios creados para que personas, tanto curiosas como expertas, se sumerjan en un tema de interés, junto a una comunidad.
EQUIS es organización pionera de Eureka: fue la primerísima en realizar un ciclo en la plataforma, y en aportar su expertise para construir nuestra biblioteca, en particular sobre el tema “Género y feminismos”. EQUIS promueve nuevas formas de abordar la violencia de género y la no discriminación y, a través de una metodología de diseño participativo, formó parte de la construcción de Eureka.
¿Te interesa? ¡Aprende más sobre Eureka aquí y únete a nuestra comunidad!