¿Qué es Contrariedades en YouTube?
Contrariedades en YouTube es una campaña de concientización pública de convocatoria abierta que dirige Mozilla, una organización sin fines de lucro. Mozilla recopiló historias de usuarios de YouTube sobre cómo el motor de recomendaciones de esta plataforma los condujo por rumbos extraños y a veces peligrosos. Este trabajo se derivó de nuestra propia investigación sobre historias de inteligencia artificial confiable; historias en el New York Times y otras publicaciones y de lo que ingenieros de YouTube han hablado al respecto.
¿Qué significa contenido "extraño y peligroso"?
Nuestra campaña es un intento por averiguarlo. No especificamos de qué debían tratar las historias, así que las personas enviaron información sobre contenidos que ellos clasificaron como extraños y peligrosos.
¿Por qué le preocupa esto a Mozilla?
Contrariedades en YouTube forma parte del gran interés de Mozilla para garantizar que en un mundo de inteligencia artificial, la tecnología de consumo ayude, en vez de que dañe, a la humanidad. Creemos que la inteligencia artificial debe diseñarse teniendo en cuenta la voluntad individual y que las empresas deben rendir cuentas cuando su inteligencia artificial daña a las personas. Puedes enterarte de más acerca de nuestra campaña para que YouTube rinda cuentas aquí y sobre el trabajo de inteligencia artificial confiable de Mozilla aquí.
¿Debe eliminarse este contenido?
No pedimos que se prohiba o elimine contenido en específico. Más bien, nuestra campaña se concentra en el "alcance", es decir, queremos llamar atención respecto a la manera como la inteligencia artificial, en la forma de generadores de recomendaciones, pueden difundir cierto tipo de contenido más que otro. Creemos que debería haber más transparencia en los métodos que YouTube emplea para decidir qué recomienda. Depende de YouTube decidir el tipo de contenido que su sitio fomenta y recomienda y debe incorporar la responsabilidad social a su motor de recomendaciones de la misma manera que lo optimizaron para lograr involucrar a los usuarios.
¿Cómo se recopilaron estas historias?
Lanzamos una convocatoria abierta para que nos hicieran llegar estas historias durante un período de dos semanas, a partir del 10 de septiembre. Enviamos un mensaje de correo electrónico a la lista mundial de suscriptores de nuestro boletín, en el que les pedimos enviarnos historias, y también las solicitamos por Twitter. Recibimos cientos de historias en cinco idiomas. No verificamos (ni era posible hacerlo) su autenticidad, así que usamos nuestro buen juicio para decidir cuáles incluir en esta muestra.
¿Qué esperamos lograr con esta campaña?
A principios de agosto, enviamos una carta a YouTube en la que manifestamos nuestra preocupación por su motor de recomendaciones de contenido y proporcionamos una lista concreta de lo que la empresa tenía que hacer para mejorar. Nos reunimos con representantes de Google y YouTube el 20 de septiembre para discutir las peticiones expresadas en la carta y les pedimos lo siguiente:
- ¿Pueden trabajar con investigadores independientes para verificar la afirmación de que los cambios que han hecho al algoritmo de recomendaciones redujeron en un 50% el contenido "extralimitado" que se recomienda a los usuarios en Estados Unidos?
- ¿Pueden comprometerse a trabajar continuamente con estos investigadores y poner a su disposición los datos para que puedan analizar la escala de este problema y la eficacia de las soluciones que han puesto en marcha?
Puedes leer más acerca de nuestras peticiones y las respuestas de YouTube aquí. Usamos Contrariedades en YouTube para seguir concientizando acerca de los perjuicios del motor de recomendaciones de contenido de YouTube y, en los próximos meses, seguiremos presionando a la empresa para que tome medidas de inmediato para responder a las peticiones que les hemos hecho.