¿Qué sabe la inteligencia artificial de ti? Mucho más de lo que crees.

Probablemente sepas que las empresas y los gobiernos recopilan datos sobre ti, como tu nombre y el lugar donde vives. Pero tu perfil digital no se basa solo en los datos que eliges compartir, sino que los algoritmos de aprendizaje automático generan todo tipo de datos adicionales sobre ti. Estos algoritmos analizan cosas como a qué hora del día estás en línea, si eres propenso a errores tipográficos y qué tipo de cosas buscas.

Estos algoritmos utilizan estos datos para tomar decisiones sobre ti y para ti, y lo hacen todos los días, generalemnte sin que nosotros nos demos cuenta. Suele suceder “detrás de la pantalla”, sin molestarnos, de forma fluida y eficaz.

La toma de decisiones algorítmica puede tener más peso de lo que cabría esperar. Si bien los algoritmos hacen cosas inofensivas o útiles como cambiar las señales de tráfico cuando te acercas a una intersección, también deciden qué contenido mostrar en tus redes sociales. También existen algoritmos que ayudan a personas reales a decidir si puedes obtener una hipoteca, ingresar a una universidad en particular o calificar para un seguro.

Pero, en primer lugar, ¿cómo obtienen información sobre ti para tomar esas decisiones?

Toda la información viene de tus datos y de lo que se conoce como tu perfil digital. Obtén más información en el video a continuación con la abogada de derechos humanos y tecnológicos Katarzyna Szymielewicz y la presidenta de nuestra organización asociada, Panoptykon Foundation, o sigue leyendo.

Las tres capas de tu perfil digital

Primera capa

La primera capa es la que controlamos nosotros mismos: es información que con frecuencia damos voluntariamente cuando usamos computadoras, teléfonos o cualquier otra cosa conectada a Internet: tu nombre de usuario, tu nombre real, tus fotos, tus amigos, tus gustos, lo que buscas, a quién has bloqueado de sus contactos. En la mayoría de los casos, puedes optar por no compartir este tipo de datos mediante una combinación de exclusión voluntaria, evitar plataformas que consumen mucha información y eliminar tu historial de actividad, pero hacerlo te requerirá atención y autocontrol constante. Es una tarea bastante difícil si simplemente quieres vivir parte de tu vida en línea con cierto grado de espontaneidad.

La mala noticia es que incluso si logras controlar esta primera capa de tu perfil, hay dos más que se construyen sin que tú lo sepas. Por el mero hecho de estar en línea y hacer cosas en línea, estás compartiendo mucho más de lo que piensas.

Segunda capa

La segunda capa de tu perfil digital incluye rastros de lo que haces en línea: los datos recopilados sobre tus datos o "metadatos". Pueden ser los sitios que visitas, tu ubicación actual e incluso cosas como qué tan rápido escribes (¡y cuántos errores cometes!)

También incluye una marca de cualquier actividad "conectada". Por ejemplo, si tienes un refrigerador inteligente, sabe que mantuviste la puerta abierta durante 3 minutos a las 2 a. m. para ese refrigerio nocturno. Y no lo olvidará.

Es casi imposible evitar que se recopile este tipo de datos sobre ti u optar por no participar en esta observación constante del comportamiento.

Tercera capa

¿Qué más podrían aprender los algoritmos sobre nosotros después de haber observado cada movimiento que hicimos en línea?

Pueden obtener más información al comparar los datos que recopilaron sobre ti de las capas 1 y 2 con los datos que recopilaron de otros y establecer patrones en esa información. Las máquinas hacen suposiciones y predicciones ti basadas en estadísticas. Utilizan todo el "conocimiento" previo recopilado sobre ti, así como las observaciones hechas sobre tus amigos, o personas similares a ti para predecir cosas como tu origen étnico, por quién podrías votar, si podrías estar esperando un bebé, si te encanta el juego, e incluso si sufres de una enfermedad mental.

Esta tercera capa de tu perfil digital, denominada "datos inferidos", es la más valiosa para las empresas que utilizan IA. Según estas suposiciones, deciden cosas como qué anuncios deben mostrarte y si debes obtener un préstamo.

Y es prácticamente imposible que controles o incluso descubras lo que estas máquinas piensan de ti.

¿Hay alguna buena noticia?

La gente está empezando a hacer algo para este problema para poder recuperar el control de su información. Nuestros socios de Panoptykon se están asegurando de que existan salvaguardias legales para protegernos y de que las demandas legales contra empresas hambrientas de datos den lugar a grandes multas. Aquí en Mozilla, estamos reconsiderando cómo se recopilan y utilizan tus datos en The Data Futures Lab, un espacio experimental para instigar nuevos enfoques para la administración de datos que brindan un mayor control y capacidad de decisión a las personas. Es un largo camino, pero vamos en la dirección correcta.