Asumimos que el contenido personalizado que vemos es, en gran medida, el resultado de los gustos e intereses que expresamos durante nuestras búsquedas y mientras realizamos cualquier otra actividad en línea. Pero la realidad es que, además de las preferencias de los usuarios, los algoritmos de los sitios web también contribuyen a dar forma a la llamada “burbuja de filtro”, que proporciona contenido personalizado a cada usuario. “Lo que queremos hacer en este proyecto es entender mejor cómo funcionan esos algoritmos y qué tipos de burbuja crean. Para ello vamos a empezar trabajando con los anuncios en línea, para estudiar otros servicios en un futuro”, explica uno de los investigadores, Antonio Fernández Anta, del Global Computing Group del instituto madrileño IMDEA Networks (España).
La publicidad en línea es una piedra angular del modelo de negocio de Internet. Mantiene una vasta gama de servicios ampliamente utilizados, como los motores de búsqueda, las redes sociales y los servicios de mapas. Se espera que, solamente en Estados Unidos, la publicidad genere este año 83.000 millones de dólares de ingresos a proveedores de servicios en línea. “El proyecto MyBubble aspira a proporcionar una mayor transparencia sobre cómo las compañías que operan en la red generan perfiles de los usuarios y luego deciden qué deberían ver éstos”, afirma otro de los investigadores, Rubén Cuevas, del departamento de Ingeniería Telemática de la UC3M. “En general -añade- los algoritmos utilizados hoy en día por diferentes servicios online funcionan sin ningún tipo de control y la industria carece de incentivos claros para desarrollar soluciones de auditoría efectiva, por lo que resulta necesario que estas soluciones surjan por parte de diferentes agentes sociales”.
“Queremos comprobar si dichos algoritmos de personalización de publicidad crean ciertos filtros que fomentan o incluyen sesgos (edad, ingresos, sexo, salud) que puedan estar creando burbujas que fomentan la desigualdad”, apunta otro de los investigadores del proyecto, Esteban Moro, que es profesor del departamento de Matemáticas de la UC3M y profesor visitante del MIT Media Lab de Cambridge (EEUU). Esta cuestión es especialmente importante porque el 25 de mayo de 2018 entra en vigor el nuevo Reglamento General de Protección de Datos (GDPR) adoptado por la Unión Europea, cuyos principales objetivos son devolver a los ciudadanos el control sobre su información personal y unificar el marco regulador para las multinacionales. “De alguna manera, creamos un laboratorio de experimentación social, no para comprender a los individuos, sino para comprender los algoritmos”, comenta Esteban Moro.
Para ello, en los experimentos previstos en el marco de MyBubble, los investigadores crearán una gran cantidad de perfiles personales ficticios o “personas” con intereses y gustos específicos. Estos bots programados como estas “personas” emularán a los usuarios humanos, visitando sitios web cuidadosamente seleccionados. Esos sitios web etiquetarán a los bots como poseedores de rasgos específicos de conducta previstos. Posteriormente, se analizará la publicidad mostrada a estas personas para modelar las respuestas de los algoritmos de los sitios web. “Se espera que esto revele sesgos dentro de los algoritmos, el nivel de personalización asociado a cada persona y, también, si los algoritmos tienen alguna resistencia incorporada a las personas que modifican su comportamiento”, comenta Manuel Cebrián, del Scalable Cooperation Group del MIT Media Lab.
El efecto de “burbuja de filtro” que generan algunas plataformas es un fenómeno que interesa especialmente a los investigadores, como denota el nombre con el que han designado al proyecto. El proceso parece ser el siguiente, según Manuel Cebrián: “Surge una nueva plataforma de Internet con la promesa de ayudarte a ver el mundo real a través de ella. Después, la plataforma te ayuda a ver el mundo, pero solo a través de cómo tú y tus amigos lo ven. A continuación, el sistema se va restringiendo y solo te ayuda a ver a tus amigos usando el sistema. Finalmente, la plataforma te ayuda a ver cómo te ven los amigos… las burbujas de filtro crean un misterio impenetrable: la tecnología que finalmente conectó a la humanidad ha hecho que la realidad sea completamente irrelevante”.
Al igual que cualquier otro foro para las transacciones y la actividad humana, Internet debería proporcionar un espacio relevante, transparente y seguro para que las empresas y las personas interactúen. La viabilidad continuada y a largo plazo de Internet depende de nuestra confianza en la red de redes. Esa confianza se generará en base a nuestra profunda comprensión de su funcionamiento. Al modelar y analizar el efecto de los algoritmos en nuestras interacciones en la red, los participantes del proyecto MyBubble esperan arrojar luz sobre la influencia de un factor poco entendido pero importante a la hora de decidir qué vemos y cómo gastamos nuestro dinero en Internet.
MyBubble es uno de los proyectos seleccionados en la última convocatoria del MIT-SPAIN ”la Caixa” Foundation SEED FUND, que proporciona apoyo a proyectos de investigación desarrollados conjuntamente entre universidades y centros de investigación españoles y grupos de investigación del MIT. (Fuente: UC3M)
