El efecto Westworld: sobre nuestros datos en Mercado Libre

Por Pablo Gordon Daluz

PDF

 

Westworld es una de esas obras que todo fanático o fanática de la ciencia ficción ama u odia, pero de ningún modo puede ignorar. Quien escribe estas líneas —autopercibido fan— se encuentra entre los primeros. La serie está basada en una película de 1973 del mismo nombre y narra las vicisitudes de una población de robots con forma humana que ¿viven? como anfitriones en un parque temático para adultos ambientado en el lejano oeste. El atractivo del lugar reside en que brinda la posibilidad, a quienes pueden acceder a él, de experimentar aventuras “liberadoras”, es decir, pasar una temporada en un ámbito sin condicionamientos morales. Los robots son considerados objetos y, como tales, se los puede matar o amar, indistintamente; el gusto y las inclinaciones del cliente siempre prevalecen.

 

Huelga decir que la serie moviliza hondos asuntos filosófico (entre ellos el sentido de la vida, la naturaleza humana, el libre albedrío, el lugar de la consciencia) y se inscribe en la estela de los textos más aclamados de la ciencia-ficción (tales como los relatos de Yo, Robot, de Isaac Asimov y la novela ¿Sueñan los androides con ovejas eléctricas?, de Philip K. Dick, cuya adaptación al cine dio como resultado la genial Blade Runner). No me voy a detener aquí en estos asuntos, simplemente me interesa señalar que en Westworld surge un elemento nuevo: los datos. La trama oculta del parque, aquello que los clientes no saben, es que las aventuras guionadas por sus dueños y diseñadores, integrantes de una corporación llamada Delos, les permiten extraer información, monitorear y registrar las actividades, conductas y preferencias de sus visitantes y producir datos con los que construir perfiles personales muy precisos.

 

En la tercera temporada, la trama central de la serie se traslada del parque al mundo “real” y los enigmas filosóficos se desplazan hacia esta última temática. Nos enteramos, entonces, que los datos tienen un rol fundamental en el “nuevo mundo”, porque alimentan a Rehoboam: una poderosa inteligencia artificial que, gracias al procesamiento de grandes cantidades de información, asigna tareas y trabajos temporarios entre sus habitantes, dirige vehículos automatizados y traza rutas de desplazamiento, predice múltiples futuros posibles y elabora estrategias para dirigir a la comunidad en la dirección que considera conveniente. El “nuevo mundo” es un mundo de gobernanza algorítmica corporativa.

***

 

Mercado Libre, con el fin de poder brindarte sus servicios, trata, recolecta y en algunos casos da a conocer información sobre las personas que, como vos, son usuarios y visitantes de los sitios web y/o aplicaciones móviles, conforme se detalla aquí (las «Plataformas» y los «Servicios», respectivamente). Esta Declaración de Privacidad y Confidencialidad de la Información de Mercado Libre (la «Declaración de Privacidad») describe la información que Mercado Libre recolecta y trata sobre vos y lo que puede hacer con ella.

 

El párrafo anterior es uno de los primeros que aparece en la “Declaración de privacidad y confidencialidad de la información de Mercado Libre” (en adelante, ML).[1] Hacer un paralelismo llano entre ficción y realidad para sumergirse en cierto conspiracionismo es una reacción primaria que deberíamos resistir, pero sí me parece válido tirar de este hilo para preguntarnos al menos tres cosas muy concretas: ¿qué sabe ML de nosotros? ¿Cómo es que lo sabe? ¿Para qué lo sabe? La lectura del documento mencionado nos permite aproximarnos al funcionamiento de su proceso de datificación —es decir, al dispositivo por medio del cual ML produce, recolecta, almacena, analiza y gestiona grandes cantidades de datos de personas y empresas—[2] para esbozar algunas respuestas.

 

 

El circuito de nuestros datos

De modo simplificado, en esta plataforma nuestros datos recorren un circuito en el que pueden distinguirse, al menos, tres momentos: la recolección (o extracción) y almacenamiento; el procesamiento y análisis; y la gestión o uso. Estas tres instancias conforman un proceso circular e indivisible que se retroalimenta de manera constante.

 

Gráfico #1. Proceso de datificación en Mercado Libre

 

Para recolectar datos, la empresa recurre a tres fuentes de información: 1) el registro, proporcionado por las mismas personas o empresas cuando generan un usuario; 2) la actividad virtual, es decir las huellas digitales que se generan al navegar en cualquiera de sus plataformas; y 3) las fuentes complementarias, esto es, bases de datos solicitadas a otros organismos públicos y privados.

 

En el primer caso, se trata de datos de identificación personal, individual. Se trata de un requisito excluyente para el uso de la plataforma e incluye diferentes formatos que van desde lo consignado por escrito (nombre, domicilio, teléfono, mail, documento, cuentas bancarias, números de tarjetas), hasta la foto de la persona y su huella digital.

 

La segunda vertiente es, tal vez, la más característica. Gracias al uso de técnicas computacionales y tecnologías de rastreo, el sólo hecho de visitar la página de ML, sea que alguien se registre como usuario o no, da inicio a un proceso automatizado de seguimiento de nuestra actividad virtual. Dicho de manera muy simple, cada vez que un dispositivo electrónico se conecta con otro, su interacción involucra un flujo de información que puede ser guardada y procesada. Así, la empresa identifica una serie de huellas o pistas dejadas por nuestros celulares o computadoras, entre los que se encuentran las configuraciones y parámetros de nuestros sistemas operativos; los movimientos dentro de las plataformas de ML (compras, pagos, devoluciones, preguntas, etc.); las páginas visitadas, las interacciones con éstas, las búsquedas realizadas y el lugar desde donde se realizaron dichas conexiones (geolocalización); así como la lista de contactos de los dispositivos móviles utilizados.

 

Vale la pena detenerse por un momento en este punto. Cuando se habla de seguimiento o recopilación automatizada, no significa que se trata de un procedimiento neutro y espontáneo, ni mucho menos que carezca de intervención humana. Aunque es cierto que la captura y clasificación de la información es realizada por máquinas —que, además, incrementan su precisión a medida que acumulan y procesan mayores cantidades de datos—, este proceso se basa, entre otras cosas, en el uso de algoritmos diseñados y escritos por personas, por lo tanto, implican decisiones previas de política empresarial. En efecto, estos instrumentos son orientados por determinados fines, por ejemplo,  evaluar y predecir preferencias, comportamientos y capacidades de consumo; debilidades y fortalezas de un determinado mercado; gustos e intereses de distintos segmentos poblacionales; o la solvencia crediticia de una persona u empresa.

 

Aquí surge también una particularidad que es importante resaltar: los datos requieren un soporte físico de almacenamiento. La “nube” —esa figura casi mitológica de la economía digital— no tiene nada de inmaterial: existe sobre el terreno y se ubica en grandes instalaciones destinadas al acopio y resguardo de los datos. ML no cuenta con estructuras propias de estas características, por lo que contrata los servicios de Amazon Web Service (AWS).[3] En consecuencia, nuestros datos se alojan físicamente fuera del país.

 

Las fuentes complementarias de información, el tercer insumo, provienen de organismos públicos o privados externos a la empresa. Se trata de información recopilada, por ejemplo, mediante el cruce con listas PEPs (abreviatura de “Personas Expuestas Políticamente”) u OFAC, esto es, registros emitidos por la Office of Foreign Assets Control: un organismo de control financiero y lucha contra el lavado de dinero dependiente del Departamento del Tesoro de los Estados Unidos cuya función es investigar y sancionar a países, organizaciones y personas que forman parte de o tienen vínculos con organizaciones terroristas o del crimen organizado. ML también se nutre de bases de datos de riesgo crediticio y otras fuentes de acceso público; así como de datos para la validación de identidad de organismos públicos, proveedores de servicios o aliados comerciales.

 

El procesamiento y análisis es la etapa del circuito que permanece en penumbras. Se trata del momento donde se advierte más claramente esa suerte de “caja negra” de los algoritmos. No podemos acceder a los criterios específicos que definen, entre otras cosas, qué información es relevante, qué datos son tenidos en cuenta, cómo se ponderan, qué se excluye, cómo se elaboran rankings o establecen prioridades, cómo se segmenta o cómo se asignan servicios, beneficios o sanciones.

 

Finalmente, al gestionar nuestros datos, ML declara la persecución de cuatro propósitos: 1) vehiculizar y optimizar la oferta de servicios brindados por la compañía —de comercio, logística, finanzas, etc.—, gobernando la interacción digital entre proveedores y consumidores; 2) estudiar y segmentar el universo de personas y empresas que visitan y utilizan la plataforma para profundizar el conocimiento de los mercados en los que participa y de aquellos hacia los que busca expandirse; 3) promocionar productos de ML o de terceros y ofrecer servicios publicitarios; y 4) instrumentar y garantizar compromisos legales, lo que incluye cumplir con normativas de prevención del lavado de dinero, regímenes fiscales, requerimientos informativos gubernamentales y detección de fraudes, así como resguardar derechos de propiedad intelectual y salvaguardar activos de la empresa, entre otras cosas.

 

Respuestas insuficientes

Este recorrido nos permite dar una primera respuesta a dos de los tres interrogantes planteados. Podemos hacernos una idea de aquello que ML sabe sobre nosotros: cuenta con toda nuestra información de identificación personal, incluso fisonómica; registra, monitorea y analiza en tiempo real nuestras costumbres, gustos, intereses, comportamientos, desplazamientos y redes de relaciones personales; y también corrobora constantemente nuestro estatus legal y económico. De igual manera, cuando hablamos de la gestión de los datos, nos aproximamos a la multiplicidad de fines para los que son utilizados; el ¿para qué? de lo que sabe.

 

Sin embargo, sigue siendo un secreto empresarial el modo específico en que ML procesa, analiza y, por lo tanto, reconfigura esa información. A pesar de que conocemos cuáles son las técnicas e instrumentos computacionales utilizados para este trabajo —Inteligencia Artificial, Machine Learning y Deep learning—, escapan al ojo público los detalles, alcances y parámetros con los que son diseñados los algoritmos y procedimientos que ejecutan estas tareas. Ese manto de opacidad empaña todo el proceso, porque, aunque podamos distinguir tres momentos, el circuito de datificación conforma una unidad indivisible e interdependiente. Dicho de otro modo, la recolección de datos no sería posible sin los algoritmos dispuestos para registrarlos, así como no habría nada que procesar y analizar si no existieran grandes cantidades de datos recolectados, y esto no sería factible si no hubiera una plataforma que gestiona, controla y ofrece determinados servicios.

 

En resumen, no hay fronteras entre la extracción, análisis y gestión: se trata de un mismo proceso determinado por decisiones de política empresarial y mediado, estructurado e instrumentado por la tecnología. Por lo tanto, su opacidad habilita usos de la información no necesariamente declarados por la empresa.

***

 

Donna Haraway asegura que las narraciones de la ciencia ficción no son ilustraciones de los argumentos o del pensamiento: son pensamientos en sí mismos. Los textos de ficción cuentan historias de los pueblos humanos y tal vez no solo humanos; son, en sentido estricto, una práctica teórica y filosófica.[4] Se trata de una perspectiva con la que no podría estar más de acuerdo. En ese sentido, podemos tomar ciertos aspectos y problemáticas expuestas en Westworld e identificar allí un mecanismo político, social y económico que, en el caso de ML, funciona cotidianamente en nuestro mundo de no ficción; un efecto Westworld.

 

Esta empresa, al igual que otras plataformas digitales, nos ofrece un espacio de atracción y servicios —un parque— que, si bien no pretende liberarnos de ataduras morales, promete total libertad de elección e interacción, más agilidad y eficiencia, y hasta una mayor democratización e inclusión. Pero, al atravesar sus umbrales virtuales, dispara un circuito de recolección, almacenamiento, análisis y gestión de nuestros datos sobre el que ejercemos un escaso o nulo control. Este mecanismo se convierte en un dispositivo central de sus prácticas y estrategias empresariales. El proceso de datificación le permite ajustar e individualizar permanentemente su oferta de bienes y servicios; perfeccionar su capital tecnológico; irrumpir en múltiples mercados y sectores; incrementar su control y vigilancia sobre los procesos de trabajo; extender su influencia social. Si los datos capturados por las plataformas no son otra cosa que relaciones sociales, la propiedad de los mismos otorga a esta(s) firma(s) privada(s) una potestad absoluta sobre esas relaciones. No es algo inédito en el capitalismo, pero, aun así, la etapa digital evidentemente permite un grado mucho mayor de opacidad y asimetría.

 

Las leyes generales de protección de datos personales constituyen una herramienta fundamental, pero resultan insuficientes si no intervienen en los engranajes de producción de esos datos y en los mecanismos de control y asignación implicados. En Argentina, la Ley 25.326 es un buen ejemplo de ello, ya que fue pensada, principalmente, como un instrumento para garantizar la privacidad, el consentimiento informado, la seguridad y el acceso a la información, pero ni siquiera menciona las palabras “algoritmo” o “inteligencia artificial”. Se trata de un debate creciente en el mundo: España, China, Nueva Zelanda y el Estado de California en los Estados Unidos son algunas de las jurisdicciones donde se han sancionado o se están elaborando normas regulatorias orientadas a reglamentar los dispositivos algorítmicos.[5]

 

Tratar de construir un panorama diferente —diferente al del mundo gobernado por Delos y Rehoboam— requiere, entonces, desestabilizar los soportes jurídicos, económicos, sociales, políticos y simbólicos que habilitan aquella opacidad y asimetría. Entre otras cosas, esto implica poner en tensión los discursos apologéticos de la “revolución tecnológica” y pensar críticamente los límites y potencialidades de la economía digital en el contexto latinoamericano, así como impulsar normativas e intervenciones estatales que apunten a colocar el proceso de producción de datos bajo control y escrutinio público.

 

 

Bibliografía

 

Asimov, Isaac (2014). Yo, Robot [1950], Buenos Aires, Edhasa.

Dick, Philip K. (2020). ¿Sueñan los androides con ovejas eléctricas? [1968]. Buenos Aires, Minotauro.

Durand, Cédric. Tecnofeudalismo: crítica de la economía digital, Buenos Aires, La cebra.

Fumagalli, Andrea y otros (2018). “El trabajo (labour) digital en la economía de plataforma: el caso de Facebook”, Hipertextos, vol. 6, num. 9, Buenos Aires, pp. 12-41.

Mallamaci, Marco Germán; Gordon, Pablo; Krepki, Daniela Denise; D’Alessio, Hernán; González Guardia, Estefanía; y Mónaco, Julián (2020). “¿Qué puede un bit? Datos y algoritmos como relación social”, Revista Sociológica, año 35, nº 101, México, pp. 215-241.

O’Neil, Cathy (2016). Armas de destrucción matemática, Madrid, Capitán Swing.

Rikap, Cecilia (2020). “Amazon: a story of accumulation through intelectual rentership and predation”, Competition & Change.

Srnicek, Nick (2018). Capitalismo de Plataformas, Buenos Aires, Caja Negra.

Zuboff, Shoshana (2018). The age of surveillance capitalism, Londres, Profile Books.

 

[1] “Declaración de privacidad y confidencialidad de la información de Mercado Libre”. Última consulta: 15 de septiembre de 2021. Disponible en: https://www.mercadolibre.com.ar/privacidad/declaracion-privacidad.

[2] Desde el punto de vista aquí sugerido, el Dato Digital no es una pieza de información “natural o espontánea”, sino el resultado de un proceso de trabajo que involucra actores sociales, máquinas y personas y permite convertirlos en códigos legibles en dispositivos informáticos para almacenarlos, analizarlos y gestionarlos. En este sentido, puede decirse que los datos son en sí una relación social. Sobre este punto, puede consultarse el artículo publicado por integrantes del Observatorio de Economía Digital argentino (Mallamaci, Gordon, Krepki, Mónaco, Gonzalez Guardia y D’Alessio, 2020). Para profundizar, además, en el modo en que esos datos se convierten en un activo económico fundamental, pueden revisarse diversos estudios de autores y autoras tales como: O’Neill (2017), Srnicek (2018), Fumagalli y otros (2018), Zuboff (2019), Rikapp (2020) y Cédric (2021).

[3] Ver, por ejemplo, “Mercado Libre se alía con Amazon” (Ámbito Financiero, 2021). Disponible en: www.ambito.com/negocios/mercado-libre/se-alia-amazon-n5150448.

[4] Ver el documental “Donna Haraway: Cuentos para la supervivencia terrenal”, de Fabrizio Terranova (2017). Disponible en: lalulula.tv/cine/100076/donna-haraway-cuentos-para-la-supervivencia-terrenal.

[5] España: “Una ley incluirá acceso a algoritmos laborales en plataformas” (Iprofesional, marzo de 2021). Disponible en: www.iprofesional.com/tecnologia/334915-una-ley-incluira-acceso-a-algoritmos-laborales-en-plataformas. Nueva Zelanda: “Algorithm Charter for Aotearoa New Zealand” (Gobierno de Nueva Zelanda, julio de 2020). Disponible en: data.govt.nz/assets/data-ethics/algorithm/Algorithm-Charter-2020_Final-English-1.pdf. China: “China dice que fijará reglas de gobernanza para algoritmos” (Infobae, septiembre de 2021). Disponible en: www.infobae.com/america/agencias/2021/09/29/china-dice-que-fijara-reglas-de-gobernanza-para-algoritmos-en-los-proximos-tres-anos/. California: “A regular los algoritmos laborales” (El cohete a la luna, septiembre de 2021) Disponible en: www.elcohetealaluna.com/a-regular-los-algoritmos-laborales/.

Facebook
Twitter
WhatsApp

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *