Internet: la caja negra de la economía de la vigilancia

Lo que podría llamarse una forma de rastreo de datos sobrehumana (imaginada en una novela de ciencia ficción a mediados del siglo pasado), ocurre en nuestros días gracias a la plataforma tecnológica del Internet y a la caja negra de algoritmos que utilizan la interacción digital de las personas como materia prima para obtener datos de comportamiento, lo que representa oro molido para las empresas.

En las siguientes líneas se describe el entorno de los algoritmos de vigilancia en Internet, sus implicaciones éticas y legales; asimismo, se explora una posible solución desde la perspectiva tecnológica.

Se requiere de un marco regulatorio claro para definir qué tipo de datos deben ser inspeccionables y exportables por los usuarios.

Economía de la vigilancia

Para nadie es un secreto que vivimos en la economía de la vigilancia. Shoshana Zuboff en su libro The age of surveillance capitalism postula que este nuevo capitalismo utiliza la “interacción digital” de las personas como materia prima para obtener datos de comportamiento. También reconoce que, si bien es cierto que muchos de estos se utilizan para mejorar productos y servicios, existe un “excedente conductual” que proviene de los procesos de aprendizaje automatizado (Machine Learning), por lo tanto, se convierte en productos de predicción y prescripción de comportamientos, mismos que después se comercializan con muy diversos fines.

Entre más descriptivos sean los excedentes conductuales, mayor es el precio en el mercado; de ahí que las voces, rostros y emociones vertidas en aplicaciones (de comunicación o entretenimiento) representen oro molido en esta nueva industria.

Hoy en día, los algoritmos inteligentes inundan los medios digitales y toman decisiones de muy diversas índoles: el algoritmo de Facebook que, con los criterios predefinidos por el anunciante, discrimina a quiénes enviar un mensaje; otro que perfila a los candidatos desde las entrevistas de trabajo; o bien, aquellos otros que evalúan riesgos en los procesos penales o detectan patrones de fraude.

A medida que los sistemas algorítmicos se integran en todos los aspectos de la sociedad, los mecanismos regulatorios luchan por mantenerse al día y los usuarios especializados de datos (periodistas e investigadores) buscan afanosamente información transparente y libre de sesgo; sin embargo, el Internet se está convirtiendo en una críptica caja negra de datos cada vez más difícil de abrir.

Una forma de rastreo de datos sobrehumana ocurre en nuestros días gracias a la plataforma tecnológica del Internet y a la caja negra de algoritmos.

Surya Mattu, destacado periodista de datos para distintos medios digitales, ha descubierto en sus andanzas cómo una empresa de marketing registró los datos personales de los usuarios, incluso antes de que hicieran clic en "enviar" dentro de un formulario. En uno de sus artículos más recientes cuenta cómo la herramienta Meta Pixel (anteriormente Facebook Pixel) rastrea a usuarios sin su consentimiento explícito en lugares sensibles como portales de hospitales, solicitudes de préstamos federales para estudiantes y sitios web de herramientas de declaración de impuestos.

Abriendo la caja negra

Durante la última década, investigadores y periodistas han encontrado formas de revelar y examinar estos sistemas discriminatorios, esto desarrollando sus propias herramientas de recopilación de datos; sin embargo, a medida que Internet ha pasado de los navegadores a las aplicaciones móviles, esta transparencia crucial está desapareciendo rápidamente.

Este análisis ha sido posible, en gran medida, gracias a dos herramientas aparentemente inocuas y desapercibidas que se utilizan para inspeccionar lo que sucede en una página web: los complementos de navegador (browser add-ons) y las herramientas de desarrollo de navegador (browser developers tools). Adicionalmente, nuevos desarrollos han dado lugar a las llamadas interfaces de programación de aplicaciones (API, por sus siglas en inglés) antivigilancia.

Una API es una forma que tienen las empresas de poner sus servicios o datos a disposición de otros desarrolladores. Por ejemplo, si está creando una aplicación móvil y desea usar la cámara del teléfono para una función específica, usaría la API de cámara de iOS o Android. Otro ejemplo común es una API de accesibilidad, misma que permite a los desarrolladores hacer que sus aplicaciones sean accesibles para personas con discapacidades; esto al hacer que la interfaz del usuario sea legible para lectores de pantalla y otras herramientas de accesibilidad que se encuentran comúnmente en los teléfonos inteligentes y computadoras modernas.

Bajo el mismo principio, una API antivigilancia, afirma Surya Mattu, permitiría a las personas exportar datos de las aplicaciones que utilizan todos los días y compartirlos con investigadores, periodistas y defensores de sus comunidades. Asimismo, se podría exigir a las empresas que implementen esta API para cumplir con las mejores prácticas de transparencia (del mismo modo que se les exige que implementen funciones de accesibilidad para que sus aplicaciones y sitios web sean utilizables para personas con discapacidades).

Además de exponer la vigilancia, estas herramientas de inspección de navegadores brindarían una forma poderosa de recopilar datos para estudiar la discriminación, la difusión de información errónea, así como otro tipo de daños que las empresas de tecnología provocan o incentivan.

Actualmente se utiliza la interacción digital de las personas como materia prima para obtener datos de comportamiento.

No obstante, a pesar de las poderosas capacidades de estas herramientas, su alcance es, por ahora, limitado. Las API antivigilancia funcionan eficientemente en los navegadores web, pero no en las aplicaciones de telefonía celular.

En su reporte de 2023, Kepios (empresa que produce algunos de los informes más leídos del mundo sobre tendencias digitales y comportamientos en línea) informó que el 92% de los usuarios globales accedieron a internet a través de sus teléfonos inteligentes, superando ampliamente a aquellos que lo hacen desde su computadora.

Aunque empresas como Apple ya están poniendo manos a la obra (a partir del iOS 15 ya se pueden documentar las prácticas de recopilación de datos de cada aplicación), no es conveniente confiar en que las organizaciones solucionarán el problema. Se requiere de un marco regulatorio claro para definir qué tipo de datos deben ser inspeccionables y exportables por los usuarios (también se requiere una que penalice a las empresas por no implementarlo).

Un marco de este tipo no sólo permitiría a los usuarios exponer los daños, sino que también garantizaría que no se viole su privacidad. Las personas podrían elegir qué datos compartir, cuándo y con quién.

Conclusiones

Una API antivigilancia permitiría a las personas luchar por sus derechos. Lo anterior, compartiendo la evidencia del daño al que han estado expuestos con personas que puedan generar conciencia pública y abogar por el cambio. Regulaciones de esta naturaleza ayudarían a que los investigadores y otras personas realizaran este trabajo de una manera segura, precisa y, lo más importante, priorizando el consentimiento de los dueños de la información. Es eso o acostumbrarnos a vivir vigilados por los éspers de la era digital.