¿Es legal que el algoritmo decida cuánto pagas?

En la economía digital, las empresas recopilan, analizan y monetizan datos de los usuarios a través de las cookies, el historial de compras, la geolocalización y otros datos generados por apps que utilizamos todos los días. La tecnología nos inserta en la sociedad de la vigilancia, donde las empresas tienen acceso a amplia información sobre nuestro comportamiento.

Este poder sobre nuestros datos, cuando se usa de forma poco ética, puede generar prácticas discriminatorias, como los precios de vigilancia o surveillance pricing.  El pasado 23 de julio, el congresista demócrata Greg Casar introdujo una propuesta para regular y posiblemente eliminar esta práctica a nivel federal en Estados Unidos.

Los precios de vigilancia en la era de la inteligencia artificial se basan en utilizar la información recolectada en los navegadores de internet y aplicaciones comunes de uso público (bancarias, transporte, viajes, etc.) para que, con base en las preferencias del usuario, se le asigne un precio especulativo de acuerdo con el grado de necesidad que tenga de un bien o servicio en particular.

El ejemplo más común, usado en Estados Unidos para explicar cómo funcionan los precios de vigilancia, es el del bebé enfermo. Supongamos que un bebé presenta fiebre por la noche, provocando la angustia de sus padres, quienes se ponen a buscar urgentemente en sus dispositivos lo que necesitan para atender los síntomas del bebé.

Dada la angustia, piden paracetamol y un termómetro a domicilio. Curiosamente (excluyendo el costo del transporte expedito), les cobran una prima de precio por encima de lo que otro consumidor, sin angustia y sin bebé enfermo, hubiera pagado a la misma hora. La única diferencia es que, en el primer caso, el sistema de precios de vigilancia se dio cuenta de que había un bebé enfermo, mientras que en el segundo, el algoritmo identificó una compra rutinaria.

Cabe notar que, a diferencia de los efectos de oferta y demanda (por ejemplo, el incremento del precio de los hoteles en temporada alta)—, la vigilancia de precios se traduce en una fijación personalizada del precio basada en la necesidad del consumidor. El pricing dinámico tradicional se basa en que hay más personas buscando un bien o servicio que tiene menos disponibilidad, pero su precio es visible e igual para todos los consumidores. Sin embargo, los precios personalizados discriminan basándose en lo que el algoritmo cree que estamos dispuestos a pagar.

Ejemplos cotidianos de esto son: el incremento del precio del transporte solamente a mí cuando la aplicación detecta que tengo un viaje programado dentro de una ventana específica y que, sí o sí, tengo que pagarlo para no perder el viaje; o cuando busco un lugar para vacacionar y curiosamente el precio de los boletos al lugar del destino es más alto que si no hubiera hecho una búsqueda previa, Y así, con todo lo que afecta nuestra cotidianidad.

Desde un punto de vista regulatorio, estas prácticas de fijación de precios se pueden considerar discriminatorias. Por eso, tanto la Unión Europea como Estados Unidos han comenzado a investigar a las compañías que incurren en esta práctica. Lo interesante es que, en América Latina, a pesar de que en la mayoría de los países de la región se han establecido marcos regulatorios de protección de datos, poco se ha hecho al respecto de un debate serio sobre las consecuencias negativas de los precios de vigilancia y su impacto en el bolsillo del consumidor.

Artículo publicado originalmente en Forbes México.