Empresas vêm recorrendo a práticas cada vez mais invasivas de coleta e análise de dados — incluindo situação financeira, histórico de compras, localização e até informações biométricas — para definir preços e remunerações de forma individualizada – o surveillance pricing.
O site The Fair Price Fight aprofunda esse debate e apresenta exemplos impactantes: varejistas que cobram preços mais altos de determinados consumidores com base na localização ou no padrão de consumo; empresas de transporte por aplicativo que ajustam tarifas de acordo com o nível de bateria do celular do usuário; e plataformas de trabalho sob demanda que reduzem a remuneração quando os dados indicam que o trabalhador está em situação financeira vulnerável.
Críticos alertam que essas práticas permitem às empresas elevar preços até o limite máximo que acreditam que cada consumidor está disposto — ou é capaz — de pagar, o que pode aprofundar desigualdades e reduzir a transparência nas relações de consumo.
O estudo “Prohibiting Surveillance Prices and Wages”, do American Economic Liberties Project, apresenta outro exemplo de como esse tipo de problema poderia ocorrer na prática. Ao adotar tecnologias de reconhecimento facial, varejistas poderiam identificar consumidores e, a partir de seus rostos combinados com outros dados sensíveis, definir preços diferentes para pessoas diferentes.
A IA poderia concluir que determinado cliente está disposto a pagar mais do que o próximo comprador, não com base no valor do produto, mas a partir de inferências algorítmicas sobre seus hábitos de consumo, vulnerabilidade financeira, atividade em redes sociais ou até mesmo sinais sutis, como linguagem corporal. Assim, dois consumidores diante do mesmo produto poderiam ver preços distintos — sem qualquer transparência ou possibilidade de contestação.
Alguns estados norte-americanos já começaram a reagir. Califórnia, Colorado e Illinois aprovaram leis que buscam restringir o uso de análises automatizadas de dados pessoais sensíveis para gerar inferências que impactem a posição financeira de indivíduos.
Mais recentemente, a Reuters noticiou o caso da Instacart, cujo sistema de precificação baseado em IA – que gerou diferentes preços para consumidores – motivou uma investigação da U.S. Federal Trade Commission (FTC), ampliando o debate regulatório sobre surveillance pricing nos Estados Unidos.
Quer saber mais sobre os riscos da IA: Riscos
