MINHA DECISÃO ESTÁ FODIDA™

ALGORITMO MEU PASTOR™
Você achava que ele morava no feed.

-----> Você abre o celular.

Antes de decidir qualquer coisa, um algoritmo já separou o e-mail importante do spam, ordenou os resultados da sua pesquisa, escolheu quais notificações mereciam interrompê-lo e montou uma fila de vídeos baseada no que você assistiu, curtiu, ignorou ou não conseguiu parar de olhar.

O aplicativo de música reorganizou sua página inicial.

O de relacionamento aprendeu com seus likes, suas conversas e até com o que aconteceu depois do encontro.

Você ainda nem tomou café e já foi observado, classificado e transformado em previsão.

-----> Você sai de casa.

O elevador pode calcular qual cabine deve buscá-lo considerando o andar de destino e a quantidade de passageiros.

Alguns semáforos ajustam seus tempos conforme o movimento do trânsito.

O aplicativo de mapas combina dados de navegação para estimar congestionamentos, incidentes e o caminho mais rápido.

O aplicativo de transporte altera o preço conforme a demanda e a disponibilidade de motoristas naquela região.

No delivery, modelos calculam o tempo de preparo, preveem a entrega, testam rotas e ajudam a indicar qual entregador é mais adequado para o pedido.

-----> Você compra alguma coisa.

Antes de o pagamento ser aprovado, sistemas podem analisar valor, horário, localização, dispositivo, frequência de compras e diferenças em relação ao seu comportamento habitual.

Em milissegundos, uma operação recebe uma avaliação de risco.

Às vezes, o algoritmo impede um golpe.

Às vezes, impede você de comprar o próprio jantar.

-----> Você pede crédito.

Sua vida financeira é convertida em uma pontuação baseada em pagamentos, dívidas, procura por crédito, informações cadastrais, contratos e experiência no mercado.

Não é um gerente olhando profundamente nos seus olhos.

É um modelo estatístico tentando prever o comportamento futuro de alguém com base nos rastros do passado.

-----> Você procura emprego.

Há tecnologias capazes de filtrar currículos, analisar palavras-chave, avaliar entrevistas gravadas e selecionar quais anúncios de vagas serão mostrados para determinadas pessoas.

Depois da contratação, sistemas também podem acompanhar produtividade, localização, tempo gasto em tarefas, movimentos do cursor e outros sinais do trabalho.

O chefe pode até estar distraído.

O sistema de monitoramento não.

-----> Você importa uma mercadoria.

Na Receita Federal, o Sisam analisa o histórico das declarações e calcula a probabilidade de erro na classificação fiscal de cada produto.

Até a suspeita pode chegar antes do auditor.

Você escolhe um filme, um restaurante, uma música, um caminho, um candidato, um produto ou uma pessoa.

Ou pelo menos é isso que aparece na tela.

Porque, muitas vezes, sua escolha acontece depois que um sistema decidiu o que merecia chegar até você.

O algoritmo não é necessariamente o vilão

Ele pode reduzir filas, organizar tráfego, detectar fraudes, encontrar rotas, prever atrasos e administrar volumes que nenhum ser humano conseguiria processar sozinho.

O problema não começa quando existe um algoritmo.

Começa quando ninguém sabe responder:

-----> Quem definiu o objetivo?

Quais dados foram usados?

O sistema está tentando ajudar você ou aumentar alguma métrica da empresa?

Quem desaparece quando os resultados são ordenados?

Quem paga quando a previsão está errada?

Existe alguém capaz de rever a decisão?

Todo algoritmo obedece a alguma coisa.

Reduzir custos.

Aumentar conversão.

Prolongar o tempo de tela.

Diminuir o tempo de espera.

Prever inadimplência.

Detectar comportamento suspeito.

Escolher quem aparece primeiro.

O algoritmo não conhece a verdade.

Ele conhece o objetivo que recebeu, os dados que encontrou e as regras que alguém decidiu transformar em sistema.

Quando acerta, chamamos de conveniência.

Quando erra, o sistema chama você de exceção.

No Brasil, a LGPD prevê o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem os interesses de alguém, incluindo definições de perfil profissional, de consumo e de crédito. O problema é que muita gente nem sabe quando uma decisão foi automatizada.

Você não vê o algoritmo.

Você vê o preço.

A rota.

O limite.

O anúncio.

O currículo ignorado.

O pagamento recusado.

O restaurante que apareceu primeiro.

A postagem que ninguém recebeu.

O silêncio do sistema.

Ele não precisa mandar em tudo.

Basta organizar previamente quase tudo o que consegue chegar até você.

ALGORITMO MEU PASTOR™

E nada me faltará.

Exceto contexto, explicação e, algumas vezes, o caminho que eu teria escolhido caso todos os caminhos tivessem sido mostrados.

Ocorrência registrada em Minha Vida Digital Está Fodida™