Ranking

Produto: Google Search Problemas Técnicos:

  • Bias Algorítmico: O algoritmo pode favorecer certos tipos de conteúdo ou fontes, não refletindo a diversidade de opiniões e informações disponíveis.
  • Manipulação de SEO: Sites podem usar técnicas de otimização de mecanismos de busca (SEO) para manipular seu ranking, resultando em resultados menos relevantes.

Problemas de Usuários:

  • Relevância dos Resultados: O usuário pode não encontrar o que está procurando se os resultados não forem classificados de forma precisa.
  • Resultados Desatualizados: O usuário pode ser direcionado a páginas desatualizadas ou com informações incorretas.

Recomendação

Produto: Netflix Problemas Técnicos:

  • Exploração vs. Exploração: O algoritmo pode ter dificuldade em equilibrar entre recomendar conteúdos familiares ao usuário e sugerir novos conteúdos.
  • Cold Start Problem: Novos usuários ou novos conteúdos podem não ter recomendações precisas devido à falta de dados históricos.

Problemas de Usuários:

  • Bolha de Filtro: O usuário pode acabar preso em uma bolha de conteúdo, vendo apenas o que o algoritmo considera relevante, e perdendo variedade.
  • Privacidade: Coleta e uso de dados pessoais para gerar recomendações podem levantar preocupações de privacidade.

Classificação

Produto: Gmail Problemas Técnicos:

  • Falsos Positivos/Negativos: E-mails importantes podem ser classificados erroneamente como spam (falsos positivos) ou spam pode passar para a caixa de entrada (falsos negativos).
  • Atualização Constante: O algoritmo precisa ser constantemente atualizado para lidar com novas técnicas de spam.

Problemas de Usuários:

  • Perda de Mensagens: E-mails legítimos podem ser perdidos ou não vistos pelo usuário se classificados como spam.
  • Experiência do Usuário: O usuário pode ter que verificar constantemente a pasta de spam para garantir que não perdeu nada importante.

Regressão

Produto: Amazon Problemas Técnicos:

  • Overfitting: O modelo pode ser muito ajustado aos dados históricos e não generalizar bem para novas situações.
  • Variabilidade dos Dados: Mudanças inesperadas no mercado ou no comportamento do consumidor podem tornar previsões imprecisas.

Problemas de Usuários:

  • Previsões Inexatas: Usuários podem ser frustrados por previsões de preços imprecisas, levando a decisões de compra erradas.
  • Confiança no Sistema: Se as previsões não forem confiáveis, os usuários podem perder a confiança nas recomendações de preços.

Clusterização

Produto: Spotify Problemas Técnicos:

  • Determinação do Número de Clusters: Decidir quantos clusters usar pode ser desafiador e impactar a qualidade das playlists.
  • Ambiguidade nos Dados: Músicas que não se encaixam claramente em um cluster podem ser mal categorizadas.

Problemas de Usuários:

  • Playlists Irrelevantes: O usuário pode receber playlists com músicas que não correspondem ao seu gosto musical.
  • Diversidade Limitada: O algoritmo pode não capturar a diversidade do gosto musical do usuário, criando clusters muito homogêneos.

Detecção de Anomalia

Produto: Banco Digital (como Nubank) Problemas Técnicos:

  • Taxa de Falsos Positivos: Transações legítimas podem ser erroneamente sinalizadas como fraudulentas.
  • Evasão de Detecção: Fraudadores podem desenvolver técnicas para evitar a detecção pelo sistema.

Problemas de Usuários:

  • Inconveniência: O usuário pode enfrentar inconvenientes devido a bloqueios de conta ou solicitações de verificação adicionais.
  • Segurança Percebida: Falhas na detecção de fraude podem diminuir a confiança do usuário na segurança do banco.

Esses problemas podem afetar tanto a eficácia dos modelos de Machine Learning quanto a experiência dos usuários que interagem com esses sistemas.