Status das evidências: Estudo de caso publicado pelo fornecedor; estrutura do experimento divulgada, apêndice estatístico completo não público

O resultado importante não foi “a Meta funciona”

A Mejuri já sabia que a Meta podia gerar receita atribuída.

O problema era que a receita atribuída não respondia à pergunta que importava para a marca.

De acordo com um estudo de caso publicado pela Haus, fornecedora de incrementalidade, a Mejuri descobriu que boa parte da receita creditada à Meta vinha de pessoas que já conheciam a marca de joias. Isso criou uma pergunta mais difícil do que se os anúncios estavam produzindo compras:

A Meta estava criando demanda nova suficiente para justificar a forma como o orçamento estava alocado?

A distinção é central para o caso.

Se uma grande parcela da receita de social pago vem de pessoas que provavelmente comprariam de qualquer forma, um ROAS forte da plataforma pode coexistir com uma economia incremental fraca. A resposta não é automaticamente cortar o canal. É mudar o que se pede ao canal e testar se a nova estratégia cria mais lift causal.

Foi isso que a Mejuri fez.

A intervenção: mover parte do orçamento para o topo do funil

A Haus afirma que a Mejuri realocou 25% do seu orçamento com Meta para campanhas de topo de funil e depois testou o impacto com um desenho de holdout geográfico.

A hipótese declarada era específica: a atividade da Meta no topo do funil poderia trazer mais receita incremental de novos clientes.

Essa é uma pergunta de experimento melhor do que “O topo de funil funciona?”

Ela define:

  • um canal;
  • uma mudança de orçamento;
  • um segmento de clientes;
  • um resultado de negócio;
  • e um contrafactual.

O KPI principal no caso público era nova receita.

Isso importa porque a Mejuri não estava simplesmente tentando aumentar o total de vendas atribuídas. Estava tentando entender se a nova alocação criava receita que não teria acontecido de outra forma.

O caso público identifica o período de teste como 22 de fevereiro a 14 de março de 2025 e descreve um desenho de duas células com um holdout. A Haus afirma que a Mejuri usou DMAs como unidade geográfica.

O que a Haus relatou

A Haus relata que o experimento inicial produziu um aumento de 11% na receita incremental.

Após uma janela de duas semanas pós-tratamento, o fornecedor diz que o aumento medido subiu para 12,9%, enquanto o iROAS melhorou em 57%.

A Haus também afirma que o desempenho geral foi cerca de 1,5 vezes melhor que a meta original de iROAS da Mejuri.

Esses são números relevantes.

Eles também devem ser lidos pelo que são: resultados relatados pelo fornecedor de mensuração que desenhou e hospedou o experimento.

A página pública do caso não expõe um apêndice estatístico completo. Ela não fornece o gasto exato com mídia, a tabela de resultados por mercado, o intervalo de confiança, o cálculo de poder nem todos os diagnósticos de balanceamento pré-teste.

Isso não invalida o resultado.

Limita o que um leitor externo pode verificar de forma independente.

A interpretação editorial correta, portanto, é:

A Haus relata que a realocação da Mejuri para atividades da Meta no topo do funil produziu um aumento mensurável na receita de novos clientes e um retorno incremental maior nas condições testadas.

Isso é mais forte do que tratar o resultado como um benchmark universal.

Por que a janela pós-tratamento importa

A diferença entre o aumento inicial de 11% e o número posterior de 12,9% é operacionalmente interessante.

Alguns efeitos publicitários podem ocorrer após o período de exposição ativa.

Uma pessoa pode ver um anúncio, adiar a compra, voltar por outro canal e converter dias depois. Se o experimento para de observar resultados no instante em que a exposição à mídia termina, parte do efeito pode passar despercebida.

Uma janela pós-tratamento tenta capturar esse comportamento atrasado.

Mas janelas mais longas criam seus próprios problemas.

Quanto mais a medição se afasta do período de exposição controlada, maior a chance de outros eventos influenciarem o resultado: promoções, sazonalidade, atividade da concorrência, demanda orgânica ou mudanças em outras mídias.

Não existe um período pós-tratamento universalmente correto.

A lição importante é que o ciclo de conversão deve influenciar a janela do experimento antes de o teste começar.

A verdadeira lição de compra de mídia é alocação, não atribuição

A parte mais forte do caso não é o aumento relatado.

É o processo de decisão.

A Mejuri não respondeu a uma incrementalidade decepcionante simplesmente reduzindo os gastos com Meta.

Ela mudou o papel do orçamento.

Se a Meta de fundo de funil estava capturando demanda que já existia, o deslocamento de parte do gasto para atividades de topo de funil criou a chance de a plataforma alcançar pessoas que tinham menos probabilidade de converter sem publicidade.

Essa é uma decisão de portfólio.

Uma sequência operacional simplificada é assim:

  1. Medir a incrementalidade do mix atual.
  2. Identificar onde o desempenho atribuído e o desempenho causal divergem.
  3. Formular uma hipótese sobre o porquê.
  4. Realocar orçamento para uma função diferente.
  5. Rodar um teste controlado.
  6. Comparar a economia incremental.
  7. Manter, reverter ou iterar a alocação.

Esse processo é muito mais transferível do que a porcentagem exata da Mejuri.

Por que 25% não deve se tornar um benchmark

O caso público torna memorável a realocação de 25%.

Ela não deve se tornar uma regra.

Um anunciante diferente pode precisar mover 10%, 40% ou nada.

O tamanho correto depende de:

  • mix atual de canais;
  • gasto existente em topo de funil;
  • escala geográfica;
  • conhecimento da marca;
  • volume de conversão;
  • margem;
  • mercados de teste disponíveis;
  • poder do experimento;
  • ciclo de compra do cliente.

O tratamento deve ser grande o suficiente para criar uma diferença detectável sem se tornar economicamente irresponsável.

Isso é um problema de desenho de experimento, não um slogan de planejamento de mídia.

Modo de falha: usar o ROAS da plataforma como KPI do experimento

Se a Mejuri tivesse avaliado o teste apenas pelo Ads Manager, o experimento teria respondido a uma pergunta diferente.

O ROAS da plataforma diz ao operador como a plataforma atribuiu crédito de conversão segundo suas regras de atribuição.

Um holdout geográfico tenta estimar a diferença entre o que aconteceu com o tratamento e o que teria acontecido sem ele.

Esses números podem divergir.

Uma plataforma pode relatar um ROAS forte enquanto o holdout mostra aumento limitado.

Uma plataforma também pode creditar a menos a atividade de topo de funil que gera conversões depois por meio da Busca, do tráfego direto ou de outro canal.

Para um teste desenhado em torno da incrementalidade, o KPI do experimento deve ficar fora do modelo de atribuição da plataforma.

Modo de falha: mudar criativo, orçamento e lógica de público ao mesmo tempo

Experimentos de mix de mídia se tornam mais difíceis de interpretar quando o tratamento muda coisas demais.

Se um anunciante introduz simultaneamente novo criativo, aumenta o gasto total, muda públicos e adiciona um objetivo de topo de funil, um resultado positivo pode ser real, mas difícil de atribuir a uma única decisão.

No caso público da Mejuri, a intervenção central é descrita como a realocação de parte dos gastos com Meta para campanhas de topo de funil.

Esse é um tratamento relativamente legível.

Os operadores devem proteger essa clareza.

Quanto mais estratégica a pergunta, mais disciplinado deve ser o tratamento.

O que o caso não prova

O resultado não prova que:

  • a Meta de topo de funil sempre supera a Meta de fundo de funil;
  • 25% é a alocação correta para outras marcas;
  • uma melhora de 57% no iROAS é reproduzível;
  • o GeoLift é a única abordagem de medição válida;
  • a atribuição da plataforma é inútil;
  • um único experimento determina permanentemente o mix de mídia correto.

A incrementalidade é condicional.

O resultado pode mudar conforme mudam criativo, concorrência, conhecimento da marca, sazonalidade e mix de canais.

É por isso que a própria Haus enquadra a incrementalidade como uma prática contínua.

Nesse ponto, o interesse comercial do fornecedor e a realidade operacional coincidem: um experimento é um insumo para a decisão, não uma verdade permanente.

Como uma equipe de mídia poderia aplicar o método

Uma equipe não precisa da escala da Mejuri para adotar a lógica.

O framework mínimo é:

Pergunta: Qual parte da mídia paga pode estar recebendo mais crédito de atribuição do que crédito causal?

KPI de negócio: Nova receita, margem de contribuição, clientes qualificados ou outro resultado fora dos relatórios da plataforma.

Tratamento: Uma mudança clara de mídia.

Contrafactual: Um controle ou holdout válido.

Janela: Longa o suficiente para capturar o ciclo de compra relevante.

Limite de decisão: Definir de antemão qual resultado justificaria manter a mudança.

Acompanhamento: Testar novamente após mudanças significativas em gastos, criativo ou condições de mercado.

O resultado mais útil não é um belo gráfico de lift.

É uma regra melhor para onde o próximo dólar deve ir.

Nota sobre evidências

Esta análise baseia-se principalmente em um estudo de caso publicado pela Haus, a fornecedora de mensuração usada no experimento. A página pública divulga o conceito de tratamento, o KPI, as datas e os resultados principais, mas não fornece um apêndice estatístico completo. O Radar, portanto, trata o aumento relatado de 12,9% nas vendas incrementais e a melhora de 57% no iROAS como resultados de caso relatados pelo fornecedor, não constatações auditadas de forma independente.

Continue no Radar