Comparação Frases

Como comparar frases de forma prática

Comparar frases entre si parece simples no papel, mas na prática você rapidamente se depara com problemas de ordem, sinônimos, variações dialectais e ruído nos dados. O processo depende muito do que você quer alcançar. Se é detectar paráfrases, a abordagem é diferente de comparar traduções ou medir similaridade semântica para treino de modelo.

Ferramentas para comparação frases

A ferramenta mais comum e que eu uso no dia a dia é oSentence-Transformers da plataforma Hugging Face. Você carrega um modelo como all-MiniLM-L6-v2, passa as frases, e ele retorna vetores de Embedding que você compara com cosseno. O resultado é uma pontuação entre 0 e 1 que indica o quão similares duas sentenças são em espaço semântico. Para quem quer algo mais rápido e sem depender de GPU, existe a biblioteca sentence-similarity no PyPI, que usa TF-IDF com n-grams. Não é tão preciso quanto embeddings profundos, mas roda local em segundos e consome poucos recursos. O download é direto pelo pip:

pip install sentence-transformers Se o seu foco é comparação bilateral de traduções, recomendo o COMET (Composable Metric). Ele foi treinado especificamente para avaliar qualidade de tradução usando pares fonte-alvo, e os scores dele correlacionam bem com julgamentos humanos.

O método na prática

O fluxo básico é: limpar o texto, normalizar, gerar representação vetorial, calcular similaridade, interpretar. A limpeza importa mais do que a maioria das pessoas assume. Remova pontuação extra, padronize maiúsculas/minúsculas, e considere remover stop words se o objetivo for comparação sintática. Mas se o objetivo é similaridade semântica pura, mantenha as stop words porque elas carregam informação estrutural. Para normalização, eu costumo usar Unicode NFKC normalization. Isso resolve problemas como caracteres compostos que parecem iguais mas têm codificação diferente. Frases copiadas de PDFs frequentemente trazem esses artefatos invisíveis que quebram comparações baseadas em string matching simples.

Aqui vai um exemplo mínimo em Python: from sentence_transformers import SentenceTransformer, util
model = SentenceTransformer('all-MiniLM-L6-v2')
frases = ['O gato caiu da mesa', 'O felino derrubou da superfície']
embeds = model.encode(frases)
score = util.cos_sim(embeds[0], embeds[1])
print(score.item())

Isso retorna algo em torno de 0.72 para esse par, o que indica similaridade moderada-alta. A segunda frase usa sinônimos mas mantém a estrutura lógica. Agora compare com 'O cachorro latiu à noite' e o score cai para perto de 0.15.

O problema que eu encontrei e como resolvi

Num projeto de análise de feedback de clientes, me deparei com frases que eram essencialmente a mesma reclamação mas escritas de formas radicalmente diferentes. 'O produto chegou quebrado' versus 'Gostaria de solicitar troca pois a mercadoria veio com defeito de fabricação'. O embedding padrão do MiniLM dava cerca de 0.45 para esse par. Para um ser humano, são praticamente idênticas em intenção. O modelo não capturava a equivalência pragmática porque havia sobreposição lexical muito baixa. A solução foi combinar dois approches: primeiro passei as frases por um modelo de reranking como o BGE-reranker-large, que é treinado para tarefas de similaridade com contexto de par. O reranker reavaliou o par e subiu o score para 0.81. Depois, apliquei uma regra heurística baseada em intenção: extrai entidades chave (produto, defeito, quebra) e usei um classificador simples de intenção treinado com poucos exemplos de cada categoria. O pipeline ficou: embedding brutos como filtro de triagem, reranking para refinamento, e classificação de intenção para agrupamento final. Isso cortou meus falsos positivos em cerca de 60% comparado ao uso isolado de cosine similarity.

Insights que ninguém conta

O primeiro insight contraintuitivo: quanto maior o modelo de embedding, nem sempre melhor. O all-MiniLM-L6-v2 tem apenas 22M de parâmetros e em muitas tarefas de comparação frases supera modelos maiores como o paraphrase-multilingual-MiniLM-L12-v2 porque o custo-benefício de generalização é melhor para frases curtas. Modelos maiores tendem a superajustar em corpus de domínio específico e perdem generalização domínios. O segundo: cosine similarity sozinha falha catastroficamente com frases de tamanhos muito desiguais. Uma frase de 3 palavras comparada com um parágrafo de 20 pode gerar score alto por sobreposição de vocabulário mesmo sendo semanticamente distintas. A correção é normalizar o comprimento ou usar métricas como BERTScore que consideram matching token-a-token antes de agregar.

Pegadinhas e onde tudo falha

Existem cenários onde a comparação frases simplesmente não funciona bem. Frases com ironia ou sarcasmo são o pior caso. O modelo vê as palavras mas não o tom. 'Que ótimo, outro atraso' recebe score alto de similaridade com 'Fico feliz com o atraso' quando na verdade os sentidos são opostos. Se o seu domínio tem muita linguagem figurada, considere adicionar uma camada de detecção de sentença antes da comparação. Outro ponto fraco: idiomas com muita variação morfológica como português brasileiro versus europeu. 'Autocarro' versus 'ônibus', 'pequeno' versus 'minimo'. Modelos monolíngues treinados em corpus específico de variante podem dar scores enganosos. O modelo multilingue ajuda mas ainda não resolve completamente. O workaround é treinar um adaptador com pares de frases traduzidas dentro do seu domínio.

A dependência de thresholds também é uma armadilha. Definir que score acima de 0.7 é similar parece razoável até você testar no seu dataset. Em alguns casos o cutoff ideal é 0.55, em outros 0.85. Sempre valide com uma amostra manual antes de automatizar decisões baseadas nos scores.

Alternativas quando embeddings não bastam

Se o seu caso exige comparação exata de estrutura textual, como detectar plágio ou cópia com paráfrase próxima, ferramentas baseadas em SHA-1 de hashes de texto como o SimHash são mais adequadas. Elas são insensíveis a reordenação de palavras e capturam similaridade de assinatura textual de forma eficiente em larga escala. Para comparação de frases em contexto de busca, o Elasticsearch com o plugin de similarity learning oferece uma alternativa praticavel que combina BM25 tradicional com sinais de rede neural sem precisar montar todo o pipeline de embedding.

A escolha da ferramenta certo depende do volume de dados, da latência aceitável, e do quão perto você precisa chegar da equivalência semântica real. Não existe solução única que funcione bem em todos os cenários.