Como a IA funciona (por dentro)
Este guia explica o que acontece entre o cliente digitar e a resposta chegar — sem jargão. Serve para duas coisas: entender por que o robô às vezes diz "não sei" (isso é proposital) e saber onde, na tela, você muda cada comportamento.
Em uma frase: a plataforma transforma frase em posição num mapa de significado, decide com dois critérios em vez de um, responde só o que a sua base cobre — e fica calada quando não sabe. As quatro coisas são verificáveis nas telas.
1. O mapa de significado
Comparar frases por palavra não funciona: o cliente nunca escreve o termo que o órgão usa. Então cada frase é transformada num ponto num mapa onde o endereço não é rua e número, é assunto.
- "Quero tirar a segunda via do boleto" e "preciso do carnê de novo" caem no mesmo bairro, mesmo sem uma palavra em comum.
- "Que horas vocês abrem?" cai do outro lado da cidade.
- "Passagem para Lisboa" fica longe de tudo — e é justamente por isso que a plataforma consegue dizer "não sei".
Comparar duas frases passa a ser medir a distância entre dois endereços. A nota vai de 0 (nada a ver) a 1 (mesma coisa).
O limite honesto — e ele explica metade das decisões
O mapa é bom em sentido e ruim em palavra literal rara: nome de produto, sigla, número de lei, código de sistema. Medido na nossa base: o termo exato deu 0,27, enquanto uma paráfrase do mesmo assunto deu 0,55 — o modelo preferiu a paráfrase à palavra idêntica.
É por isso que existem duas coisas mais adiante: entidade tipo lista (para nome próprio e sigla) e busca híbrida na base de conhecimento (item 4).
2. Como o robô decide "sobre o que é isto"
O reconhecimento de assunto usa os exemplos que você cadastra em Intenções:
- Os seus exemplos entram no mapa uma vez e ficam guardados — não se paga o custo de novo a cada mensagem.
- A frase do cliente entra no mapa também.
- Mede a distância para todos os exemplos e ordena do mais parecido ao menos.
- Decide com dois critérios, não um — este é o coração:
- Confiança: o melhor resultado tem de passar do limiar (você define na tela).
- Margem: o 1º colocado tem de estar à frente da 2ª intenção diferente por uma folga mínima.
Falhou qualquer um dos dois → nenhum assunto, e o fluxo segue pela saída "senão". Não existe "chutar o mais parecido".
Situação | O que o robô faz |
|---|---|
Passou confiança e margem | Segue a rota daquele assunto |
Empate técnico entre dois assuntos | Pergunta "você quis dizer A ou B?" |
Nada passou | Cai na base de conhecimento ou no "quando não entender" |
Não existe treinamento nem janela de indisponibilidade
Cadastrar um exemplo novo vale na hora: a próxima mensagem já é comparada com ele. Ninguém retreina modelo, ninguém abre chamado, nada fica fora do ar.
3. Gíria, sigla, erro de digitação e ordem das palavras
São quatro camadas, e cada uma resolve o que as outras não resolvem:
Camada | O que resolve |
|---|---|
O modelo entende sentido | "tá osso pagar isso" cai perto de "está difícil efetuar o pagamento". Trocar a ordem das palavras quase não move o ponto no mapa. |
Acento é ignorado nas duas pontas | "atende sabado?" casa com o exemplo "atende sábado". A normalização vale para a pergunta e para os exemplos — normalizar só um lado seria comparar alfabetos diferentes. |
Você ensina a gíria em um clique | Frase não entendida aparece no Monitor de Processamento com o texto original e a nota. Dali você joga a frase como exemplo da intenção certa e ela passa a ser reconhecida na hora. |
O que precisa ser literal tem lista própria | Nome de sistema, sigla, unidade e município entram como entidade tipo lista, com sinônimos e casamento tolerante a erro de digitação. Sentido o mapa resolve; nome próprio a lista resolve. |
4. Responder com a sua base, citando de onde veio
Quando nenhuma intenção pega o assunto, entra a Base de conhecimento. A ideia é buscar antes de responder: em vez de confiar na memória do modelo generativo (que não conhece o seu órgão e inventa), a plataforma acha o trecho nos seus documentos e manda o trecho junto com a pergunta. O modelo só redige com o que recebeu.
Etapa | O que acontece |
|---|---|
1 · Entrada do documento | Texto, arquivo ou URL (com varredura de links do mesmo domínio) é recortado em pedaços de ~1.000 caracteres, com 150 de sobreposição — a sobreposição existe para a informação não morrer cortada na fronteira de dois pedaços. Documento novo entra sem reindexar o resto. |
2 · Busca híbrida | Duas buscas ao mesmo tempo: por significado (pega paráfrase) e por texto literal (pega sigla, nome de produto, número de lei). As duas listas são combinadas por posição, não por nota. É aqui que o limite do item 1 é compensado. |
3 · Refinar a busca (opcional) | O refinamento lê pergunta e trecho juntos — mais preciso e mais caro. Vem desligado por padrão: erra em português informal e pesa na memória. Quando ligado, ele ordena, nunca corta. |
4 · Redigir | Os melhores trechos entram numerados e com a fonte. A resposta cita a origem em três níveis, escolhidos na tela: nome do documento, nome com link, ou link mais o trecho literal. No máximo duas fontes — mais que isso vira parede de texto no WhatsApp. |
Como ler as notas de confiança (aparecem no monitor): acima de 0,62 é resposta segura; entre 0,45 e 0,62, média; abaixo de 0,45 o melhor trecho já é ruído.
5. As travas — o que impede a IA de inventar
A trava principal: se a base não cobre, o modelo não é chamado
No modo estrito, o trecho encontrado precisa convencer antes de qualquer chamada ao modelo generativo. Se nenhum convence, o modelo não é chamado: a conversa cai no "quando não entender" e o caso é registrado como sem contexto. Isso elimina a invenção na origem — não existe resposta inventada porque não existe pergunta ao modelo.
E "convencer" é a união de três sinais — passa quem satisfaz qualquer um, porque cada um falha num caso diferente:
Sinal | Onde é bom | Onde falha |
|---|---|---|
Significado | pergunta reescrita com outras palavras | pergunta falada ("desejo saber o que tem na X") despenca para a mesma faixa de uma pergunta fora do assunto |
Texto literal | nome de produto, sigla, código, número de lei | pega palavra solta se o critério afrouxar |
Refinamento | separa muito bem quando acerta | erra feio em português informal — por isso ele ordena e soma, nunca corta |
Um porteiro só é sempre pior que três. Foi essa combinação que matou o sintoma clássico de "uma hora sabe, outra não".
As outras travas
Trava | O que faz |
|---|---|
Instrução fechada | "Responda usando SOMENTE o contexto; se não estiver nele, diga que não tem essa informação; nunca invente dados." |
Não chutar assunto | Limiar + margem do item 2. Ambíguo vira pergunta, não aposta. |
Esclarecimento | Pergunta vaga recebe uma pergunta curta citando as alternativas, antes de qualquer resposta. |
Comando inventado não vaza | Quando a IA pode desviar o fluxo, ela sinaliza com um marcador interno. Marcador inventado ou parafraseado ("encaminhei o cliente para: atendente") é limpado antes de chegar ao cliente. |
Teto de gasto | Por assistente: limite mensal de tokens, tamanho máximo de resposta, tempo máximo por chamada e quantas mensagens de histórico entram. |
Provedor cai, atendimento não | Conexão de IA secundária em cascata; se todas falharem, a conversa segue pelo fluxo e a operação recebe alerta por e-mail e no sino. |
Dado sensível não sai | Com mascarar ligado na fila, CPF/CNPJ são mascarados antes de ir ao modelo — e antes de virar busca. |
Saída controlada | Ingestão de URL e botão de link só alcançam endereço público, sem desviar para a rede interna. |
Tudo registrado | Cada chamada gera uma linha com tokens, custo, tempo e situação (ok, fallback, vazio, erro, teto mensal, sem contexto). "As perguntas que o robô não soube responder" é uma lista, não uma impressão. |
6. Onde termina a IA da plataforma e começa a IA de terceiro
| IA da plataforma | Modelo generativo (LLM) |
|---|---|---|
O que faz | entende sobre o que é a frase, monta o mapa, reordena trechos | redige a resposta com os trechos que já achamos |
Onde roda | serviço da plataforma, dentro do ambiente do cliente | provedor externo — ou dentro do cliente, se você quiser |
Quem escolhe o modelo | a plataforma (modelo aberto, versão fixa) | você, na tela de Canais |
Custo por chamada | zero | por token, medido e registrado |
Precisa de internet | não | sim, salvo Ollama Local / Appliance |
Funciona sem ele? | não — é a base de tudo | sim: fluxo, intenções, fila, formulário, URA e resposta padronizada funcionam com a LLM desligada |
Consequência prática: reconhecimento de assunto, o mapa de significado (da pergunta, dos exemplos e dos documentos) e a reordenação rodam na plataforma. Desligando toda LLM externa, o atendimento continua — perde a redação em linguagem livre, mantém compreensão, roteamento, fila, formulário e resposta padronizada.
E se você quiser também a redação sem sair de casa, aponte a conexão para Ollama Local ou para o Appliance de IA: mesma tela, zero tráfego para fora.
7. Como você controla a LLM
A LLM não é "o cérebro do produto": é um fornecedor plugado numa conexão, com limite de gasto e registro de cada chamada.
- É uma conexão como qualquer outra (Canais), com credencial cifrada. Uma conexão de IA não recebe nem envia mensagem de cliente — ela só responde a perguntas internas da plataforma.
- Dois botões que valem usar: Testar conexão (chamada real ao provedor — chave errada aparece na hora, não no meio de um atendimento) e Buscar na conta (lista os modelos que aquela conta realmente tem).
- Dez provedores, quatro estilos de API: OpenAI, xAI (Grok), DeepSeek, Mistral e OpenRouter falam o mesmo estilo; Claude e Gemini têm o próprio; Ollama Cloud, Ollama Local e Appliance usam o estilo Ollama — os dois últimos rodam dentro do cliente. Trocar de provedor é trocar a conexão escolhida no bloco de IA: fluxo, intenções, base e telas não mudam, porque o texto de instrução é da plataforma.
- Limites por assistente: teto mensal de tokens (estourou → novas chamadas bloqueadas, com fallback ao cliente), tamanho da resposta, tempo por chamada, quantas mensagens de histórico entram, conexão secundária e a mensagem de fallback exata. Valor fora da faixa é corrigido para o padrão, não aceito.
- Qual "não sei" sai: o do bloco de IA, se ele tiver um próprio; senão o do assistente; senão o da plataforma. A caixa do bloco mostra qual deles vai sair.
- O texto de instrução é da plataforma — a mensagem do cliente entra como dado, dentro de uma estrutura que já diz ao modelo o que ele pode fazer.
- Resposta em branco conta como falha (situação "vazio"), não como sucesso. É o caso conhecido dos modelos de raciocínio, que às vezes devolvem conteúdo vazio: prefira a variante instruct.
- Prontuário de cada chamada: provedor, modelo, tokens de entrada e saída, custo, tempo, situação, documento citado e a pergunta de origem. Os preços por milhão de tokens são atualizados semanalmente de catálogo público; provedor rodando dentro do cliente entra com custo zero. O painel mostra gasto por assistente, por modelo e por período.
O caminho de uma pergunta, do teclado à resposta
Etapa | O que acontece |
|---|---|
1 · Entrada | O cliente escreve. A frase é normalizada (minúscula, sem acento) e vira ponto no mapa. |
2 · Assunto | Comparação com os exemplos cadastrados. Passou confiança e margem → segue a […] B?". Nada → vai para a base. |
3 · Busca | Significado + texto literal, combinados por posição, reordenados se o refinamento estiver ligado. |
4 · Portão | Algum trecho convence? Não → o modelo não é chamado: fallback ao cliente, regis[…] entra na fila de curadoria. |
5 · Redação | O modelo escreve só com os trechos recebidos, dentro do teto de tokens e do tempo máximo; se o provedor falhar, cai na conexão secundária. |
6 · Saída | Limpa marcador de rota inventado, ajusta a formatação do canal, entrega a resposta com a fonte — e grava tokens, custo, tempo e situação. |
Quatro frases para repetir
- Não é busca por palavra-chave, é comparação de significado. O cliente não precisa adivinhar o termo do órgão.
- A ferramenta tem permissão para não saber. Limiar, margem e o teste dos três sinais existem para ela calar em vez de chutar. Uma ferramenta que sempre responde é uma ferramenta que às vezes mente.
- Quem manda no motor é você, pela tela. Exemplo novo, sinônimo, limiar, documento, citação de fonte, teto de gasto: tudo é configuração — e vale na hora, sem retreinar.
- A LLM é fornecedor, não é o produto. Compreensão, mapa e reordenação rodam na plataforma, dentro do cliente. A LLM externa só redige: é trocável numa tela, tem teto de gasto, cai para uma segunda conexão quando falha, e cada chamada fica registrada. Desligada, o atendimento continua.