Um assistente de inteligência artificial pode responder a perguntas frequentes, pesquisar documentos e ajudar a classificar solicitações. Entretanto, uma demonstração capaz de conversar com fluidez não equivale a um canal de atendimento preparado para clientes reais.
A diferença está no sistema ao redor do modelo: fontes atualizadas, permissões, regras de encaminhamento, proteção de dados, testes e responsáveis capazes de intervir. O perfil de riscos de IA generativa do NIST alerta que esses sistemas podem produzir conteúdo falso ou inconsistente de maneira convincente. Portanto, o objetivo não deve ser fazer o assistente responder a tudo, mas operar dentro de limites definidos e reconhecer quando não deve responder.
Um bom assistente não é aquele que improvisa mais respostas, mas aquele que sabe onde pesquisar, o que pode fazer e quando deve pedir ajuda.
Comece com uma função específica, não com um chatbot geral
“Atender clientes” é um escopo amplo demais. Ele inclui dúvidas informativas, reclamações, alterações cadastrais, operações financeiras, decisões comerciais e situações que podem exigir empatia ou interpretação. Cada atividade apresenta riscos diferentes.
É melhor começar com uma jornada delimitada, como explicar modalidades de entrega, orientar sobre documentos necessários, informar o andamento de uma solicitação autenticada ou coletar dados iniciais antes de transferir a conversa.
Defina três zonas de atuação
- Permitida: perguntas que o assistente pode resolver usando informações aprovadas.
- Condicionada: ações que exigem autenticação, confirmação explícita ou revisão humana.
- Proibida: decisões, promessas, alterações ou respostas que o sistema não deve realizar.
Essa divisão impede que a capacidade do modelo determine sozinha o escopo do serviço. Também permite documentar quem responde por cada exceção, de acordo com a abordagem de governança e supervisão humana apresentada no NIST AI RMF Playbook.
Construa uma fonte de verdade antes de conectar a IA
O assistente precisa saber quais informações pode usar e qual fonte tem prioridade. Não basta entregar pastas completas, históricos de conversas ou documentos acumulados durante anos. Esses materiais costumam conter duplicações, contradições, versões vencidas e dados que não deveriam ser expostos.
Para cada fonte, registre:
- o assunto e as perguntas que ela pode responder;
- seu responsável interno;
- a data da última revisão;
- seu nível de confidencialidade;
- quais usuários podem consultá-la;
- qual documento prevalece quando há divergências.
Uma implementação comum recupera trechos autorizados de uma base documental e os inclui no contexto da resposta. Isso pode melhorar a relevância, mas não garante exatidão. O assistente deve se abster quando não encontrar evidências suficientes e, quando for útil para o cliente, indicar a fonte ou a data da informação.
Separe conversa, permissões e ações
O modelo pode interpretar uma solicitação, mas não deveria decidir sozinho quais dados tem permissão para ler ou qual operação pode executar. Autenticação, autorização e regras de negócio devem ser aplicadas fora do modelo por meio de controles verificáveis.
Essa separação é essencial quando o assistente consulta pedidos, altera horários, cria chamados ou interage com sistemas internos. O OWASP Top 10 para aplicações com modelos de linguagem identifica riscos como injeção de instruções, divulgação de informações sensíveis e autonomia excessiva.
Controles mínimos para uma integração
- Aplicar o princípio do menor privilégio a cada ferramenta conectada.
- Validar identidade, permissões e parâmetros antes de executar uma ação.
- Não armazenar senhas, chaves ou segredos nas instruções do assistente.
- Solicitar confirmação antes de operações com consequências para o cliente.
- Registrar ações e resultados sem conservar dados desnecessários.
- Estabelecer limites de uso, tempo e custo.
- Disponibilizar uma forma de interromper ou reverter a automação.
Trate a privacidade e o encaminhamento humano como partes do serviço
Antes de coletar dados, determine quais são realmente necessários para resolver a solicitação. Também é preciso definir onde eles serão processados, por quanto tempo serão conservados, quem poderá acessá-los, o que aparecerá nos registros e como serão atendidos pedidos relacionados a esses dados.
As orientações do ICO sobre IA e proteção de dados organizam essas decisões em torno de princípios como transparência, limitação da finalidade, minimização, exatidão, segurança e responsabilidade. As obrigações legais variam conforme a jurisdição, mas esses critérios são uma referência prática de projeto.
O usuário deve saber que está interagindo com um sistema automatizado, entender sua função e ter uma forma clara de solicitar atendimento humano. O encaminhamento não pode ser uma saída decorativa: ele deve transferir contexto suficiente para evitar que o cliente repita toda a conversa.
Casos que geralmente exigem encaminhamento
- O assistente não encontra evidências suficientes ou detecta informações conflitantes.
- A solicitação envolve uma reclamação sensível, uma exceção ou uma ameaça.
- É necessário interpretar documentos ou tomar uma decisão de impacto significativo.
- A identidade ou as permissões não podem ser verificadas.
- O cliente pede para falar com uma pessoa.
Teste conversas reais e meça qualidade, não apenas volume
Antes do lançamento, reúna perguntas reais e suas variações: frases incompletas, erros ortográficos, mudanças de assunto, tentativas de obter dados de outra pessoa e solicitações fora do escopo. Cada teste deve indicar o resultado esperado, as fontes permitidas e se o sistema deve responder, se abster ou encaminhar.
Nenhuma métrica isolada é suficiente. Um painel operacional pode combinar:
- respostas sustentadas por fontes autorizadas;
- erros críticos e respostas inventadas;
- encaminhamentos corretos e incorretos;
- solicitações resolvidas sem novo contato pelo mesmo motivo;
- ações canceladas, rejeitadas ou corrigidas;
- tempo de resposta e custo por interação;
- avaliações de clientes e agentes humanos.
As metas devem considerar o impacto do processo. Informar um horário de atendimento incorreto não tem a mesma consequência que alterar uma reserva, comunicar uma dívida ou interpretar uma condição contratual.
Checklist para passar de um teste à produção
- Documentar o objetivo, os usuários e os limites do assistente.
- Nomear responsáveis por conteúdo, operação, privacidade e segurança.
- Organizar as fontes e estabelecer um processo de atualização.
- Definir permissões e validações para cada integração.
- Criar regras claras de abstenção e encaminhamento humano.
- Preparar testes normais, ambíguos e adversariais.
- Definir métricas, limites de alerta e critérios de interrupção.
- Lançar inicialmente com escopo reduzido e revisar as conversas.
- Registrar incidentes, correções e mudanças de versão.
A implementação não termina quando o assistente começa a conversar. As políticas mudam, as fontes envelhecem e surgem novas formas de usar ou manipular o sistema. A revisão contínua faz parte do produto.
Próximo passo: escolha uma jornada de atendimento delimitada e complete este checklist com as pessoas que administram o processo. Se você precisa projetar fontes, integrações e controles como uma solução empresarial, a Ideasweb desenvolve soluções de inteligência artificial adaptadas a cada operação.
