Uma solução de inteligência artificial não deve começar com “qual ferramenta vamos usar?”. Uma pergunta mais útil é: qual tarefa, decisão ou jornada precisa melhorar e como vamos verificar isso?
Na Ideasweb, tratamos projetos de IA como parte de uma operação real. Isso significa entender o contexto, combinar o que a solução pode e não pode fazer, revisar as fontes que a sustentam e preservar formas de supervisão humana. A tecnologia importa, mas não substitui a definição do problema nem a responsabilidade de quem a utiliza.
A IA gera valor quando reduz uma fricção específica sem tornar opaco o processo que pretende melhorar.
Essa abordagem está alinhada a critérios amplamente usados para gerir riscos de IA confiável: governança, compreensão do contexto, avaliação e gestão de riscos. O AI Risk Management Framework do NIST organiza essas atividades em governar, mapear, medir e gerir. Os Princípios de IA da OCDE também destacam transparência, supervisão humana, robustez e prestação de contas conforme o contexto de uso.
1. Começamos pelo problema, não pelo modelo
Antes de propor uma automação, fazemos perguntas operacionais. A equipe leva muito tempo para encontrar informações? As respostas de atendimento se repetem? Dados dispersos dificultam uma tarefa? Um processo precisa classificar, resumir ou encaminhar casos?
O objetivo não é adotar IA por tendência. É definir uma melhoria observável e avaliar se a IA é uma opção adequada em comparação com mudanças de processo, formulários melhores, regras convencionais ou treinamento.
O que buscamos definir nesta etapa
- O usuário ou a equipe que enfrenta a fricção.
- A tarefa atual e o ponto exato em que ela é lenta, repetitiva ou sujeita a erros.
- O resultado esperado: orientar, classificar, resumir, extrair, apoiar ou automatizar uma ação limitada.
- Os casos que devem ficar fora do escopo.
- A forma de medir se a solução realmente ajuda.
Essa definição evita promessas amplas como “automatizar tudo” e permite construir uma primeira versão que possa ser revisada.
2. Delimitamos escopo, fontes e permissões
Uma resposta convincente nem sempre é uma resposta correta. Por isso, quando uma solução consulta informações internas, priorizamos identificar quais fontes são válidas, quem as mantém e com que frequência mudam.
Também definimos quais dados a solução pode consultar e quais ações pode executar. Se uma IA interage com sistemas internos, ela não deve receber mais permissões do que o necessário para cumprir sua tarefa. Acesso, rastreabilidade e possibilidade de intervenção humana são projetados desde o início, e não depois de um incidente.
Perguntas a responder antes de conectar dados
- Quais documentos, bancos de dados ou sistemas fornecerão as informações?
- Quem confirma que o conteúdo está atualizado e é apropriado para esse uso?
- Quais dados pessoais, confidenciais ou sensíveis devem ser excluídos ou protegidos?
- A solução apenas informa, sugere uma ação ou pode executá-la?
- Quando ela deve encaminhar o caso para uma pessoa?
- Que registro ficará das consultas, respostas e ações?
O AI RMF 1.0 do NIST estabelece que a gestão de riscos deve ser considerada no design, desenvolvimento, implantação e uso. Na prática, isso significa que fontes, permissões e responsáveis não são detalhes técnicos secundários.
3. Projetamos uma experiência com limites visíveis
Uma solução útil deve comunicar o que pode fazer, quais são seus limites e o que a pessoa deve fazer quando o resultado não for suficiente. Isso é especialmente importante em assistentes, buscadores internos e automações que produzem textos ou recomendações.
Conforme o caso, incluímos avisos de escopo, referências às informações utilizadas, opções de correção, encaminhamento para uma equipe responsável e controles de confirmação antes de ações relevantes. A meta não é transferir toda decisão para um sistema, mas oferecer apoio claro e proporcional ao risco.
4. Testamos com casos reais antes de ampliar o uso
Antes de disponibilizar uma solução para todos, preparamos casos representativos: perguntas frequentes, situações ambíguas, pedidos fora de escopo, informações incompletas e cenários que exigem encaminhamento humano.
Os testes não servem para provar que a IA “nunca falha”. Eles servem para entender como ela falha, em quais condições precisa de mais contexto e quando deve parar. Avaliamos:
- Utilidade e precisão prática das respostas ou resultados.
- Respeito às fontes e regras definidas.
- Capacidade de reconhecer incerteza ou falta de informação.
- Comportamento diante de instruções inesperadas ou tentativas de uso indevido.
- Qualidade do encaminhamento para uma pessoa ou fluxo alternativo.
- Registro suficiente para revisar incidentes e oportunidades de melhoria.
O NIST explica que governar, mapear, medir e gerir não são etapas isoladas nem uma lista rígida: são funções que se informam mutuamente durante o ciclo de vida do sistema. Esse princípio é central no nosso trabalho: uma implementação inicial deve gerar aprendizado, e não encerrar a conversa.
5. Acompanhamos a entrada em operação e a melhoria
Publicar uma solução não significa que o projeto terminou. Depois que ela entra em uso, revisamos consultas, erros recorrentes, encaminhamentos, mudanças nas fontes e sinais de que o escopo precisa ser ajustado.
A melhoria pode envolver atualizar conteúdos, refinar instruções, restringir uma ação, acrescentar uma validação ou mudar um fluxo de usuário. Nem todo problema é resolvido com mais automação.
O que uma organização pode esperar desta abordagem
O resultado esperado não é uma promessa de respostas perfeitas. É uma solução focada, documentada e preparada para operar com mais clareza. Quando o caso justifica, o processo pode incluir:
- Levantamento da necessidade e definição de objetivos.
- Desenho do fluxo do usuário e dos pontos de supervisão.
- Revisão de fontes, dados, integrações e permissões.
- Construção de uma primeira versão com escopo limitado.
- Testes com casos reais e critérios de aceitação.
- Implementação, acompanhamento e melhorias priorizadas.
Uma forma prática de começar
Se você está avaliando IA para sua organização, escolha um processo específico e descreva-o em uma página: quem o realiza, quais informações utiliza, onde ele trava, qual erro seria inaceitável e como você saberia que melhorou. Com essa base, é possível decidir se uma solução de IA é adequada, quais controles ela precisa e qual deve ser sua primeira versão.
Quer analisar uma necessidade concreta? Na Ideasweb, desenvolvemos soluções de inteligência artificial voltadas para processos, experiências e sistemas reais, com o escopo e os controles que cada caso exige.
