Una solución de inteligencia artificial no empieza con la pregunta “¿qué herramienta usamos?”, sino con otra más útil: ¿qué tarea, decisión o recorrido necesita mejorar y cómo vamos a comprobarlo?
En Ideasweb trabajamos los proyectos de IA como parte de una operación real. Eso implica entender el contexto, acordar qué puede y qué no puede hacer la solución, revisar las fuentes que la alimentan y conservar mecanismos de supervisión. La tecnología importa, pero no reemplaza la definición del problema ni la responsabilidad de quienes la utilizan.
La IA aporta valor cuando reduce una fricción concreta sin volver opaco el proceso que pretende mejorar.
Este enfoque está alineado con criterios ampliamente utilizados para gestionar IA de forma confiable: gobernanza, comprensión del contexto, evaluación y gestión de riesgos. El AI Risk Management Framework de NIST organiza esas actividades en las funciones de gobernar, mapear, medir y gestionar. Por su parte, los principios de IA de la OCDE destacan la transparencia, la supervisión humana, la robustez y la rendición de cuentas según el contexto de uso.
1. Empezamos por el problema, no por el modelo
Antes de proponer una automatización, hacemos preguntas operativas. Por ejemplo: ¿el equipo tarda demasiado en encontrar información?, ¿se repiten respuestas de atención?, ¿hay datos dispersos que dificultan una tarea?, ¿un proceso requiere clasificar, resumir o derivar casos?
El objetivo no es incorporar IA por tendencia. Es delimitar una mejora observable y decidir si la IA es una alternativa razonable frente a cambios de proceso, mejores formularios, reglas tradicionales o capacitación.
Qué buscamos definir en esta etapa
- El usuario o equipo que enfrenta la fricción.
- La tarea actual y el punto exacto en que se demora, se repite o se cometen errores.
- El resultado esperado: orientar, clasificar, resumir, extraer, asistir o automatizar una acción acotada.
- Los casos que deben quedar fuera del alcance.
- La forma de medir si la solución ayuda de verdad.
Esta definición evita promesas genéricas como “automatizar todo” y permite construir una primera versión que se pueda revisar.
2. Delimitamos el alcance, las fuentes y los permisos
Una respuesta convincente no siempre es una respuesta correcta. Por eso, en soluciones que consultan información propia, priorizamos identificar qué fuentes son válidas, quién las mantiene y con qué frecuencia cambian.
También definimos qué datos puede consultar la solución y qué acciones puede ejecutar. Si una IA va a interactuar con sistemas internos, no debería recibir más permisos de los necesarios para resolver su tarea. El acceso, la trazabilidad y la posibilidad de intervención humana se diseñan desde el inicio, no después de un incidente.
Preguntas que conviene responder antes de conectar datos
- ¿Qué documentos, bases o sistemas serán la fuente de información?
- ¿Quién valida que ese contenido esté actualizado y sea apto para ese uso?
- ¿Qué datos personales, confidenciales o sensibles deben excluirse o protegerse?
- ¿La solución solo informa, propone una acción o puede ejecutarla?
- ¿Cuándo debe derivar el caso a una persona?
- ¿Qué registro quedará de las consultas, respuestas y acciones?
El marco AI RMF 1.0 de NIST plantea que la gestión de riesgos debe contemplarse durante el diseño, el desarrollo, la implementación y el uso. En la práctica, eso se traduce en no tratar las fuentes, los permisos y los responsables como detalles técnicos secundarios.
3. Diseñamos una experiencia con límites visibles
Una solución útil debe comunicar qué puede hacer, cuáles son sus límites y qué debe hacer la persona si el resultado no alcanza. Esto es especialmente importante en asistentes, buscadores internos y automatizaciones que producen texto o recomendaciones.
Según el caso, incorporamos mensajes de alcance, referencias a la información utilizada, opciones de corrección, derivación a un equipo responsable y controles de confirmación antes de ejecutar acciones relevantes. La meta no es trasladar toda la decisión a un sistema, sino ofrecer una ayuda clara y proporcionada al riesgo.
4. Probamos con casos reales antes de ampliar el uso
Antes de poner una solución a disposición de todos, armamos un conjunto de casos representativos: consultas frecuentes, situaciones ambiguas, solicitudes fuera de alcance, información incompleta y escenarios que requieren derivación.
Las pruebas no buscan demostrar que la IA “nunca falla”; buscan conocer cómo falla, en qué condiciones necesita más contexto y cuándo debe detenerse. Evaluamos, entre otros aspectos:
- Utilidad y precisión práctica de las respuestas o resultados.
- Respeto por las fuentes y las reglas definidas.
- Capacidad de reconocer incertidumbre o falta de información.
- Comportamiento ante instrucciones imprevistas o intentos de uso indebido.
- Calidad de la derivación a una persona o flujo alternativo.
- Registro suficiente para revisar incidentes y oportunidades de mejora.
NIST señala que gobernar, mapear, medir y gestionar no son pasos aislados ni una lista rígida: son funciones que se retroalimentan durante el ciclo de vida del sistema. Esa idea es central en nuestro trabajo: una implementación inicial debe generar aprendizaje, no cerrar la conversación.
5. Acompañamos la puesta en operación y la mejora
Publicar una solución no significa que el proyecto terminó. Una vez en uso, revisamos consultas, errores recurrentes, derivaciones, cambios en las fuentes y señales de que el alcance necesita ajustarse.
La mejora puede consistir en actualizar contenidos, redefinir instrucciones, restringir una acción, sumar una validación o cambiar el recorrido del usuario. No todos los problemas se resuelven agregando más automatización.
Qué puede esperar una organización al trabajar este enfoque
El resultado esperado no es una promesa de respuestas perfectas. Es una solución enfocada, documentada y preparada para operar con mayor claridad. Cuando el caso lo justifica, el proceso puede incluir:
- Relevamiento de la necesidad y definición de objetivos.
- Diseño del flujo de usuario y de los puntos de supervisión.
- Revisión de fuentes, datos, integraciones y permisos.
- Construcción de una primera versión con alcance acotado.
- Pruebas con casos reales y criterios de aceptación.
- Implementación, seguimiento y mejoras priorizadas.
Una decisión práctica para empezar
Si estás evaluando IA para tu organización, elegí un proceso concreto y describilo en una página: quién lo realiza, qué información usa, dónde se traba, qué error sería inaceptable y cómo sabrías que mejoró. Con esa base, es posible decidir si conviene una solución de IA, qué controles necesita y cuál debería ser su primera versión.
¿Querés analizar una necesidad concreta? En Ideasweb desarrollamos soluciones de inteligencia artificial orientadas a procesos, experiencias y sistemas reales, con el alcance y los controles que requiere cada caso.
