Por qué los sistemas de agentes de IA se vuelven frágiles al crecer sin una arquitectura prevista
Las funciones añadidas sin una estructura prevista vuelven frágiles los sistemas con agentes de IA. Separar y revisar sus instrucciones permite mantenerlos comprensibles y fáciles de modificar.
Resumen del artículo publicado en nngroup.com y recomendado por Digital Skills Institute el 22 de octubre de 2026.
Los sistemas de trabajo con agentes de inteligencia artificial pueden volverse frágiles, un problema que importa a quienes los crean y utilizan porque llega a dificultar su mantenimiento. La IA permite añadir funciones con rapidez y poco esfuerzo, incluso sin conocimientos de programación. Sin una arquitectura prevista, esas ampliaciones pueden formar un sistema útil, pero difícil de dirigir, diagnosticar o reconstruir.
El deterioro suele comenzar con una solución provisional que acaba incorporándose al trabajo diario. Una persona dejó que Claude organizara una automatización para resumir correos, tareas y notas de reuniones en prioridades diarias; después siguió utilizándola sin revisar su estructura. El crecimiento por añadidos puede llevar mucho más lejos: una empleada creó un pequeño componente para mostrar el estado de proyectos de Asana sin obligar a consultar más de 50 tareas. Cuando los interesados interpretaron tareas sin marcar como proyectos paralizados, añadió un panel con más detalle. Más tarde fusionó ambas piezas en una herramienta para toda la organización, con visualizaciones y cálculos ponderados para prever fechas de finalización y registrar tiempos destinados a finanzas.
Cuando aparecen fallos, quienes dependen del sistema tienden a repararlos sobre la marcha. Un usuario reconectaba manualmente Todoist cada vez que fallaba su enlace con el terminal; otro continuó trabajando desde la carpeta Descargas tras recuperar allí archivos borrados por un fallo de su aplicación. Pedir a la IA que modifique los ficheros donde considere oportuno resuelve problemas inmediatos, pero reduce la comprensión humana del sistema.
También se acumula información sin ordenar porque el agente suele ser capaz de localizarla. Un usuario guardaba enlaces y artículos en una carpeta sin criterios de clasificación; cuando pidió material para un proyecto, la IA recuperó documentos equivocados y tuvo que dedicar 45 minutos a corregir las instrucciones. La reconstrucción empieza a plantearse cuando el sistema ya no se adapta al modo de trabajar, nadie entiende cómo está organizado o aparece una forma mejor de realizar las tareas.
Una prueba práctica consiste en preguntarse si se sabría qué cambiar en la biblioteca de contexto para modificar el funcionamiento del agente. Conviene distinguir entre contexto global, aplicable a todo el sistema; local, propio de una tarea o proyecto; y ambiental, procedente de flujos como el correo o las reuniones. Mantenerlos separados permite indicar cambios concretos: revisar periódicamente las instrucciones globales, trasladar al contexto local las que no sean generales y actualizar este último cuando fallen los resultados. Así se conserva la capacidad de decidir qué mantener o reconstruir antes de depender por completo de que la IA comprenda el sistema.
