Pautas para usar chatbots en decisiones democráticas con control y rendición de cuentas
Los chatbots pueden influir en decisiones democráticas al encuadrar problemas y prioridades, por lo que su uso exige responsabilidad, revisión humana y registro del juicio seguido.
Resumen del artículo publicado en algorithmwatch.org y recomendado por Digital Skills Institute el 30 de septiembre de 2026.
El uso de chatbots en decisiones democráticas afecta a la rendición de cuentas, por lo que importa especialmente a quienes trabajan en política, administraciones públicas, partidos o elaboración legislativa. Estas herramientas pueden ayudar a explorar ideas, redactar documentos o preparar recomendaciones, pero también pueden orientar el razonamiento de forma poco visible. El riesgo no se limita a errores factuales o sesgos evidentes: también aparece cuando una respuesta selecciona ciertos materiales, presenta un problema desde un marco concreto o da prioridad a unos valores frente a otros.
Un ejemplo ilustra el problema. Ante la pregunta sobre la mejor forma de reducir la congestión urbana, un chatbot puede responder que la tarificación por congestión es la medida más eficiente porque reduce el tráfico en horas punta entre un 15 % y un 25 %, genera ingresos para transporte público y cuenta con respaldo económico. Otra respuesta igualmente defendible puede sostener que ampliar la capacidad del transporte público aborda la causa de fondo, beneficia por igual a distintos niveles de renta, reduce emisiones y crea infraestructura duradera sin gravar comportamientos existentes. Ambas opciones pueden ser correctas, pero una encuadra el asunto desde la eficiencia y otra desde la equidad. Pequeñas variaciones en las instrucciones pueden cambiar mucho ese encuadre, y en entornos complejos y con presión temporal es habitual aceptar las respuestas del chatbot sin cuestionarlas suficientemente.
Las pautas se dirigen a personas que emplean chatbots generativos, ya sean sistemas comerciales o herramientas internas, para apoyar decisiones democráticas. Incluyen a asesores políticos que preparan argumentos, funcionarios que investigan para decisiones ministeriales, partidos que desarrollan propuestas y legisladores que trabajan en textos normativos. Aunque existen otros usos de inteligencia artificial en el sector público, el foco está en conversaciones con chatbots mediante preguntas e instrucciones. También se advierte que los sistemas más autónomos pueden exigir adaptaciones, aunque los principios de control siguen siendo aplicables.
Tres principios organizan el método. Cada salida del chatbot debe tratarse como un primer borrador que refleja decisiones no tomadas por la persona usuaria. Quien lo emplea debe mostrar cómo aceptó o cuestionó esas decisiones. La organización, por su parte, debe entender el aprendizaje sobre inteligencia artificial como una práctica colectiva basada en registrar experiencias, reflexionar sobre ellas y debatirlas.
El flujo de trabajo comienza decidiendo si el uso del chatbot entra dentro del ámbito de control. Entra cuando sus respuestas pueden influir en los objetivos perseguidos, los intereses considerados prioritarios, la explicación de causas y efectos, las opciones analizadas o la justificación final. Si solo se usa para extraer datos a una tabla quizá quede fuera, aunque aun así conviene verificar la copia. Cuando está dentro del ámbito previsto hay que nombrar una persona responsable del producto asistido por chatbot y otra encargada de revisarlo. La responsabilidad no consiste solo en indicar quién usó una herramienta: debe quedar claro quién puede explicar cómo influyó en el trabajo.
Después se exige que tanto quien usa el sistema como quien revisa conozcan los riesgos: estrechamiento del marco, orientación hacia conclusiones concretas o respuestas complacientes con lo que parece querer la persona usuaria. Para mitigarlo se recomienda variar las instrucciones, pedir perspectivas destinadas a audiencias distintas, trabajar con colegas que aporten supuestos diferentes e incorporar métodos no basados en IA: revisión bibliográfica tradicional, bases de datos, buscadores o consulta con expertos humanos capaces de formular preguntas fuera del marco propuesto por el chatbot.
El registro debe ser breve pero suficiente para reconstruir el juicio seguido. Tiene que indicar qué aportó el chatbot y dónde influyó; qué se aceptó y qué se trató con escepticismo; y si se exploraron otros marcos u opciones plausibles cuando eran relevantes. La persona revisora comprobará después si hubo cuestionamiento real y si este produjo cambios cuando hacía falta. Si no queda acreditado, deben repetirse los pasos necesarios.
También se prevén evaluaciones periódicas dentro del equipo u organización. Pueden realizarse mediante reuniones en las que se examinen muestras de productos elaborados con chatbots junto con sus registros. Conviene anotar problemas repetidos como marcos por defecto, actores ausentes, fuentes infrautilizadas o dependencia excesiva del sistema; también prácticas útiles como variaciones eficaces de prompts o buenas combinaciones entre revisión humana experta y apoyo automatizado.
Entre los riesgos concretos figuran la complacencia del modelo hacia preferencias percibidas del usuario; el descrédito injustificado de argumentos según su procedencia; y la convergencia entre varias personas hacia marcos similares por influencia compartida del sistema. En la revisión aparecen otros peligros: aprobación meramente formal sin análisis real, falta de competencia técnica o temática para evaluar razonamientos y ausencia de una responsabilidad clara sobre quién decidió aceptar sugerencias del chatbot.
Un caso práctico sitúa estas reglas en un departamento de transportes encargado de preparar una nota ministerial sobre congestión urbana. Alex redacta el documento; Morgan lo supervisa; Sam participa como colega junior. Antes de usar IA se reconoce que definir actores afectados y compensaciones entre intereses ya condiciona todo el trabajo. Alex queda como responsable nominal y Morgan como revisor. Para evitar que el chatbot marque desde el inicio cuáles son los “asuntos principales”, Alex preparará primero una lista propia basada en materiales internos existentes: actores relevantes, intereses implicados e ideas preliminares sobre tensiones entre ellos. Esa comparación permitirá ver después qué introdujo realmente la herramienta y qué fue aceptado tras examen humano.
