La seguridad de la IA exige evaluar sus respuestas, no solo revisar sus instrucciones
La seguridad de un modelo de IA no se demuestra con sus instrucciones: hay que evaluar sus respuestas en condiciones reales, incluidos los daños y los rechazos injustificados.
Resumen del artículo publicado en techpolicy.press y recomendado por Digital Skills Institute el 15 de octubre de 2026.
Quienes desarrollan o auditan modelos de inteligencia artificial no pueden demostrar su seguridad presentando únicamente las instrucciones que reciben. Tendrían que comprobar qué respuestas producen en las condiciones en que se utilizan, incluidas las respuestas peligrosas y los rechazos injustificados a peticiones seguras.
Las instrucciones de sistema son indicaciones en lenguaje natural fijadas por el desarrollador y prioritarias frente a las del usuario. Pueden ordenar al modelo que evite facilitar información para fabricar armas o sustancias dañinas. Al ser legibles, permiten documentar decisiones, registrar cambios e identificar quién modificó una instrucción y por qué. Sin embargo, expresan una intención: sus efectos pueden variar según la redacción, el formato, la longitud del contexto, otras medidas de protección y el modelo utilizado.
Los cambios introducidos en sistemas conocidos muestran esa incertidumbre. xAI detectó y revirtió una modificación no autorizada de las instrucciones de Grok que lo llevó a difundir afirmaciones falsas sobre un «genocidio blanco». OpenAI modificó las instrucciones de GPT-4o tras las críticas por su comportamiento excesivamente complaciente. En ambos casos hicieron falta ajustes posteriores.
Términos como «veraz», «orientado a la verdad» o «ideológicamente neutral» plantean otra dificultad para quien regula estos sistemas. Una persona puede interpretar esas expresiones mediante criterios sociales e institucionales, mientras que el modelo responde a patrones aprendidos durante su entrenamiento. Exigirle que busque la verdad deja abiertas preguntas concretas: si debe citar fuentes, expresar incertidumbre, distinguir hechos de opiniones o rechazar premisas falsas.
Una supervisión centrada en la redacción podría certificar instrucciones formalmente adecuadas aunque el modelo no las cumpla. También podría pasar por alto comportamientos determinados mediante ajustes posteriores al entrenamiento o código oculto en las instrucciones. Por eso, la documentación debería relacionar cada versión y sus motivos de cambio con resultados observados y condiciones de uso. Las evaluaciones tendrían que incluir pruebas adversariales en distintos contextos e idiomas y repetirse tras cada modificación relevante.
