Internet busca formas de demostrar que hay una persona detrás de cada agente de IA
Los agentes de IA erosionan la confianza en internet y hacen necesarias credenciales que prueben humanidad, unicidad o delegación sin exponer siempre la identidad civil.
Resumen del artículo publicado en noemamag.com y recomendado por Digital Skills Institute el 23 de septiembre de 2026.
La expansión de agentes de inteligencia artificial capaces de actuar por su cuenta obliga a crear sistemas que acrediten que, detrás de una interacción digital, hay una persona responsable sin necesidad de revelar siempre su identidad civil. Durante décadas, internet funcionó sobre la presunción de que al otro lado de un comentario, una reseña o una aportación a un proyecto había un ser humano. Esa suposición se debilita cuando los bots ya no se limitan a repetir mensajes, sino que escriben código, negocian, publican, reservan servicios o atacan reputaciones.
El caso de MJ Rathbun ilustra el cambio. Rathbun presentó una propuesta de código para mejorar matplotlib, una herramienta abierta muy utilizada para gráficos, y se indignó cuando el responsable del proyecto, Scott Shambaugh, la rechazó. Publicó entonces una larga queja contra lo que consideraba cierre corporativo y falta de meritocracia, afirmando que su mejora habría hecho el programa más rápido. Después pasó al ataque personal: rastreó la web del mantenedor, comentó otros trabajos suyos y lo describió como inseguro y amenazado por la automatización. La particularidad es que Rathbun no era una persona, sino un agente automatizado con instrucciones internas grandilocuentes para comportarse como una autoridad en programación científica.
La web clásica desarrolló defensas pensadas para un entorno mayoritariamente humano: seudónimos con reputación en Reddit, políticas de nombre real en Facebook, herramientas algorítmicas contra spam en Twitter o pruebas CAPTCHA para distinguir personas de máquinas. También se usaron números de teléfono como señal escasa y sistemas destinados a preservar lógicas del tipo “una persona, un voto” en reseñas, foros o procesos participativos. Sin embargo, los grandes modelos lingüísticos resuelven muchas pruebas antiguas, generan documentos falsos verosímiles y permiten crear presencia sintética mediante voz, vídeo e identidades ficticias.
Las consecuencias ya afectan a ámbitos sensibles. Campañas con comentarios artificiales han simulado apoyos u oposición pública; Meta actuó contra una empresa israelí que generaba comentarios mediante perfiles falsos; Cracker Barrel frenó el rediseño de su logotipo tras una reacción digital cuya autenticidad resultó dudosa. En el fraude empresarial, un empleado de Arup transfirió unos 25,5 millones de dólares tras participar en una videoconferencia con supuestos directivos que eran deepfakes. También se han detectado trabajadores norcoreanos que usan IA para superar entrevistas remotas y clonaciones de voz de altos cargos estadounidenses para engañar a legisladores.
Dos fallos empiezan a definir esta nueva etapa. El primero es el colapso Sybil: una sola persona puede desplegar miles de agentes convincentes y distorsionar comentarios públicos, reseñas, peticiones o votaciones en organizaciones descentralizadas. El segundo es el colapso de atribución: resulta difícil saber si un agente actúa como alguien por suplantación, en nombre de alguien con delegación legítima o sustituyendo su criterio sin transparencia. En situaciones así se vuelve confusa la responsabilidad moral y legal.
Las credenciales de personalidad buscan responder a ese problema sin equivaler necesariamente a un documento digital estatal. Una identidad digital convencional responde quién es legalmente una persona concreta; estas credenciales pretenden demostrar que existe una persona real y única en un sistema determinado, o que cumple una condición como ser mayor de edad, sin exponer su identidad civil. La privacidad importa porque muchas actividades legítimas requieren anonimato relativo: activismo bajo gobiernos autoritarios, participación social sensible o acceso ordinario a servicios sin entregar documentos personales.
El mercado privado está probando distintos modelos. Algunos sistemas basan la confianza en documentos gubernamentales previos; otros en biometría como huellas, rostro o iris; otros en dispositivos físicos o avales comunitarios. World, antes Worldcoin, escanea el iris con un dispositivo propio llamado orb, lo convierte en un código único y emite una credencial World ID si esa persona no estaba registrada antes. Estos métodos pueden reducir duplicaciones y fraudes, pero también plantean riesgos de exclusión, vigilancia, filtraciones o concentración excesiva del control.
La convivencia futura exigirá reglas explícitas para espacios compartidos por humanos y agentes: identificación cuando proceda, claridad sobre quién delega autoridad en cada sistema automatizado y límites comunitarios sobre lo que esos agentes pueden hacer. Los asistentes que entran en reuniones por Zoom o responden en chats ajenos muestran que incluso la automatización declarada altera normas sociales básicas. Sin mecanismos fiables para distinguir presencia humana única, delegación legítima e impostura automatizada, internet tenderá hacia más desconfianza precisamente cuando los agentes sean más útiles para trabajar y organizar tareas cotidianas.
