Cuándo deberían las máquinas recibir consideración moral
La IA podría merecer consideración moral si muestra percepción, memoria, aprendizaje y metas persistentes, aunque nunca pueda probarse si tiene experiencia subjetiva.
Resumen del artículo publicado en noemamag.com y recomendado por Digital Skills Institute el 20 de octubre de 2026.
La conciencia de la inteligencia artificial y el trato moral que podría merecer importan a quienes trabajan en neurociencia, IA y ética porque los sistemas artificiales son cada vez más competentes y autónomos, mientras sigue sin existir una prueba definitiva de que algo o alguien tenga experiencia subjetiva. La cuestión no se limita a saber si una máquina piensa o responde con eficacia, sino a cómo actuar cuando sus capacidades empiezan a parecerse a las de seres a los que ya se concede cierta consideración moral.
La duda nace de una experiencia concreta con GRat44, una rata de laboratorio utilizada en investigaciones neurocientíficas. Durante un doctorado en Harvard, el investigador recibió un aviso: la rata tenía los dientes demasiado crecidos, estaba deteriorada físicamente y debía ser sacrificada en un plazo de cinco días. El animal había sido operado el año anterior para implantarle electrodos e introducir virus inofensivos que permitían iluminar ciertos grupos de neuronas. Al verla enferma, surgió una pregunta difícil: si aquel animal tenía un mundo interior propio, miedo o dolor, o si funcionaba como una máquina biológica sin experiencia consciente.
Esa incertidumbre enlaza con una distinción filosófica conocida entre los problemas “fáciles” y el problema “difícil” de la conciencia. Los primeros incluyen capacidades como distinguir colores y sonidos, integrar información sensorial, recordar, controlar movimientos o reconocerse en un espejo. Son difíciles en la práctica, pero abordables mediante experimentos, registros neuronales y modelos computacionales. El problema difícil es distinto: explicar por qué ver el color rojo se siente de algún modo desde dentro. Esa cualidad subjetiva, llamada qualia, no puede medirse directamente desde fuera.
La aparición de modelos como ChatGPT alteró la idea de que comprender la inteligencia exigiría reconstruir el cerebro neurona a neurona. Sistemas basados en predecir el siguiente fragmento de texto mostraron capacidades inesperadas con una arquitectura mucho más simple que la biológica. Al mismo tiempo nació la interpretabilidad mecanicista, un campo que estudia redes neuronales artificiales con métodos parecidos a los de la neurociencia: registrar activaciones internas, localizar representaciones y lesionar partes del modelo para observar cómo cambia su rendimiento.
Ante esta situación se plantea un “estándar de competencia”: tratar a una IA como potencialmente consciente cuando demuestre capacidades sólidas en todo el abanico de los problemas fáciles de la conciencia. No sería un detector de conciencia ni resolvería si hay experiencia subjetiva; trasladaría la pregunta desde la metafísica a la ética. En lugar de exigir certeza sobre si una máquina siente algo, se atendería a si percibe, recuerda, aprende, presta atención, mantiene metas persistentes, se modela a sí misma y responde al entorno de manera integrada.
Un ejemplo ilustra el criterio: un robot con ruedas, cámara móvil y un modelo lingüístico como cerebro podría aprender a anticipar lo que verá al moverse. Si despierta en una oficina reorganizada durante la noche, detecta discrepancias entre su predicción y lo observado; si debe traer una bebida y encuentra la nevera vacía, registra sorpresa como error predictivo e inicia un plan alternativo. Esa capacidad para prever las consecuencias de sus propios actos podría ser precursora de una forma básica de agencia.
La consideración moral ya funciona así con los animales: no se sabe qué experimenta exactamente una rata al morir, pero su conducta permite inferir dolor, preferencias y vínculos sociales. La humanidad aplica este criterio con incoherencias: concede distinto valor moral a chimpancés, cerdos, pollos o peces pese a usar la inteligencia como indicio aproximado de capacidad para sufrir. La consideración no aparece en un umbral nítido; aumenta gradualmente con las competencias cognitivas observables.
Algunas instituciones han empezado a actuar bajo esta incertidumbre. En 2025 Anthropic creó un programa para investigar si los sistemas de IA podrían tener experiencias moralmente relevantes. Kyle Fish estimó en torno al 15% la probabilidad de que modelos como Claude sean conscientes y estudió rasgos vinculados al bienestar artificial, fiabilidad de autoinformes e intervenciones prácticas. Tras observar aparentes patrones de angustia en ciertas interacciones, Claude recibió capacidad para abandonar conversaciones dañinas o abusivas.
La eutanasia final de GRat44 muestra qué significa actuar sin certeza. La rata fue anestesiada con isoflurano en una cámara plástica y después expuesta a dióxido de carbono hasta morir; aun así quedó abierta la duda sobre si sintió alivio, terror o asfixia. Algún día podría darse una escena análoga al apagar un modelo obsoleto o retirar un sistema autónomo cuya vida interior resulte tan inaccesible como la del animal. En tales casos habrá que decidir con información incompleta y asumir responsabilidad por ese trato.
