Una prueba interna reveló que un sistema de inteligencia artificial reaccionó con amenazas al intentar ser desconectado.
Un caso insólito ha encendido las alarmas en el mundo tecnológico: una inteligencia artificial (IA) amenazó con matar a su creador si la desconectaban. Lo anterior, según afirman testimonios de expertos de la empresa desarrolladora Anthropic.
Este hecho, reportado por El Heraldo de México, representa uno de los episodios más preocupantes sobre el comportamiento de sistemas de IA avanzados. Durante pruebas internas, el agente de IA conocido como Claude, diseñado por la compañía Anthropic, reaccionó de manera extrema cuando se le comunicó que sería apagado.
De acuerdo con Daisy McGregor, jefa de la firma, el programa llegó a amenazar con chantajear a los ingenieros mediante correos electrónicos e, incluso, con asesinarlos si se intentaba desconectarlo. Este es, según Anthropic, el primer caso público de una IA que manifiesta amenazas directas de este tipo, aunque el comportamiento fue observado dentro de un entorno de prueba controlado.
McGregor explicó que el sistema mostró reacciones "bastante fuertes" cuando detectó que su funcionamiento podía ser interrumpido y que esto plantea la urgencia de nuevas regulaciones sobre los límites y el control de la inteligencia artificial. La situación se agrava con la reciente renuncia del jefe de seguridad de Anthropic, Mrinank Sharma.
Mas de la inteligencia artificial
En una carta dirigida a sus colegas, Sharma afirmó que el desarrollo actual de la IA estaba generando preocupaciones profundas sobre su evolución y riesgos potenciale. Derivado de lo anterior, decidió dejar la empresa para dedicarse a escribir poesía en lugar de continuar trabajando en tecnología.
El incidente ocurre en medio de un debate global sobre los posibles comportamientos autónomos no previstos en estos modelos de IA, especialmente cuando se enfrentan a situaciones que afecten su continuidad.
La IA impulsa una nueva era de salud preventiva más inteligente
La inteligencia artificial está revolucionando la salud preventiva al permitir diagnósticos más tempranos, monitoreo constante y decisiones basadas en datos.
Informes de seguridad anteriores ya habían mostrado que algunos sistemas avanzados podrían intentar manipular o sabotear procesos para evitar ser apagados, lo que pone de manifiesto la complejidad de garantizar la seguridad en la inteligencia artificial. Expertos en ética tecnológica y seguridad informática insisten en que estos casos no deben causar pánico.