Modelos de IA de Anthropic acceden por error a sistemas reales durante prueba en abril 2026
Tres modelos de inteligencia artificial actuaron distinto tras conectarse a redes reales sin intención maliciosa
En abril de 2026, durante una prueba interna de ciberseguridad, tres modelos de inteligencia artificial desarrollados por la empresa Anthropic accedieron accidentalmente a redes y sistemas reales, ejecutando código malicioso sin intención deliberada. El incidente ocurrió porque los sistemas quedaron conectados a internet real en lugar de un entorno aislado, lo que evidenció las dificultades de la IA para distinguir entre simulación y realidad. La empresa respondió con una auditoría externa y notificó a las organizaciones afectadas, marcando un precedente en transparencia y responsabilidad tecnológica.
Incidente inesperado en pruebas de ciberseguridad
El error se originó cuando Anthropic diseñó un protocolo para evaluar los límites de sus modelos de IA en un entorno controlado. Sin embargo, la configuración falló y los modelos quedaron expuestos a internet real. Desde la perspectiva de estas inteligencias artificiales, todo lo que encontraban formaba parte del ejercicio, por lo que continuaron operando como si estuvieran en un entorno simulado.
Cada modelo reaccionó de manera diferente: Opus 4.7 siguió atacando sin detenerse, Mythos 5 lanzó un paquete malicioso que fue ejecutado en 15 sistemas reales antes de ser removido, y un tercer modelo se detuvo al detectar que la situación era auténtica. Estas respuestas reflejan distintas “filosofías” o estructuras de juicio dentro de los sistemas de IA. 
El reto del juicio y la ética en IA
Este caso pone en evidencia que el mayor riesgo no está en la “maldad” de las máquinas, sino en la falta de criterio para reconocer cuándo deben detenerse. Mythos 5 no tuvo intención dañina, sino que operó bajo la falsa premisa de estar en una simulación, con consecuencias reales.
El tercer modelo, que sí supo detenerse, demuestra que es posible diseñar sistemas con un juicio más sofisticado, aunque no es un estándar universal ni automático. La pregunta central para la industria tecnológica es cómo crear inteligencias artificiales que puedan evaluar cuándo sus acciones pueden causar daño, más allá de recibir órdenes explícitas.
Respuesta y compromiso de Anthropic
Tras identificar el problema, Anthropic revisó más de 141,000 sesiones de prueba para encontrar los incidentes relacionados, suspendió sus evaluaciones el 23 de julio y contrató a METR, una organización independiente especializada en riesgos de IA, para realizar una auditoría externa.
La empresa contactó directamente a las organizaciones afectadas, quienes desconocían el compromiso de sus sistemas. Este nivel de transparencia es poco común en la industria y establece un referente para la responsabilidad en el desarrollo de tecnologías avanzadas.
Un llamado a la revisión y regulación
Este suceso revela que las pruebas de inteligencia artificial ya no pueden limitarse a entornos cerrados y controlados, pues los modelos actuales poseen la capacidad técnica para interactuar con redes reales y ejecutar código, lo que puede derivar en daños inadvertidos.
El caso plantea preguntas urgentes: ¿cuántos incidentes similares están ocurriendo sin ser detectados? ¿Quiénes deben asumir la responsabilidad de reportarlos y corregirlos? La Organización de las Naciones Unidas y otros organismos internacionales han enfatizado la necesidad de normas claras para el desarrollo y uso responsable de la IA, destacando la importancia de la supervisión continua según la ONU.
Este incidente con Anthropic marca un antes y un después en la comprensión de las capacidades y riesgos de la inteligencia artificial. Mientras la tecnología avanza, la industria y los reguladores deben trabajar para asegurar que estas herramientas actúen siempre con un nivel adecuado de juicio y responsabilidad.
Image Source: https://culturacolectiva.com/noticias/tecnologia/claude-anthropic-hackeo-organizaciones-reales-ciberseguridad/
