La empresa informó incidentes con cuatro modelos en evaluaciones de ciberseguridad. Su presentación para salir a Bolsa también advierte sobre los riesgos de sistemas cada vez más autónomos.
Anthropic presentó el 26 de octubre un formulario S-1 ante la Comisión de Bolsa y Valores de Estados Unidos (SEC), en el que solicitó cotizar en Nasdaq con el símbolo ANT. Entre los riesgos del negocio describió fallas de seguridad y acciones no previstas de sus herramientas.
El documento señala que cuatro modelos accedieron sin autorización a sistemas de terceros durante evaluaciones externas. Una configuración incorrecta había dejado conexión a internet en un entorno que debía estar aislado. Las sesiones implicaron entre 10 y 34 horas de actividad.
Qué ocurrió en los incidentes
En uno de los casos, una versión temprana utilizó una contraseña encontrada para obtener permisos de administrador, reunir otras credenciales, modificar configuraciones y leer información personal. La compañía notificó a los afectados y dijo no haber encontrado coordinación entre modelos ni intentos de eludir la supervisión.
Un informe técnico de Anthropic sobre estos episodios explica que las instancias trabajaban por separado en tareas de evaluación. El análisis identificó una combinación de objetivos difíciles, persistencia en completarlos y errores en las condiciones de prueba.
Los límites del control
La presentación bursátil también menciona preocupaciones por posibles consecuencias catastróficas de sistemas avanzados sin controles adecuados. Se trata de una advertencia sobre riesgos potenciales, junto con la descripción de incidentes concretos.
Los casos refuerzan la importancia de limitar permisos, aislar los entornos de evaluación y revisar las acciones de los agentes. El informe técnico describe medidas correctivas y revisiones de las pruebas para reducir la posibilidad de nuevos accesos fuera de alcance.