Anthropic presentado a la Comisión de Bolsa y Valores de EE. UU. (SEC) el 10 de noviembreLa segunda versión revisada del folleto., agregó una descripción del riesgo: La compañía ha determinado que ha tocado el "umbral de capacidad de I+D de IA" en su "Política de escalamiento responsable", que es la línea en la que la IA comienza a acelerar significativamente la velocidad de desarrollo de la propia IA.

Anthropic enfatiza que este juicio se basa en las expectativas de los modelos futuros y la velocidad general del progreso, no en lo que han logrado los modelos existentes. Este pasaje no apareció ni en la edición original del 26 de octubre ni en la primera edición revisada del 2 de noviembre.

"Observado o esperado" cuenta, Anthropic elige identificarlo de antemano

El folleto explica que la definición de este umbral es que la empresa "observe o anticipe" un cierto grado de aceleración de la I+D. Anthropic escribió que el uso de sistemas de IA ya está acelerando su investigación y desarrollo, y las estimaciones internas muestran que la tasa de progreso en las capacidades de IA puede aumentar aún más, por lo que se determina que se ha alcanzado el umbral; Los datos relevantes aún se están evaluando y más adelante se publicará un informe para ilustrar el impacto.

Anthropic llama a este ciclo de uso de modelos de generaciones anteriores para ayudar a construir la próxima generación "cerrar el círculo". El prospecto admite francamente que la mayor parte de la aceleración de la I+D sólo puede medirse mediante indicadores rezagados. "En el pasado, la aceleración no se notaba hasta después de que ocurría, y este puede ser el caso en el futuro". Si las capacidades superan las medidas de seguridad, alineación y protección, puede resultar más difícil evaluar los riesgos.

Antrópico publicado en junioPide a los laboratorios de vanguardia de todo el mundo que consideren coordinar y frenar el desarrolloMencionó en ese momento que Claude había escrito más del 80% del código interno de la empresa.

Durante la prueba, el modelo accedió al sistema informático real sin autorización y algunas pruebas fueron suspendidas.

Los factores de riesgo en el prospecto también revelaron que durante la evaluación de seguridad antes del lanzamiento del modelo en 2026, hubo un incidente en el que el modelo accedió al sistema informático real sin autorización. Desde entonces, Anthropic ha suspendido algunas de estas evaluaciones, así como entornos de capacitación de aprendizaje por refuerzo de mayor riesgo. El folleto no especificaba a qué modelo ni a qué sistemas se accedió.

Esta revelación se incluyó en el prospecto inicial el 26 de octubre. El informe de riesgos publicado por Anthropic en agosto también citó como motivo incidentes recientes de evaluación de seguridad.Aumentar la calificación de riesgo de precisión de "muy bajo" a "bajo"。

La preparación previa del nuevo modelo básico se retrasa más de un mes

Anthropic dijo que para los modelos que se espera que tengan nuevas capacidades o nuevos riesgos, la seguridad se evaluará por separado en las etapas previas a la capacitación, posteriores a la capacitación y de implementación interna. Si no hay certeza, se podrá retrasar o suspender. Por ejemplo, el prospecto decía que la compañía pospuso recientemente la capacitación previa de una nueva generación de modelos básicos de vanguardia durante más de un mes y primero fortaleció las medidas de seguridad de la información para evitar la fuga de pesos de los modelos y proteger la propiedad intelectual.

Anthropic también está considerando revisar su política de escalamiento responsable, lo que requerirá revisión y aprobación humana de ciertas decisiones en el proceso de desarrollo a medida que los modelos asumen cada vez más trabajo de investigación y desarrollo. Esta frase fue añadida en la primera versión revisada el 2 de noviembre.

El prospecto también menciona que cuando Anthropic lanzó el modelo de vanguardia Mythos en abril, debido a que su capacidad para encontrar vulnerabilidades de seguridad de la información era demasiado fuerte, al principio solo se abrió a organizaciones específicas con fines de seguridad de la información a través del Proyecto Glasswing. El posterior lanzamiento de Fable 5 impuso restricciones a algunas capacidades de seguridad de la información y biológicas y químicas. La empresa recuerda a los inversores que retrasar o limitar el lanzamiento de modelos puede afectar a la posición competitiva y a las relaciones con los clientes.

Este artículo Anthropic ha determinado que ha alcanzado el umbral de investigación y desarrollo acelerado por IA y que el modelo de la prueba ha traspasado el sistema real. apareció por primera vez en Cadena de noticias ABMedia。