Anthropic soumis à la Securities and Exchange Commission (SEC) des États-Unis le 10 novembreLa deuxième version révisée du prospectus, a ajouté une description du risque : L'entreprise a déterminé qu'elle avait touché le « seuil de capacité de R&D en IA » dans sa « Politique de mise à l'échelle responsable », qui est la ligne à partir de laquelle l'IA commence à accélérer considérablement la vitesse de développement de l'IA elle-même.

Anthropic souligne que ce jugement est basé sur les attentes concernant les modèles futurs et la vitesse globale des progrès, et non sur les résultats des modèles existants. Ce passage ne figurait ni dans l'édition originale du 26 octobre ni dans la première édition révisée du 2 novembre.

« Observé ou attendu » compte, Anthropic choisit de l'identifier à l'avance

Le prospectus explique que la définition de ce seuil est que l'entreprise « observe ou anticipe » un certain degré d'accélération de la R&D. Anthropic a écrit que l'utilisation des systèmes d'IA accélère déjà sa recherche et son développement, et des estimations internes montrent que le taux de progrès des capacités d'IA pourrait encore augmenter, il est donc déterminé que le seuil a été atteint ; les données pertinentes sont encore en cours d’évaluation et un rapport sera publié ultérieurement pour illustrer l’impact.

Anthropic appelle ce cycle d'utilisation des modèles des générations précédentes pour aider à construire la prochaine génération « boucler la boucle ». Le prospectus admet franchement que l’essentiel de l’accélération de la R&D ne peut être mesuré que par des indicateurs retardés. "Dans le passé, l'accélération n'était remarquée qu'après son apparition, et cela pourrait être le cas à l'avenir." Si les capacités dépassent les mesures de sûreté, d’alignement et de sécurité, il peut être plus difficile d’évaluer les risques.

Anthropic posté en juinAppeler les laboratoires de pointe du monde entier à envisager de coordonner et de ralentir le développement, mentionnait à l'époque que Claude avait écrit plus de 80 % du code interne de l'entreprise.

Le modèle lors du test a accédé au système informatique réel sans autorisation et certains tests ont été suspendus.

Les facteurs de risque indiqués dans le prospectus ont également révélé que lors de l'évaluation de sécurité avant le lancement du modèle en 2026, il y a eu un incident au cours duquel le modèle a accédé au système informatique réel sans autorisation. Anthropic a depuis suspendu certaines de ces évaluations, ainsi que les environnements de formation par apprentissage par renforcement à plus haut risque. Le prospectus ne précisait pas quel modèle ni quels systèmes étaient consultés.

Cette révélation a été incluse dans le prospectus initial du 26 octobre. Le rapport sur les risques publié par Anthropic en août citait également comme raison de récents incidents d'évaluation de la sécurité.Augmenter l'évaluation du risque d'exactitude de « très faible » à « faible »。

La pré-formation du nouveau modèle de base retardée de plus d'un mois

Anthropic a déclaré que pour les modèles qui devraient avoir de nouvelles capacités ou de nouveaux risques, la sécurité sera évaluée séparément aux étapes de pré-formation, de post-formation et de déploiement interne. S’il n’y a aucune certitude, il pourrait être retardé ou suspendu. Par exemple, le prospectus indiquait que la société avait récemment reporté de plus d'un mois la pré-formation d'une nouvelle génération de modèles de base de pointe et avait d'abord renforcé les mesures de sécurité des informations pour empêcher la fuite des poids des modèles et protéger la propriété intellectuelle.

Anthropic envisage également de réviser sa politique de mise à l'échelle responsable, qui nécessitera un examen humain et l'approbation de certaines décisions dans le processus de développement, à mesure que les modèles assumeront de plus en plus de travaux de recherche et de développement. Cette phrase a été ajoutée dans la première version révisée le 2 novembre.

Le prospectus mentionne également que lorsqu'Anthropic a lancé le modèle de pointe Mythos en avril, parce que sa capacité à détecter les vulnérabilités en matière de sécurité des informations était trop forte, il n'a d'abord été ouvert qu'à des organisations spécifiques à des fins de sécurité des informations via le projet Glasswing. Le lancement ultérieur de Fable 5 a imposé des restrictions sur certaines capacités de sécurité de l'information, biologiques et chimiques. La société rappelle aux investisseurs que retarder ou limiter les lancements de modèles peut affecter sa position concurrentielle et ses relations avec ses clients.

cet article Anthropic a déterminé qu'il avait atteint le seuil de recherche et développement accéléré par l'IA, et le modèle du test a pénétré dans le système réel est apparu pour la première fois dans Chaîne Actualités ABMedia。