Anthropic был представлен Комиссии по ценным бумагам и биржам США (SEC) 10 ноября.Вторая пересмотренная версия проспекта эмиссии, добавил описание риска: Компания определила, что достигла «порога возможностей исследований и разработок ИИ» в своей «Политике ответственного масштабирования», которая представляет собой линию, на которой ИИ начинает значительно ускорять скорость разработки самого ИИ.

Anthropic подчеркивает, что это суждение основано на ожиданиях от будущих моделей и общей скорости прогресса, а не на том, чего достигли существующие модели. Этот отрывок не появился ни в оригинальном издании от 26 октября, ни в первом исправленном издании от 2 ноября.

«Наблюдаемое или ожидаемое» имеет значение, Anthropic решает определить это заранее.

В проспекте объясняется, что определение этого порога заключается в том, что компания «наблюдает или ожидает» определенную степень ускорения НИОКР. Anthropic написала, что использование систем искусственного интеллекта уже ускоряет исследования и разработки, а внутренние оценки показывают, что темпы прогресса в возможностях искусственного интеллекта могут еще больше увеличиться, поэтому определено, что порог достигнут; соответствующие данные все еще оцениваются, и позже будет опубликован отчет, иллюстрирующий влияние.

Anthropic называет этот цикл использования моделей предыдущего поколения для создания следующего поколения «замыканием цикла». В проспекте откровенно признается, что большую часть ускорения НИОКР можно измерить только с помощью запаздывающих показателей. «В прошлом ускорение не было замечено до тех пор, пока оно не произошло, и это может иметь место в будущем». Если возможности превосходят меры безопасности, согласованности и защиты, оценить риски может быть сложнее.

Anthropic опубликован в июнеПризываем передовые лаборатории по всему миру рассмотреть возможность координации и замедления развития, упомянул тогда, что Клод написал более 80% внутреннего кода компании.

Модель во время испытаний получила доступ к реальной компьютерной системе без авторизации, и некоторые испытания были приостановлены.

Факторы риска в проспекте также показали, что во время оценки безопасности перед запуском модели в 2026 году произошел инцидент, когда модель получила доступ к реальной компьютерной системе без авторизации. С тех пор Anthropic приостановила некоторые из этих оценок, а также среду обучения с подкреплением с повышенным риском. В проспекте не уточнялось, к какой модели или к каким системам осуществлялся доступ.

Это разоблачение было включено в первоначальный проспект эмиссии 26 октября. В отчете о рисках, опубликованном Anthropic в августе, в качестве причины также упоминались недавние инциденты, связанные с оценкой безопасности.Повысить рейтинг риска точности с «очень низкого» до «низкого».。

Предварительное обучение новой базовой модели затянулось более чем на месяц

В Anthropic заявили, что для моделей, которые, как ожидается, будут иметь новые возможности или новые риски, безопасность будет оцениваться отдельно на этапах предварительного обучения, после обучения и внутреннего развертывания. Если нет уверенности, его могут отложить или приостановить. Например, в проспекте указано, что недавно компания более чем на месяц отложила предварительную подготовку нового поколения передовых базовых моделей и сначала усилила меры информационной безопасности для предотвращения утечки весов моделей и защиты интеллектуальной собственности.

Anthropic также рассматривает возможность пересмотра своей политики ответственного масштабирования, которая потребует человеческого анализа и одобрения определенных решений в процессе разработки, поскольку модели требуют все большего количества исследований и разработок. Это предложение было добавлено в первую исправленную версию от 2 ноября.

В проспекте также упоминалось, что, когда в апреле Anthropic запустила передовую модель Mythos, поскольку ее способность находить уязвимости информационной безопасности была слишком сильной, сначала она была открыта только для определенных организаций в целях информационной безопасности через Project Glasswing. Более поздний запуск Fable 5 установил ограничения на некоторую информационную безопасность, биологические и химические возможности. Компания напоминает инвесторам, что отсрочка или ограничение запуска моделей может повлиять на конкурентную позицию и отношения с клиентами.

Эта статья Anthropic определила, что достигла порога ускоренных исследований и разработок ИИ, а модель в тесте вторглась в реальную систему. впервые появился в Новости сети ABMedia。