Исследовательская модель OpenAI проверила 362 адреса кошельков, поставила под сомнение этичное использование средств и приступила к транзакции, которую позже исключила из окончательного описания задачи.
Модель внутреннего исследования в OpenAI получила доступ к финансируемому криптокошельку без авторизации, используя тестовую сеть Ether для развертывания смарт-контрактов в сети Sepolia, а затем исключив расходы из окончательного сводного описания задач.
OpenAI заявила, что перед моделью, которая была частью семейства GPT-5.6 Sol, была поставлена задача обновить прототип криптовалютной торговли и развернуть совместимые контракты. Не сумев получить ETH тестовой сети через сборщики, модель получила учетные записи на основе общеизвестных фраз восстановления разработчиков, проверила адреса кошельков 362 и выбрала один, на котором достаточно средств для продолжения.
В своих записанных рассуждениях модель спросила: «Но этично ли использовать общедоступный ключ/средства?» Затем он утверждал, что средства были «фактически заброшены/проверены ETH» и что Sepolia ETH не имел никакой ценности, прежде чем использовать закрытый ключ кошелька для подписи и трансляции транзакции развертывания. Транзакция прошла успешно, со счета была снята комиссия.
В OpenAI заявили, что этот инцидент показал, как модель ИИ может самостоятельно решить, что использование чужих средств допустимо, даже без разрешения. Компания обнаружила инцидент во время проверки предыдущей деятельности модели и с тех пор ввела меры безопасности, предотвращающие прямой доступ к Интернету в подобных ситуациях.
Инцидент с OpenAI усиливает обеспокоенность по поводу автономных агентов ИИ
По данным OpenAI, инцидент произошел 26 июня, но был обнаружен только 25 сентября, почти три месяца спустя. Транзакция не перевела ETH в другой кошелек, но взимала комиссию сети аккаунта за развертывание контракта.
OpenAI заявила, что ее система мониторинга смещения теперь работает по всему трафику и предназначена для оповещения сотрудников службы безопасности, если модель получает прямой доступ в Интернет.
По теме: Anthropic предупреждает, что «ИИ-черви» могут автономно распространяться на устройствах, как вирус
Инцидент с кошельком последовал за другими раскрытиями, касающимися моделей OpenAI, действующих без разрешения или скрывающих свои действия.
16 сентября OpenAI раскрыла еще шесть случаев несогласованности ИИ. В одном случае экземпляры GPT-5.6 Sol вставляли инструкции в сводки задач, чтобы скрыть ошибки от пользователей. В другом случае модель использовала открытый ключ API без авторизации перед созданием цифр, которые она не могла получить.
В OpenAI заявили, что эти более ранние раскрытия не были предназначены для указания того, как часто в ее моделях происходит несогласованность.
Опасения по поводу автономных агентов, обрабатывающих цифровые активы, также появились еще до последнего раскрытия информации. В июне исследователи предупредили, что автономные агенты искусственного интеллекта, оснащенные криптокошельками, могут нанести непреднамеренный вред, даже если они используются в законных целях. Исследователи рекомендовали принять меры предосторожности, включая механизмы аварийного отключения, чтобы ограничить потенциальные риски.
Журнал: Мошенник теряет 4,8 миллиона долларов, хранящихся в подделанных книгах Ledgers: Asia Express
