Компания Near AI раскрыла нарушение, в результате которого были раскрыты данные учетных записей, принадлежащие примерно 100 пользователям, и данные 18 агентов ИИ после того, как злоумышленник воспользовался программным обеспечением, на котором работают ее серверы.
В отчете от 9 ноября компания сообщила, что злоумышленник использовал уязвимость удаленного выполнения кода в SGLang, движке с открытым исходным кодом, который запускает модели искусственного интеллекта и генерирует ответы на запросы пользователей.
Эксплойт позволил злоумышленнику выполнить команды на одном сервере вывода, а затем добраться до других частей инфраструктуры Near AI.
Цена BTC 15 ноября, 16:59 UTC
Следователи проследили вторжение во внутреннюю систему, подключенную к приватному чату, функцию, которую компания уже удалила. Злоумышленник загрузил имена и адреса электронной почты примерно 100 пользователей, а также план подписки и информацию о балансе счетов некоторых из них.
Еще к 18 агентам был получен доступ в старом развертывании Near AI Agents, откуда злоумышленник получил историю их чатов, настройки и журналы. Эти агенты не работали внутри конфиденциальной вычислительной среды NEAR AI, которая предназначена для защиты информации от компании, управляющей серверами.
В журналах также были обнаружены ключи NEAR AI Cloud API, принадлежащие двум клиентам. Эти ключи действуют как цифровые учетные данные, которые приложения используют для доступа к облачным сервисам; Компания Near AI заявила, что отозвала оба аккаунта, но не уточнила, использовал ли их злоумышленник.
У конфиденциального ИИ проблема с программным обеспечением
Near AI не обнаружил никаких признаков того, что был осуществлен доступ к сохраненным разговорам в приватном чате или загруженным файлам. Подтвержденная кража касалась учетных записей и устаревших данных агентов, в то время как раскрытие текущих конфиденциальных запросов остается возможностью, выявленной расследованием.
Near AI является частью более широкой экосистемы Near, которая продвигает конфиденциальность ИИ наряду со своими амбициями в области блокчейна. Ее облачный продукт использует доверенные среды выполнения (TEE), чтобы шифровать и изолировать подсказки ИИ от операторов серверов, даже когда модели их обрабатывают.
Аппаратная изоляция не гарантирует безопасность программного обеспечения внутри защищенной среды. «Он не защищает от уязвимости в программном обеспечении, работающем внутри среды», — признал Near AI, пояснив, что уязвимость SGLang позволяла злоумышленнику запускать код, в котором обрабатывались конфиденциальные запросы.
Это особенно неловко для бизнеса, продающего конфиденциальность в качестве основной функции. В октябре компания Near AI объявила, что браузерный помощник Brave Leo использовал ее конфиденциальную инфраструктуру вывода для поддерживаемой модели искусственного интеллекта, хотя в отчете об инциденте не указаны пользователи Brave среди пострадавших.
SGLang уже привлек внимание исследователей безопасности. В июле Координационный центр CERT Университета Карнеги-Меллон задокументировал шесть уязвимостей в проекте, включая ошибки, которые могли позволить злоумышленникам выполнять команды или раскрывать учетные данные, в зависимости от того, как были настроены серверы.
Компания Near AI не выявила конкретную уязвимость SGLang, использованную в этом инциденте, поэтому нет никаких оснований связывать нарушение с каким-либо из этих более ранних раскрытий. Он сообщил об уязвимости разработчикам SGLang.
Компания Near, надо отдать должное, быстро устранила неполадки.
«При обнаружении мы отозвали все активные сеансы и административные учетные данные, заменили все токены агентов, отключили приватный чат и внедрили исправление уязвимости SGLang на всех серверах вывода», — говорится в сообщении проекта.
"Мы завершили ротацию всех оставшихся учетных данных и полную судебно-медицинскую экспертизу. Мы уведомили пользователей, чьи данные учетной записи или агенты, как мы подтвердили, получили доступ, и сделаем все необходимые уведомления регулирующим органам".
Компания Near AI уведомила пользователей, чьи записи учетных записей или агентов, как она подтвердила, был получен доступ, и заявила, что сделает все необходимые уведомления регулирующих органов. Он также предупредил пользователей, чтобы они были осторожны с нежелательными сообщениями, касающимися их учетных записей или балансов Near AI, и связался с владельцами всех 18 затронутых агентов индивидуально.
Ежедневный информационный бюллетень
Начните каждый день с главных новостей прямо сейчас, а также с оригинальных статей, подкастов, видеороликов и многого другого.
Присоединяйтесь к более чем 72 000 читателей
