Near AI a révélé une violation qui a exposé les informations de compte appartenant à environ 100 utilisateurs et les données de 18 agents AI après qu'un attaquant a exploité un logiciel exécutant ses serveurs.
La société a déclaré dans un rapport du 9 novembre qu'un attaquant avait utilisé une vulnérabilité d'exécution de code à distance dans SGLang, un moteur open source qui exécute des modèles d'IA et génère des réponses aux demandes des utilisateurs.
L’exploit a permis à l’intrus d’exécuter des commandes sur un serveur d’inférence, puis d’atteindre d’autres parties de l’infrastructure de Near AI.
Prix BTC le 15 novembre à 16h59 UTC
Les enquêteurs ont retracé l'intrusion jusqu'à un système interne connecté au chat privé, une fonctionnalité que l'entreprise avait déjà retirée. L'attaquant a téléchargé les noms et adresses e-mail d'environ 100 utilisateurs, ainsi que les informations sur le plan d'abonnement et le solde du compte pour certains d'entre eux.
18 autres agents ont été consultés sur un ancien déploiement d'agents Near AI, où l'attaquant a récupéré leurs historiques de discussion, leurs paramètres et leurs journaux. Ces agents ne fonctionnaient pas dans l’environnement informatique confidentiel de NEAR AI, conçu pour protéger les informations de l’entreprise exploitant les serveurs.
Les journaux ont également exposé les clés API NEAR AI Cloud appartenant à deux clients. Ces clés fonctionnent comme des informations d'identification numériques que les applications utilisent pour accéder aux services cloud ; Near AI affirme avoir révoqué les deux, mais n'a pas précisé si l'attaquant les avait utilisés.
Confidential AI a un problème logiciel
Near AI n’a trouvé aucune indication selon laquelle des conversations de chat privé stockées ou des fichiers téléchargés avaient été consultés. Le vol confirmé concernait des enregistrements de comptes et des données d'agents hérités, tandis que la divulgation de demandes confidentielles en direct reste une possibilité identifiée par l'enquête.
Near AI fait partie de l’écosystème Near plus large, qui promeut la confidentialité de l’IA parallèlement à ses ambitions en matière de blockchain. Son produit Cloud utilise des environnements d'exécution de confiance, ou TEE, pour garder les invites d'IA cryptées et isolées des opérateurs de serveur, même pendant que les modèles les traitent.
L'isolation matérielle ne garantit pas la sécurité des logiciels présents dans l'environnement protégé. "Cela ne protège pas contre une vulnérabilité dans le logiciel exécuté dans l'environnement", a reconnu Near AI, expliquant que la faille SGLang permettait à l'attaquant d'exécuter du code là où des requêtes confidentielles étaient traitées.
C’est particulièrement gênant pour une entreprise qui vend la confidentialité comme fonctionnalité essentielle. En octobre, Near AI a annoncé que l’assistant de navigation Leo de Brave utilisait son infrastructure d’inférence confidentielle pour un modèle d’IA pris en charge, bien que le rapport d’incident n’identifie pas les utilisateurs de Brave parmi les personnes concernées.
SGLang avait déjà attiré l'attention des chercheurs en sécurité. En juillet, le centre de coordination CERT de l'université Carnegie Mellon a documenté six vulnérabilités dans le projet, y compris des bogues qui pourraient permettre aux attaquants d'exécuter des commandes ou d'exposer des informations d'identification, en fonction de la configuration des serveurs.
Near AI n’a pas identifié la faille SGLang spécifique exploitée dans cet incident, il n’y a donc aucune base permettant de lier la violation à l’une de ces divulgations antérieures. Il a signalé la vulnérabilité aux développeurs de SGLang.
Near, à son honneur, n’a pas tardé à résoudre les problèmes.
"Lors de la détection, nous avons révoqué toutes les sessions actives et les informations d'identification administratives, remplacé tous les jetons d'agent, mis le chat privé hors ligne et déployé un correctif pour la vulnérabilité SGLang sur tous les serveurs d'inférence", indique le projet.
"Nous avons terminé la rotation de toutes les informations d'identification restantes et un examen médico-légal complet. Nous avons informé les utilisateurs dont les détails du compte ou les agents que nous avons confirmés ont été consultés et effectuerons toutes les notifications réglementaires nécessaires."
Near AI a informé les utilisateurs dont les enregistrements de compte ou les agents ont été consultés et a déclaré qu'il effectuerait toutes les notifications réglementaires requises. Il a également averti les utilisateurs de se méfier des messages non sollicités faisant référence à leurs comptes ou soldes Near AI, et a contacté individuellement les propriétaires des 18 agents concernés.
Bulletin de débriefing quotidien
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.
Rejoignez plus de 72 000 lecteurs
