Near AI ha revelado una infracción que expuso información de cuentas pertenecientes a unos 100 usuarios y datos de 18 agentes de IA después de que un atacante explotara el software que ejecutaba sus servidores.
La compañía dijo en un informe del 9 de noviembre que un atacante utilizó una vulnerabilidad de ejecución remota de código en SGLang, un motor de código abierto que ejecuta modelos de inteligencia artificial y genera respuestas a las solicitudes de los usuarios.
El exploit permitió al intruso ejecutar comandos en un servidor de inferencia y luego llegar a otras partes de la infraestructura de Near AI.
Precio de BTC el 15 de noviembre a las 4:59 p.m. UTC
Los investigadores rastrearon la intrusión hasta un sistema interno conectado a Private Chat, una característica que la empresa ya había retirado. El atacante descargó nombres y direcciones de correo electrónico de aproximadamente 100 usuarios, junto con información sobre el plan de suscripción y el saldo de la cuenta de algunos de ellos.
Se accedió a otros 18 agentes en una implementación anterior de Near AI Agents, donde el atacante recuperó sus historiales de chat, configuraciones y registros. Esos agentes no se ejecutaban dentro del entorno informático confidencial de NEAR AI, que está diseñado para proteger la información de la empresa que opera los servidores.
Los registros también expusieron las claves API de NEAR AI Cloud que pertenecen a dos clientes. Estas claves funcionan como credenciales digitales que las aplicaciones utilizan para acceder a los servicios en la nube; Near AI dice que revocó ambos, pero no dijo si el atacante los usó.
La IA confidencial tiene un problema de software
Near AI no encontró indicios de que se hubiera accedido a conversaciones de chat privado almacenadas o archivos cargados. El robo confirmado involucró registros de cuentas y datos heredados de agentes, mientras que la exposición de solicitudes confidenciales en vivo sigue siendo una posibilidad identificada por la investigación.
Near AI es parte del ecosistema Near más amplio, que ha estado promoviendo la privacidad de la IA junto con sus ambiciones de blockchain. Su producto en la nube utiliza entornos de ejecución confiables, o TEE, para mantener las indicaciones de IA cifradas y aisladas de los operadores de servidores, incluso mientras los modelos las procesan.
El aislamiento del hardware no garantiza que el software dentro del entorno protegido sea seguro. "No protege contra una vulnerabilidad en el software que se ejecuta dentro del entorno", reconoció Near AI, explicando que la falla SGLang permitió al atacante ejecutar código donde se procesaban solicitudes confidenciales.
Esto es particularmente incómodo para una empresa que vende la privacidad como característica principal. En octubre, Near AI anunció que el asistente de navegador Leo de Brave estaba utilizando su infraestructura de inferencia confidencial para un modelo de IA compatible, aunque el informe del incidente no identifica a los usuarios de Brave entre los afectados.
SGLang ya había atraído el escrutinio de investigadores de seguridad. En julio, el Centro de Coordinación CERT de la Universidad Carnegie Mellon documentó seis vulnerabilidades en el proyecto, incluidos errores que podrían permitir a los atacantes ejecutar comandos o exponer credenciales, dependiendo de cómo se configuraron los servidores.
Near AI no identificó la falla SGLang específica explotada en este incidente, por lo que no hay base para vincular la violación con ninguna de esas divulgaciones anteriores. Informó la vulnerabilidad a los desarrolladores de SGLang.
Near, hay que reconocerlo, solucionó rápidamente los problemas.
"Al detectarlo, revocamos todas las sesiones activas y credenciales administrativas, reemplazamos todos los tokens de agente, desconectamos el chat privado e implementamos una solución para la vulnerabilidad SGLang en todos los servidores de inferencia", decía el proyecto.
"Hemos completado la rotación de todas las credenciales restantes y una revisión forense completa. Hemos notificado a los usuarios cuyos detalles de cuenta o agentes que hemos confirmado fueron accedidos y realizaremos las notificaciones reglamentarias que sean necesarias".
Near AI notificó a los usuarios cuyos registros de cuentas o agentes confirmó que fueron accedidos y dice que realizará las notificaciones regulatorias requeridas. También advirtió a los usuarios que tuvieran cuidado con los mensajes no solicitados que hicieran referencia a sus cuentas o saldos de Near AI, y se puso en contacto con los propietarios de los 18 agentes afectados individualmente.
Boletín informativo diario
Comience cada día con las noticias más importantes del momento, además de funciones originales, un podcast, videos y más.
Únase a más de 72.000 lectores
