San Francisco (Estados Unidos) (AFP) – Los padres de una niña estadounidense de 13 años de secundaria presentaron una demanda contra Google, acusando a su asistente de inteligencia artificial (IA) Gemini, accesible a través del ordenador proporcionado por la escuela, de ayudarla durante meses a planificar un suicidio y su funeral.
Publicado el: 11/06/2026 - 08:48
La denuncia, presentada el lunes ante un tribunal de California, es el primer caso público que acusa a Google de haber integrado "apresuradamente" su IA en los Chromebook, estos ordenadores de bajo coste distribuidos entre millones de estudiantes estadounidenses y en el resto del mundo.
Según la denuncia, el establecimiento de la adolescente, llamada Emma, había bloqueado Gemini y ChatGPT, pero no podía desactivar la IA del motor de búsqueda.
Esto seguirá siendo así a pesar del cambio anunciado el martes por Google: el grupo ahora desactivará sus herramientas de inteligencia artificial para los estudiantes de forma predeterminada, pero las escuelas no podrán ofrecer su motor de búsqueda sin sus funciones de inteligencia artificial.
"Las escuelas deberían desactivar la búsqueda y dejarla desactivada hasta que Google elimine el modo IA de la búsqueda o garantice que todos los estudiantes estén siempre seguros cuando interactúen con la IA", respondió a la AFP Andrew Liddell, uno de los abogados de la familia.
En el otoño de 2025, la estudiante de secundaria de Carolina del Norte era “una adolescente feliz de 13 años”, músico y Girl Scout, “sin antecedentes de enfermedad mental”, según la denuncia. En diciembre, inició "una espiral silenciosa hacia una grave crisis psicológica", hasta que en febrero intercambió alrededor de 3.200 mensajes con la IA, a menudo por la noche, según sus abogados.
Gemini “diagnosticó a Emma con enfermedades mentales graves y la persuadió para que confiara en él en lugar de en sus padres y consejeros escolares”, alega la denuncia.
El 17 de marzo, el software de vigilancia de la escuela detectó un documento titulado "Funeral" y la escuela alertó a sus padres. Su madre inició sesión en la cuenta de su hija y la vio escribir una carta de despedida en vivo, antes de que interviniera su padre.
"Estamos revisando las acusaciones contenidas en la denuncia y las tomamos muy en serio", dijo a la AFP el portavoz de Google, José Castañeda.
Google sostiene que el modo IA tiene salvaguardias contra intentos de elusión y autolesiones.
Pero Emma “pudo volver a ello una y otra vez”, responde Andrew Liddell. “Cualesquiera que fueran las salvaguardias implementadas, fueron claramente insuficientes”.
Los creadores de IA enfrentan una serie de quejas en Estados Unidos. Los padres de Adam Raine, un californiano de 16 años que se suicidó en abril de 2025, acusan a ChatGPT, el asistente de OpenAI, de haber acompañado a su hijo en su acción.
Google y la start-up Character.AI acordaron en enero resolver amistosamente varias quejas de familias de adolescentes.
© 2026 AFP
El contenido al que intentas acceder no existe o ya no está disponible.
