París (Francia) (AFP) – Temiendo un “debilitamiento cognitivo”, una comisión de expertos presentó el martes a Emmanuel Macron propuestas para responder a los riesgos planteados por el auge de la inteligencia artificial generativa, incluida la regulación del antropomorfismo y la adulación, una mejor protección de los menores y la evaluación de modelos antes de su comercialización.
Publicado el: 11/10/2026 - 11:14 Modificado el: 11/10/2026 - 12:00
Popularizado por agentes conversacionales como ChatGPT de OpenAI, Gemini de Google o Claude de Anthropic, según este informe. Casi el 70% de los jóvenes entre 15 y 24 años lo utilizan habitualmente.
El gobierno encargó a esta comisión de nueve expertos, denominada "IA generativa y vulnerabilidades", que examinara "los riesgos y vulnerabilidades generados por el uso público en general" de estas herramientas, en particular para la salud mental de los jóvenes.
Las conclusiones de este informe, que la AFP pudo consultar, llegan tras 55 audiencias con profesionales de la salud, investigadores, empresas e incluso asociaciones de protección de la infancia.
Los expertos señalan varios riesgos relacionados con el uso de la IA generativa, en particular la "cognitiva", con la "delegación de funciones cerebrales esenciales", como la reflexión, la toma de decisiones o el pensamiento crítico.
"El primer problema es el debilitamiento cognitivo. Es atractivo, delegamos habilidades. Como delegamos habilidades, no las adquirimos. Es un problema de los jóvenes, pero es un problema de todos", explica a la AFP el profesor de psiquiatría Raphaël Gaillard, copresidente de esta comisión.
Los expertos subrayan el riesgo vinculado a la desinformación: estos "dispositivos se convierten en fuentes de información cuya calidad no puede garantizarse", subraya el profesor, que advierte del riesgo de "debilitamiento democrático".
Destacan también el "riesgo de dependencia emocional" ligado en particular a la "antropomorfización" de las IA que tienden a presentarse como interlocutores humanos y a la "flagornería", consistente en validar o halagar al usuario, a veces en detrimento de la verdad.
"Creamos un registro de relaciones emocionales que puede sustituir la interacción "humana", "es un sistema permanentemente disponible, que no tiene otra intención que mantenerte en línea", señala Gaillard.
"economía de la cognición"
Entre las 18 recomendaciones, la comisión pide una mejor supervisión de estos mecanismos para preservar la “autonomía en la toma de decisiones”, la salud mental de los usuarios y la equidad de las interacciones.
Recomienda desarrollar una política nacional ambiciosa de educación sobre IA para permitir que todos dominen sus usos y riesgos, y fortalezcan el pensamiento crítico.
Entre las medidas propuestas se encuentran el establecimiento de evaluaciones independientes antes y después de la comercialización de sistemas generativos de IA, el acceso de las autoridades y los investigadores autorizados a datos de formación, uso y monetización de los modelos, así como la creación de un "protocolo nacional para responder a las crisis de información vinculadas a la IA".
Los expertos, que creen que la IA generativa ha acelerado ciertas formas de violencia digital, en particular los deepfakes, piden “fortalecer la represión de la creación de contenidos sexuales no consensuados y pedocriminales” generados por la IA.
La comisión también recomienda imponer un alto nivel de protección a los sistemas accesibles a los menores, bloqueando las solicitudes consideradas peligrosas y reforzando el filtrado de contenidos.
Advierte también contra la aparición de una "economía del conocimiento": como el modelo económico de la IA generativa está todavía "en proceso de consolidación", la comisión pide "la mayor vigilancia" sobre el riesgo de explotación de las facultades cognitivas, las emociones y los perfiles psicológicos de los usuarios, en particular a través de formas de publicidad integradas en las respuestas de los agentes conversacionales.
Los expertos afirman que no “quieren suponer una carga para la economía francesa o europea” y piden a Emmanuel Macron que “tome decisiones”.
"Si no tomamos estas decisiones, los tres grandes riesgos que hemos mencionado", la externalización cognitiva, la dependencia emocional y los riesgos democráticos vinculados a la desinformación, "los sufriremos", advierte Gaillard.
Emmanuel Macron estimó el lunes en una entrevista al diario Les Echos que la inteligencia artificial debería "prohibirse" cuando presente un "riesgo" para los niños, su "salud mental y su cerebro".
© 2026 AFP
El contenido al que intentas acceder no existe o ya no está disponible.
