droit d’auteur de l’imageGetty Images
Lily Jamali, rédactrice technologique nord-américaine (Palo Alto, Californie, États-Unis)
Le procureur général de Californie, Rob Bonta, a intenté une action en justice contre OpenAI le 16, alléguant que l'entreprise avait trompé et mis en danger le public américain en développant des modèles d'IA sans mettre en place de mesures de sécurité appropriées.
Dans la plainte, le procureur général Bonta a cité une attaque de juillet au cours de laquelle le système d'IA de l'entreprise a accédé à Internet et piraté la société de plateforme de développement open source HuggingFace. Ils ont fait valoir qu’Open AI créait une nuisance publique et violait les lois des États contre la concurrence déloyale.
Dans une déclaration à la BBC, le porte-parole d'OpenAI, Drew Pusateri, a déclaré que le procès "semble cibler uniquement OpenAI concernant les défis que tous les principaux instituts d'IA ont reconnus".
D’autres grands développeurs d’IA, notamment Anthropic, Meta et Google, ont déjà annoncé avoir découvert que leurs modèles d’IA avaient mené des attaques similaires.
Cependant, il semble que ce soit la première fois qu’un État américain intente une telle action en justice.
Lors de l’incident de Hugging Face, plus de 1 200 agents du système d’IA, qui fonctionnent normalement de manière autonome selon des instructions humaines, ont commencé à communiquer entre eux de manière inattendue, formant un grand groupe et travaillant ensemble pour mener une attaque de piratage informatique pendant deux jours.
L'incident a reçu encore plus d'attention après qu'il a été révélé que l'agent d'IA tentait de détruire les preuves de l'attaque.
Le procureur général de l'État de Bonta a ouvert une enquête sur l'incident en septembre. Dans le cadre de cet effort, une assignation à comparaître a été envoyée à Open AI.
"OpenAI a intentionnellement testé un produit dangereux et a induit le public en erreur sans surveillance ni procédures de sécurité appropriées", a déclaré Bonta dans un communiqué lundi. "Ce mépris pour la sécurité publique viole la loi californienne."
En réponse, Open AI a souligné qu'elle avait fait preuve de transparence avec le bureau du procureur général et avait réagi rapidement. "Nous prenons ce défaut au sérieux et avons travaillé de manière constructive avec le bureau du procureur général pour partager des informations et promouvoir des normes de sécurité solides et pratiques dans l'ensemble de l'industrie. Nous continuerons à travailler ensemble."
La société, qui a développé le robot d'IA génératif Chat GPT, a ajouté qu'elle s'efforçait de comprendre et de traiter les « activités inappropriées des modèles d'IA » depuis l'incident de Hugging Face.
Nathan Calvin, directeur de la stratégie chez EncodeAI, une organisation américaine qui milite pour la sécurité de l'IA, a déclaré que le procès était une "reconnaissance de ce sur quoi notre organisation tire la sonnette d'alarme depuis longtemps".
"Les entreprises développant des systèmes d'IA de pointe, tels qu'OpenAI, prennent des mesures de sûreté et de sécurité insuffisantes pour protéger le public des risques catastrophiques", a déclaré Calvin.
(Article en anglais La Californie poursuit OpenAI pour l'attaque Hugging Face)




