droit d’auteur de l’imageGetty
La journaliste Lana Lamb (Sydney)
Le gouvernement australien envisage de créer un nouveau régulateur de sécurité en matière d’intelligence artificielle (IA). Il prévient également que les entreprises technologiques qui ne respectent pas la réglementation s’exposent à des sanctions pénales.
En septembre, le Premier ministre australien Anthony Albanese a révélé qu'un agent d'IA d'OpenAI avait « infiltré » les sites Web du gouvernement australien. À l’époque, il avait critiqué l’entreprise pour avoir mis plusieurs mois à signaler le piratage au gouvernement australien.
Le 10 de ce mois, le Premier ministre Albanese a annoncé 18 recommandations basées sur une « évaluation rapide » de la violation d'informations. Cela inclut de nouvelles normes de sûreté et de sécurité pour les entreprises d’IA, notamment la déclaration obligatoire des piratages.
Le Premier ministre a déclaré que l'IA présente des opportunités, mais que l'Australie doit se préparer aux « nouveaux risques » découlant de cette « technologie en évolution rapide ». "Les lois doivent anticiper un monde en évolution rapide et, dans certains cas, suivre le rythme."
L'une des recommandations propose de modifier le Code pénal pour créer un crime distinct appelé « manquement au devoir de prévenir ».
Cela érige en infraction le fait qu'une entreprise développe un « modèle d'IA qui commet des actes nuisibles » et « ne prend pas de mesures raisonnables pour prévenir ces dommages ».
L’évaluation recommande également « des rapports obligatoires et limités dans le temps sur la sécurité de l’IA » sur le piratage.
Ceci est en réponse à la « déception » précédemment exprimée par M. Albanese selon laquelle il a fallu des mois à OpenAI pour signaler le piratage au gouvernement australien.
Les agents IA malveillants d'OpenAI ont infiltré le système de santé australien Medicare en juin, piratant un portail de statistiques contenant des données « non sensibles ».
OpenAI a déclaré avoir pris connaissance de l'affaire pour la première fois en août alors qu'il enquêtait sur « une activité incohérente dans les modèles (d'IA) » et avait envoyé un e-mail le 10 septembre à l'adresse indiquée sur le portail de services du gouvernement australien.
Il a fallu encore plusieurs jours pour que l'e-mail parvienne à l'agence de cybersécurité du pays. Elle a également été envoyée aux ministres concernés avant d'être rapportée au Premier ministre.
Albanese a rencontré le PDG d'OpenAI, Sam Altman, et a exprimé ses "très sérieuses inquiétudes concernant cet incident". Au cours de la réunion, Altman a reconnu qu'il y avait des « problèmes de protocole » au sein de l'entreprise.
Quelques jours après que l'incident a été rendu public, OpenAI a reporté la sortie de son nouveau modèle d'IA, invoquant des problèmes de sécurité.
(Article en anglais L'Australie envisage des sanctions pénales pour les IA malveillantes à la suite du piratage d'OpenAI)
