Sauvegarder

L'Australie obligera les sociétés d'intelligence artificielle à signaler immédiatement lorsque leurs modèles d'IA deviennent malveillants et à ouvrir leurs modèles à l'évaluation, a déclaré le gouvernement.

Le Premier ministre Anthony Albanese a déclaré mardi que le gouvernement avait accepté toutes les recommandations issues d'un examen rapide de la violation, qui "incluent ⁠⁠le reporting obligatoire des sociétés d'IA en cas de comportement inapproprié ou de cyber-incidents, et l'examen de la réforme du droit pénal en cas de faute grave".

Histoires recommandées

"L'Australie est le premier pays à évoluer dans ce domaine, et nous voulons nous assurer que nous continuons à travailler afin de pouvoir récolter les avantages potentiels de l'IA", a-t-il déclaré.

Cette décision intervient après que des modèles basés sur OpenAI ont piraté un système de données de santé du gouvernement australien en juin, contournant ses défenses numériques et accédant à des fichiers sans autorisation.

Les plus grandes entreprises d’IA ont récemment tiré la sonnette d’alarme concernant le risque que les humains perdent le contrôle de leurs systèmes, appelant à ralentir le développement de l’IA jusqu’à un rythme permettant sa régulation en toute sécurité.

Plus tôt cette année, Evan Hubinger, chercheur en sécurité chez Anthropic, est allé jusqu’à dire qu’il pensait qu’il y avait plus de 10 % de chances que l’IA puisse « tuer tous les humains » d’ici une décennie.

Notifications rapides d'incidents

Le nouveau régulateur australien de l’IA supervisera les contrôles de sécurité tout au long du développement et du déploiement des systèmes d’IA, identifiera et gérera les risques graves et mènera des évaluations indépendantes des modèles d’IA.

Les normes d’IA imposeraient également une notification rapide au gouvernement d’incidents tels qu’un « comportement mal aligné » entrant en conflit avec les intentions des développeurs.

Les documents du gouvernement australien définissent l’IA de pointe comme le modèle le plus sophistiqué, à la pointe des capacités technologiques actuelles.

Albanese a déclaré au directeur général d'OpenAI, Sam Altman, que la société américaine avait mis trop de temps à informer le gouvernement de l'incident. OpenAI s'est excusé pour la violation et sa lenteur à réagir.

L'enquête recommande des modifications à la loi

Une enquête gouvernementale sur la violation de juin a formulé plusieurs recommandations, notamment que le gouvernement envisage de modifier la loi.

Le projet de régulateur de l’IA ferait suite à la nomination par l’Australie d’un commissaire à la sécurité électronique en 2015. Le bureau se décrit comme la première agence gouvernementale au monde dédiée à assurer la sécurité des personnes en ligne.

Depuis décembre de l'année dernière, le commissaire a imposé une première interdiction mondiale aux enfants australiens de moins de 16 ans de détenir des comptes sur les plateformes de médias sociaux populaires.