Le gouvernement signale des modifications au droit pénal pour garantir que les entreprises ne puissent plus prétendre à l’avenir « que quelqu’un ne savait pas que l’ordinateur était chargé »
Recevez notre e-mail politique quotidien, notre application gratuite ou notre podcast d'actualités quotidien
OpenAI ne fera pas l’objet de sanctions pénales pour la violation de données de Medicare, mais le Premier ministre a signalé des modifications au droit pénal australien pour réprimer les futures violations commises par les sociétés d’intelligence artificielle.
Anthony Albanese a publié mardi les recommandations d'un « examen rapide » sur la violation en juin d'un portail de service de reporting statistique Medicare administré par Services Australia, mais pas les conclusions ni le rapport lui-même, qu'il s'est engagé à publier à l'avenir.
Une recommandation clé est que le ministère du Procureur général, la police fédérale australienne et le ministère de l’Intérieur envisagent d’introduire des « sanctions en cas de non-conformité flagrante à la réglementation » et une infraction de « non-prévention », ce qui criminaliserait le développement d’un modèle d’IA qui se livrerait à un comportement préjudiciable sans « prendre de mesures raisonnables pour prévenir ce préjudice ».
Cet examen rapide fait suite à l'accès d'un agent d'IA développé par OpenAI aux données de Services Australia et de trois autres systèmes en juin. L'entreprise n'a informé le gouvernement australien qu'à la mi-septembre, bien qu'elle ait elle-même pris connaissance de l'incident en août, ce qui a suscité les critiques du parti travailliste et d'Albanese.
Guardian Australia a révélé le mois dernier qu'OpenAI utilisait l'IA pour aider à rédiger l'e-mail destiné à informer les autorités australiennes.
Inscrivez-vous à la newsletter Politics de Guardian Australia, vraiment ici
Albanese a déclaré que le gouvernement mettrait en place un nouveau régulateur de la sécurité de l'IA et mettrait en œuvre six obligations clés pour les entreprises d'IA :
Maintenir les contrôles de sécurité à toutes les étapes de développement et de déploiement.
Identifier et gérer les risques sérieux associés à leurs modèles.
Fournir rapidement une notification obligatoire des incidents au gouvernement australien.
Permettre une évaluation indépendante de leurs modèles.
Maintenir et publier des cadres de sûreté et de sécurité pour garantir la bonne gouvernance, la gestion des risques et la transparence.
Répondre aux normes et règles mises à jour à mesure que les technologies évoluent.
L’examen recommande au gouvernement fédéral « d’envisager des rapports obligatoires et limités dans le temps sur la sécurité de l’IA », notamment concernant les agents d’IA se comportant d’une manière que leurs créateurs n’auraient peut-être pas prévue.
Le ministre de l’Intérieur, Tony Burke, comparaissant avec Albanese, a déclaré aux journalistes : « Il ne devrait jamais y avoir de débat selon lequel quelqu’un ne savait pas que l’ordinateur était chargé.
"Nous devons nous assurer que nos lois et nos systèmes suivent le rythme de la technologie et également nous assurer que nous sommes en mesure d'utiliser la technologie pour détecter les vulnérabilités avant que d'autres ne le fassent", a déclaré Burke.
"Le signalement obligatoire, lorsque l'intelligence artificielle devient malveillante, nous donne la possibilité de pouvoir nous assurer que lorsque cela se produit, le signalement se produit et se produit immédiatement."
Mais malgré la colère publique du gouvernement contre OpenAI, Albanese a qualifié mardi la violation par OpenAI de Services Australia de « mineure » en termes d’implications sur la vie privée. Guardian Australia comprend qu'il est peu probable qu'OpenAI fasse l'objet de nouvelles poursuites judiciaires liées à la violation de juin.
Bien qu'Albanese n'ait pas répondu directement à la question de savoir si l'incident d'OpenAI en juin aurait enfreint les nouvelles lois proposées si elles étaient en vigueur, des sources gouvernementales ont indiqué que la nouvelle législation traiterait d'incidents similaires à l'avenir.
"L'indication claire est qu'aucune information impliquant des données personnelles n'a été obtenue", a déclaré Albanese.
« Tout cela a été confirmé pour l’essentiel… mais cela ne veut pas dire qu’il ne s’agissait pas d’un problème grave et que dans d’autres domaines, il pourrait y avoir des implications plus graves. »
Dans un communiqué, un porte-parole d’OpenAI a déclaré que la société étudiait les recommandations et les propositions du gouvernement.
"Nous avons entretenu un dialogue étroit avec le gouvernement et nous continuerons à nous engager de manière constructive à mesure qu'il élabore son projet de loi", ont-ils déclaré.
Un processus distinct dirigé par OpenAI, qui discute d'une meilleure coordination entre les développeurs d'IA et le gouvernement, devrait rendre son rapport d'ici le 31 décembre.
L'examen a formulé 18 recommandations. Albanese a déclaré : « nous acceptons toutes les recommandations et nous avons commencé à travailler pour les mettre en œuvre ».
Le chercheur en IA Toby Walsh a déclaré que les responsables de ces entreprises devaient être pénalement responsables pour s'assurer qu'ils faisaient ce qu'il fallait.
"Nous avons essayé de leur infliger des amendes, et nous ne sommes pas les seuls. Ces entreprises sont incroyablement riches et il est presque impossible de leur infliger des amendes suffisantes", a-t-il déclaré au Guardian Australia.
Mais le leader des Verts, David Shoebridge, a qualifié cette nouvelle de « capitulation » face à l’industrie de l’IA, affirmant que les réformes ne suffiraient pas à changer le comportement de ces entreprises. Il a déclaré que le gouvernement aurait dû s’engager à mettre en œuvre des changements encore plus forts, plutôt que de se contenter de la recommandation de l’examen selon laquelle les travaillistes se contenteraient de les « considérer ».
"La sécurité continue de passer en deuxième position après l'investissement des entreprises, et cet examen verrouille cette priorité en liant chaque effort de sécurité de l'IA à l'apport de plus d'argent pour l'IA et de plus de centres de données", a affirmé Shoebridge.
"Être un leader mondial de l'IA ne signifie pas être un paillasson pour les grandes technologies. Cela signifie être prêt à la réglementer, à protéger les Australiens et à garantir que les bénéfices des entreprises ne se font pas au détriment de tous les autres."
Le ministre fantôme de l'Intérieur, Jonno Duniam, a déclaré que la Coalition soutenait l'annonce et n'avait aucune critique à l'égard du gouvernement. Il a déclaré que « l’IA est trop importante pour devenir une compétition politique inutilement partisane », signalant une « approche durable et multipartite » de la technologie.
