Le rapport du Centre pour l'intégrité publique indique qu'un audit obligatoire et un registre public de toutes les prises de décision automatisées sont nécessaires
Recevez notre e-mail d'actualités, notre application gratuite ou notre podcast d'actualités quotidien
Le gouvernement fédéral « s’enfonce somnambulement dans un autre scandale de dette robotique » dans un contexte de manque de transparence et de législation concernant l’utilisation d’algorithmes et d’intelligence artificielle dans les décisions, a déclaré le directeur général du groupe de réflexion indépendant Center for Public Integrity.
Le Dr Catherine Williams a lancé jeudi le rapport « Computer Says No » du centre, qui examine l’utilisation des outils de prise de décision automatisée (ADM) par le gouvernement et appelle à une réforme urgente.
Le centre craint que les Australiens ne sachent pas si ADM a été utilisé dans les décisions les concernant.
Parmi huit recommandations, le rapport appelle à un audit obligatoire et à un registre public de toute utilisation d'ADM, ainsi qu'à un organisme de surveillance indépendant doté de pouvoirs pour surveiller, auditer et enquêter sur le gouvernement à ce sujet.
Williams a déclaré que le rapport a été élaboré au milieu des préoccupations croissantes du centre concernant l'utilisation d'un algorithme dans le cadre de l'outil d'évaluation intégré (IAT) du gouvernement, utilisé pour évaluer le niveau de soutien à domicile auquel les Australiens âgés ont droit.
Il a été constaté que l’IAT sous-évaluait systématiquement les besoins des personnes et leurs droits aux forfaits, le gouvernement interdisant aux évaluateurs de soins aux personnes âgées d’annuler les décisions algorithmiques incorrectes.
"Nous avons observé les preuves émerger concernant l'outil d'algorithme de soins aux personnes âgées et sommes de plus en plus préoccupés par ce qui est clairement l'absence d'un cadre approprié et robuste pour régir l'utilisation de l'ADM par le gouvernement", a déclaré Williams.
« Nous avons l’impression de nous diriger somnambulement vers un autre scénario de robot-endettement, et c’est pourquoi nous avons décidé de lancer ce travail maintenant, dans l’espoir également qu’il puisse contribuer à éclairer tout cadre que le gouvernement propose en relation avec l’ADM. »
Le ministère du Procureur général a élaboré un cadre ADM, dont la consultation publique se terminera en janvier 2025.
La procureure générale, Michelle Rowland, n'a pas répondu aux questions sur le moment où un projet de cadre pourrait être achevé et rendu public, mais a déclaré que le gouvernement « s'engage à garantir une utilisation sûre et responsable de l'ADM pour fournir des services rapides et efficaces à la communauté australienne ».
Le cadre mettra en œuvre les recommandations de la commission royale sur la dette robotique, a-t-elle déclaré.
Un rapport du médiateur du Commonwealth, publié en octobre, a révélé que les recommandations en matière de transparence de la commission royale sur la dette publique avaient été ignorées par le gouvernement lors de l'élaboration et du déploiement de l'IAT.
Rowland n'a pas répondu aux questions quant à savoir si un cadre ADM serait rétrospectif, mais a déclaré qu'il « sera conçu pour améliorer l'exactitude et la cohérence des décisions administratives, intégrer des garanties solides, y compris des obligations de transparence, et garantir que l'ADM est utilisé de manière licite, responsable et avec une surveillance humaine appropriée ».
Le cadre augmentera également la productivité et contribuera à fournir des services plus rapides et plus fiables, a-t-elle déclaré.
En septembre, la députée indépendante Kate Chaney a présenté un projet de loi d’initiative parlementaire visant à établir le premier cadre législatif et obligatoire pour l’utilisation d’ADM par le gouvernement.
Elle a déclaré que le processus de consultation du ministère du Procureur général pour un cadre ADM « s’est terminé il y a près de deux ans ».
"J'ai rencontré le procureur général à ce sujet et ils m'ont dit : "Nous y travaillons". Je pense qu'il est vraiment important que nous maintenions la pression pour que cela ne baisse pas parce que c'est trop dur."
Chaney a déclaré que les ministères prennent des décisions concernant l'utilisation de l'ADM avec peu de cohérence ou de transparence.
« Le gouvernement souhaite réaliser des économies dans la fonction publique et l’automatisation de la prise de décision peut être un moyen de réaliser ces économies », a-t-elle déclaré.
"Mais je pense que la confiance dans le gouvernement est faible. Il faut faire preuve de transparence quant aux moments où les décisions sont automatisées et aux moments où il n'est pas approprié qu'elles soient automatisées, pour que les gens puissent comprendre clairement pourquoi la décision a été prise et être très clairs sur les voies à suivre pour réviser cette décision. "
"C'est ce que les gens attendent du gouvernement."




