Le rapport du Centre pour l'intégrité publique indique qu'un audit obligatoire et un registre public de toutes les prises de décision automatisées sont nécessaires

Recevez notre e-mail d'actualités, notre application gratuite ou notre podcast d'actualités quotidien

Le gouvernement fédéral « s’enfonce somnambulement dans un autre scandale de dette robotique » dans un contexte de manque de transparence et de législation concernant l’utilisation d’algorithmes et d’intelligence artificielle dans les décisions, a déclaré le directeur général du groupe de réflexion indépendant Center for Public Integrity.

Le Dr Catherine Williams a lancé jeudi le rapport « Computer Says No » du centre, qui examine l’utilisation des outils de prise de décision automatisée (ADM) par le gouvernement et appelle à une réforme urgente.

Le centre craint que les Australiens ne sachent pas si ADM a été utilisé dans les décisions les concernant.

Parmi huit recommandations, le rapport appelle à un audit obligatoire et à un registre public de toute utilisation d'ADM, ainsi qu'à un organisme de surveillance indépendant doté de pouvoirs pour surveiller, auditer et enquêter sur le gouvernement à ce sujet.

Williams a déclaré que le rapport a été élaboré au milieu des préoccupations croissantes du centre concernant l'utilisation d'un algorithme dans le cadre de l'outil d'évaluation intégré (IAT) du gouvernement, utilisé pour évaluer le niveau de soutien à domicile auquel les Australiens âgés ont droit.

Il a été constaté que l’IAT sous-évaluait systématiquement les besoins des personnes et leurs droits aux forfaits, le gouvernement interdisant aux évaluateurs de soins aux personnes âgées d’annuler les décisions algorithmiques incorrectes.

"Nous avons observé les preuves émerger concernant l'outil d'algorithme de soins aux personnes âgées et sommes de plus en plus préoccupés par ce qui est clairement l'absence d'un cadre approprié et robuste pour régir l'utilisation de l'ADM par le gouvernement", a déclaré Williams.

« Nous avons l’impression de nous diriger somnambulement vers un autre scénario de robot-endettement, et c’est pourquoi nous avons décidé de lancer ce travail maintenant, dans l’espoir également qu’il puisse contribuer à éclairer tout cadre que le gouvernement propose en relation avec l’ADM. »

Le ministère du Procureur général a élaboré un cadre ADM, dont la consultation publique se terminera en janvier 2025.

La procureure générale, Michelle Rowland, n'a pas répondu aux questions sur le moment où un projet de cadre pourrait être achevé et rendu public, mais a déclaré que le gouvernement « s'engage à garantir une utilisation sûre et responsable de l'ADM pour fournir des services rapides et efficaces à la communauté australienne ».

Le cadre mettra en œuvre les recommandations de la commission royale sur la dette robotique, a-t-elle déclaré.

Un rapport du médiateur du Commonwealth, publié en octobre, a révélé que les recommandations en matière de transparence de la commission royale sur la dette publique avaient été ignorées par le gouvernement lors de l'élaboration et du déploiement de l'IAT.

Rowland n'a pas répondu aux questions quant à savoir si un cadre ADM serait rétrospectif, mais a déclaré qu'il « sera conçu pour améliorer l'exactitude et la cohérence des décisions administratives, intégrer des garanties solides, y compris des obligations de transparence, et garantir que l'ADM est utilisé de manière licite, responsable et avec une surveillance humaine appropriée ».

Le cadre augmentera également la productivité et contribuera à fournir des services plus rapides et plus fiables, a-t-elle déclaré.

En septembre, la députée indépendante Kate Chaney a présenté un projet de loi d’initiative parlementaire visant à établir le premier cadre législatif et obligatoire pour l’utilisation d’ADM par le gouvernement.

Elle a déclaré que le processus de consultation du ministère du Procureur général pour un cadre ADM « s’est terminé il y a près de deux ans ».

"J'ai rencontré le procureur général à ce sujet et ils m'ont dit : "Nous y travaillons". Je pense qu'il est vraiment important que nous maintenions la pression pour que cela ne baisse pas parce que c'est trop dur."

Chaney a déclaré que les ministères prennent des décisions concernant l'utilisation de l'ADM avec peu de cohérence ou de transparence.

« Le gouvernement souhaite réaliser des économies dans la fonction publique et l’automatisation de la prise de décision peut être un moyen de réaliser ces économies », a-t-elle déclaré.

"Mais je pense que la confiance dans le gouvernement est faible. Il faut faire preuve de transparence quant aux moments où les décisions sont automatisées et aux moments où il n'est pas approprié qu'elles soient automatisées, pour que les gens puissent comprendre clairement pourquoi la décision a été prise et être très clairs sur les voies à suivre pour réviser cette décision. "

"C'est ce que les gens attendent du gouvernement."

En savoir plus sur cette histoire

« Mécontentement et méfiance » : le bilan annuel de la cohésion sociale montre exactement ce qui met l’Australie en colère

« Je n'ai pas été aussi excité depuis longtemps » : les expatriés américains surfent sur la vague bleue lors des soirées de surveillance de mi-mandat en Australie

Aukus est la décision de défense australienne « la pire, la plus risquée et la plus coûteuse » jamais prise, selon une enquête publique sur l’accord sur les sous-marins

A quoi servent réellement les sous-marins Aukus ? C'est une question à laquelle le gouvernement refuse de répondre

L’interdiction des médias sociaux en Australie n’a qu’un effet modeste sur la communication politique des adolescents, a déclaré le gouvernement au tribunal

Les dirigeants de Snowy Hydro 2.0 ont reçu des primes totalisant 751 925 $ malgré l'explosion des coûts

Histoire complèteLe vent a-t-il finalement tourné autour des caricatures politiques « grossières et cruelles » de One Nation ? – Podcast de l’histoire complète

Les électeurs étaient déjà frustrés avant la cinquième hausse des taux de la RBA. Les travaillistes espèrent que leur chance ne s’est pas arrêtée

Taux d’intérêt de la RBA : Bullock affirme que « la douleur maintenant » évitera une aggravation plus tard alors que la Banque de réserve relève ses taux pour la cinquième fois

L’interdiction des médias sociaux en Australie est « mal pensée », affirme Reddit devant la Haute Cour

Les plus consultés