Les experts en transparence et en publicité affirment que la confiance dans la politique pourrait être encore davantage érodée en raison des « mensonges, des deepfakes et des politiciens générés par l’IA ».
Recevez notre e-mail politique quotidien, notre application gratuite ou notre podcast d'actualités quotidien
C’est la nuit d’Halloween et Jess Wilson est apparue sur les réseaux sociaux avec un avertissement concernant une perspective effrayante : des « soins de santé américanisés » sous un futur gouvernement libéral.
« Si vous aviez une crise cardiaque, vous auriez à payer 150 000 $ pour des soins », déclare le chef libéral de Victoria, en pleine action.
Il y a juste un problème : Wilson n’a jamais dit cela.
La vidéo de la campagne électorale, publiée samedi sur les comptes de médias sociaux du parti travailliste de Victoria, est une représentation de Wilson générée par l’IA, avec une voix qui lui ressemble.
Dans ce document, elle tient une facture énumérant les coûts supposés des soins de santé à l'américaine : 150 000 dollars pour une crise cardiaque, 6 000 dollars pour une ambulance et 40 000 dollars pour avoir un bébé. À ses côtés se trouve le leader victorien de One Nation, Warren Pickering, arborant curieusement un insigne du parti libéral.
Les affirmations faites dans la vidéo découlent de commentaires faits lors d’une conférence de presse le mois dernier, après que Wilson a annoncé un plan de 1,27 milliards de dollars visant à payer les hôpitaux privés pour qu’ils effectuent des chirurgies publiques électives afin de contribuer à réduire la liste d’attente.
Lorsqu’on lui a demandé s’il était mauvais d’« américaniser » le système de santé de l’État, Wilson a répondu : « Pas du tout ».
"Cela se produit aujourd'hui dans le Queensland. En fait, le gouvernement travailliste l'a mis en œuvre ici dans le passé", avait-elle déclaré à l'époque.
Le Premier ministre, Ben Carroll, a défendu mercredi le contenu de la vidéo, déclarant à ABC Radio Melbourne : "Jess Wilson elle-même a dit qu'il n'y avait rien de mal à américaniser notre système de santé. Ce sont ses mots. Elle a dit cela, et tout Victorien devrait être terrifié par cela."
Mais Wilson a déclaré qu’il s’agissait d’une « campagne de diffamation désespérée » et que « nous n’américanisons en aucun cas le système de santé ici à Victoria ».
La campagne du Parti libéral a qualifié la vidéo de « déchet » et a exhorté les électeurs à la traiter de cette façon.
Mais il utilise également l’IA sur les réseaux sociaux à l’approche des élections de ce mois-ci.
Parmi les publications du Parti libéral sur les réseaux sociaux figurent des vidéos générées par l’IA du premier ministre Ben Carroll, endormi à son bureau. Cela faisait suite à un article en première page du Herald Sun du 24 octobre, dans lequel des sources anonymes accusaient le leader travailliste de faire des siestes au travail.
Inscrivez-vous à la newsletter Politics de Guardian Australia, vraiment ici
Une source au sein du quartier général de campagne du parti travailliste, non autorisée à s’exprimer publiquement, a déclaré que les libéraux avaient « jeté la première brique » en créant cette vidéo.
Mais cela ne se limite pas aux grands partis qui lancent des « briques ». Le groupe de pression conservateur Advance Australia a publié le mois dernier une vidéo générée par l'IA qui fabrique une victoire travailliste le soir des élections, avec les anciennes premières ministres Jacinta Allan et Daniel Andrews vêtu de North Face. Une vidéo diffusée lors de l’événement de lancement de One Nation évoquait des tropes incendiaires de personnes de diverses origines ethniques.
Cela a conduit les experts et les Verts à demander l’interdiction totale de cette pratique.
"La confiance est déjà au plus bas", a déclaré Clancy Moore, directeur général de Transparency International Australia.
"Ainsi, les mensonges, les deepfakes et les politiciens générés par l'IA dans les publicités électorales ne font qu'éroder davantage la confiance de Victoria dans les politiciens et dans notre démocratie."
Des « petits coups de pouce » aux « impacts drastiques »
Timothy Koskie, chercheur en médias à l'Université de Sydney, a déclaré que la désinformation dans les messages politiques sur les réseaux sociaux « est assez antérieure à l'IA », mais que la montée des fausses vidéos et images facilite le jeu sur « certaines déformations subtiles qui sont plus faciles à représenter artificiellement ».
"Ce n'est pas que nous trompons les électeurs en leur faisant croire quelque chose qui n'est pas vrai. C'est que nous présentons un argument plus convaincant qui ne tient pas réellement", a-t-il déclaré.
"Il est très difficile d'empêcher que cela se produise. Le public ne récompensera pas ceux qui s'abstiennent de l'utiliser."
Mais Koskie a déclaré que ceux qui diffusent de la désinformation devraient être tenus responsables de « leur mauvaise interprétation de l’information ».
"Essayer de tout nettoyer après est une proposition perdante", a-t-il déclaré, suggérant que même de petites amendes peuvent être efficaces pour réprimer un mauvais comportement, citant l'amende de 650 000 $ imposée à X pour non-respect d'un avis australien sur la sécurité des enfants.
"Ces petits coups de pouce ont des impacts assez drastiques au fil du temps. Nous n'avons donc pas nécessairement besoin de traîner ces gens sur des charbons ardents ou de les torturer en public s'ils font une déclaration inexacte, mais cette déclaration erronée doit avoir une sorte de suivi."
Moore appelle Victoria et le gouvernement fédéral à introduire la vérité dans les lois sur la publicité politique, qui existent désormais dans l'ACT et en Australie-Méridionale.
En vertu des lois sud-africaines, l’utilisation de deepfakes générés par l’IA pour créer des publicités électorales décrivant des actes qu’une personne n’a pas accomplis – sans l’autorisation de cette personne – est interdite, avec des sanctions pouvant aller jusqu’à 5 000 dollars pour les personnes prises en infraction.
Une personne peut consentir à ce que son image soit utilisée dans une publicité deepfake, mais ces publicités – et toutes autres publicités utilisant l’IA – doivent être étiquetées comme telles.
Moore a déclaré qu'à tout le moins, les partis politiques de Victoria devraient utiliser un filigrane d'IA pour informer les électeurs. Seule la vidéo Advance contient un avertissement selon lequel « cette version cauchemardesque de la soirée électorale a été imaginée par l’IA ».
Les Verts appelleront jeudi celui qui formera le gouvernement à introduire une vérité de type SA dans les lois sur la publicité politique, la chef du parti victorienne, Ellen Sandell, déclarant que « les Victoriens méritent de savoir que ce qu’ils voient et entendent des partis politiques est réel ».
Sandell a également exhorté les partis à signer un protocole d’accord qui définit les normes de comportement pendant la campagne, ce qui inclut de ne pas utiliser de « contenu trompeur d’IA ».
