يشير تقرير مركز النزاهة العامة إلى ضرورة إجراء تدقيق إلزامي وتسجيل عام لجميع عمليات اتخاذ القرار الآلي
احصل على بريدنا الإلكتروني للأخبار العاجلة أو التطبيق المجاني أو البث الصوتي اليومي للأخبار
قال الرئيس التنفيذي لمركز النزاهة العامة، وهو مركز أبحاث مستقل، إن الحكومة الفيدرالية "تسير نائمة في طريقها إلى فضيحة ديون آلية أخرى" وسط غياب الشفافية والتشريعات حول استخدام الخوارزميات والذكاء الاصطناعي في القرارات.
أطلقت الدكتورة كاثرين ويليامز تقرير المركز بعنوان "الكمبيوتر يقول لا" يوم الخميس، والذي يدرس استخدام الحكومة لأدوات اتخاذ القرار الآلي (ADM) ويدعو إلى إصلاح عاجل.
ويشعر المركز بالقلق من أن الأستراليين قد لا يعرفون ما إذا كان ADM قد تم استخدامه في القرارات التي تؤثر عليهم.
ومن بين ثماني توصيات، يدعو التقرير إلى إجراء تدقيق إلزامي وسجل عام لجميع استخدامات ADM، وهيئة رقابية مستقلة تتمتع بصلاحيات المراقبة والتدقيق والتحقيق مع الحكومة بشأن ذلك.
وقال ويليامز إن التقرير تم تطويره وسط قلق المركز المتزايد بشأن استخدام الخوارزمية كجزء من أداة التقييم المتكاملة الحكومية (IAT)، والتي تُستخدم لتقييم مستوى الدعم المنزلي الذي يحق لكبار السن الأستراليين الحصول عليه.
لقد تبين أن معهد التكنولوجيا التطبيقية يقوم بشكل روتيني بالتقصير في تقييم احتياجات الناس واستحقاقاتهم، مع منع الحكومة مقيمي رعاية المسنين من تجاوز القرارات الخوارزمية غير الصحيحة.
قال ويليامز: "لقد كنا نشاهد ظهور الأدلة فيما يتعلق بأداة خوارزمية رعاية المسنين، وأصبحنا قلقين بشكل متزايد بشأن ما هو واضح عدم وجود إطار مناسب وقوي يحكم استخدام الحكومة لـ ADM".
"يبدو الأمر كما لو أننا نسير أثناء نومنا نحو سيناريو آخر للديون الآلية، ولهذا السبب قررنا المضي قدمًا بهذا العمل الآن، على أمل أيضًا أن يساعد في توجيه أي إطار تقترحه الحكومة فيما يتعلق بـ ADM."
ويعمل مكتب المدعي العام على تطوير إطار عمل ADM، مع انتهاء المشاورة العامة في يناير 2025.
ولم ترد المدعية العامة، ميشيل رولاند، على الأسئلة حول متى يمكن استكمال مسودة الإطار ونشرها، لكنها قالت إن الحكومة "ملتزمة بضمان الاستخدام الآمن والمسؤول لـ ADM لتقديم خدمات فعالة وفي الوقت المناسب للمجتمع الأسترالي".
وقالت إن الإطار سينفذ توصيات اللجنة الملكية بشأن الديون الآلية.
وخلص تقرير صادر عن أمين المظالم في الكومنولث، نُشر في أكتوبر/تشرين الأول، إلى أن توصيات الشفافية الصادرة عن اللجنة الملكية للديون الآلية قد تجاهلتها الحكومة في تطوير ونشر فريق التكنولوجيا التطبيقية.
لم يرد رولاند على الأسئلة حول ما إذا كان أي إطار عمل ADM سيكون بأثر رجعي، لكنه قال إنه "سيكون مصممًا لتحسين دقة واتساق القرارات الإدارية، وتضمين ضمانات قوية، بما في ذلك التزامات الشفافية، والتأكد من استخدام ADM بشكل قانوني ومسؤول، وبرقابة بشرية مناسبة".
وقالت إن الإطار سيعمل أيضًا على رفع الإنتاجية والمساعدة في تقديم خدمات أسرع وأكثر موثوقية.
في سبتمبر/أيلول، قدمت النائبة المستقلة كيت تشاني مشروع قانون خاص بالأعضاء لإنشاء أول إطار تشريعي إلزامي لاستخدام ADM من قبل الحكومة.
وقالت إن عملية التشاور التي أجرتها إدارة المدعي العام بشأن إطار عمل ADM "انتهت منذ عامين تقريبًا".
"لقد التقيت بالمدعي العام بشأن هذا الأمر وقالوا: "نحن نعمل على ذلك". أعتقد أنه من المهم حقًا أن نواصل الضغط حتى لا يتم إسقاطه لأنه صعب للغاية".
وقال تشاني إن الإدارات الحكومية تتخذ قرارات بشأن استخدام ADM مع القليل من الاتساق أو الشفافية.
وقالت: "تريد الحكومة تحقيق وفورات في التكاليف في الخدمة العامة، ويمكن أن تكون أتمتة عملية صنع القرار وسيلة لتحقيق هذه الوفورات".
"لكنني أعتقد أن الثقة في الحكومة منخفضة. يجب أن تكون هناك شفافية بشأن متى تتم أتمتة القرارات، ومتى لا يكون من المناسب أن تتم أتمتتها، حتى يتمكن الناس من الحصول على فهم واضح لسبب اتخاذ القرار، ولكي يكونوا واضحين حقًا بشأن المسارات اللازمة لمراجعة هذا القرار.
"هذا ما يتوقعه الناس من الحكومة."
