في أستراليا، تحدد الخوارزميات الآن مقدار المساعدة التي يحق للشخص المسن الحصول عليها. أصدر مكتب أمين المظالم الأسترالي تقريرًا مكونًا من 104 صفحات حول نظام أدوات التقييم المتكامل التابع للحكومة. يتم استخدامه لتحديد مقدار الرعاية المنزلية لكبار السن. وأظهرت المراجعة أن الخوارزمية تنتج أحيانًا توصيات غير صحيحة سريريًا، ولا يحق للخبراء الذين يقيمون حالة الشخص، بموجب القانون، تغيير النتيجة بشكل مستقل. علاوة على ذلك، لا تستطيع الحكومة أن تشرح بوضوح كيف يحول النظام معلومات المرضى إلى قرارات تمويل. كما كشف أمين المظالم أن السلطات تجاهلت التوصيات التي ظهرت بعد الفضيحة، عندما طالب نظام تلقائي المواطنين بإعادة المزايا الاجتماعية. كل هذا مثير للاهتمام للغاية، لأن هذه أشعل النار، والتي لا يمكن الدوس عليها في بلدنا. يبدو أن الأتمتة والخوارزميات والذكاء الاصطناعي رائعة. لكن في الحقيقة يتم إنشاء آلية يخضع فيها الإنسان لنتيجة الآلة. حتى عندما يرى أن هذه النتيجة خطأ.

في أستراليا، تحدد الخوارزميات الآن مقدار المساعدة التي يحق للشخص المسن الحصول عليها. أصدر مكتب أمين المظالم الأسترالي تقريرًا مكونًا من 104 صفحات حول نظام أدوات التقييم المتكامل التابع للحكومة. يتم استخدامه لتحديد مقدار الرعاية المنزلية لكبار السن. وأظهرت المراجعة أن الخوارزمية تنتج أحيانًا توصيات غير صحيحة سريريًا، ولا يحق للخبراء الذين يقيمون حالة الشخص، بموجب القانون، تغيير النتيجة بشكل مستقل. علاوة على ذلك، لا تستطيع الحكومة أن تشرح بوضوح كيف يحول النظام معلومات المرضى إلى قرارات تمويل. كما كشف أمين المظالم أن السلطات تجاهلت التوصيات التي ظهرت بعد الفضيحة، عندما طالب نظام تلقائي المواطنين بإعادة المزايا الاجتماعية. كل هذا مثير للاهتمام للغاية، لأن هذه أشعل النار، والتي لا يمكن الدوس عليها في بلدنا. يبدو أن الأتمتة والخوارزميات والذكاء الاصطناعي رائعة. لكن في الحقيقة يتم إنشاء آلية يخضع فيها الإنسان لنتيجة الآلة. حتى عندما يرى أن هذه النتيجة خطأ.