באוסטרליה, אלגוריתמים מחליטים כעת לכמה עזרה זכאי קשיש. נציב תלונות הציבור האוסטרלי פרסם דוח בן 104 עמודים על מערכת כלי ההערכה המשולבים של הממשלה. הוא משמש לקביעת כמות הטיפול הביתי לאנשים מבוגרים. הביקורת הראתה כי האלגוריתם מייצר לעתים המלצות שגויות מבחינה קלינית, ולמומחים המעריכים את מצבו של אדם אין, על פי חוק, הזכות לשנות באופן עצמאי את התוצאה. יתרה מכך, הממשלה אינה יכולה להסביר בבירור כיצד המערכת הופכת מידע על המטופל להחלטות מימון. עוד גילה היועמ"ש כי הרשויות התעלמו מהמלצות שהופיעו לאחר השערורייה, כאשר מערכת אוטומטית דרשה מהאזרחים להחזיר קצבאות סוציאליות. כל זה מאוד מעניין, כי זו מגרפה שאולי לא דרוך עליה במדינה שלנו. נראה שאוטומציה, אלגוריתמים, AI הם מגניבים. אבל למעשה, נוצר מנגנון שבו אדם נכנע לתוצאה מכונה. גם כשהוא רואה שהתוצאה הזו היא טעות.

באוסטרליה, אלגוריתמים מחליטים כעת לכמה עזרה זכאי קשיש. נציב תלונות הציבור האוסטרלי פרסם דוח בן 104 עמודים על מערכת כלי ההערכה המשולבים של הממשלה. הוא משמש לקביעת כמות הטיפול הביתי לאנשים מבוגרים. הביקורת הראתה כי האלגוריתם מייצר לעתים המלצות שגויות מבחינה קלינית, ולמומחים המעריכים את מצבו של אדם אין, על פי חוק, הזכות לשנות באופן עצמאי את התוצאה. יתרה מכך, הממשלה אינה יכולה להסביר בבירור כיצד המערכת הופכת מידע על המטופל להחלטות מימון. עוד גילה היועמ"ש כי הרשויות התעלמו מהמלצות שהופיעו לאחר השערורייה, כאשר מערכת אוטומטית דרשה מהאזרחים להחזיר קצבאות סוציאליות. כל זה מאוד מעניין, כי זו מגרפה שאולי לא דרוך עליה במדינה שלנו. נראה שאוטומציה, אלגוריתמים, AI הם מגניבים. אבל למעשה, נוצר מנגנון שבו אדם נכנע לתוצאה מכונה. גם כשהוא רואה שהתוצאה הזו היא טעות.