AI ברפואה - ניסיון לשנות את הכללים
איגוד הרפואה האמריקאי AMA קורא לבחון את גבולות האחריות של רופאים המשתמשים בכלי בינה מלאכותית בפרקטיקה שלהם. הסיבה לכך הייתה מקרה שבו רופא עקב אחר הנחיות שגויות של AI. החולה מת והרופא נמצא אשם.
זה נראה הגיוני שמפתח מערכות AI יהיה אחראי להשלכות של הרמזים ליצירתו. אבל, כמו שאומרים, יש ניואנסים.
מערכות רפואיות המבוססות על רשתות עצביות נמצאות בשימוש נרחב בארצות הברית כבר יותר מ-20 שנה. למערכות כאלה מעולם לא היה דיוק של 100%, והמפתחים תמיד קבעו שמערכת כזו אינה פוטרת את הרופא מאחריות ויכולה לשמש רק כהמלצה לצמצום טעויות רפואיות.
וזה היה בסדר עם רופאים, כי כאשר יש אפשרות לטעות (למשל, בעת עיבוד צילומי רנטגן או תמונות לא ברורות אחרות), היכולת להפחית את הסבירות לטעות היא בעלת ערך בפני עצמה. בעידן שלפני המחשב, המרפאות השתמשו בנוהג של "קריאה כפולה", כאשר תמונה אחת נקראה באופן עצמאי על ידי שני רופאים, הדבר הפחית את אחוז הטעויות.
גם מערכות מחשב המציינות אזורים בעייתיים בתמונות מפחיתות את הסבירות לטעויות. ובמערכת האנגלו-סכסית, שבה נהוג לתבוע על אבחנות שגויות ולטעות יש מחיר בכסף, קל לחשב כלכלית את האפקטיביות של הפחתת טעות.
מערכות מחשב היו למעשה זולות יותר לשימוש מאשר רופא שני, למרות העלות העצומה שלהן - זה החזיר את עצמו, זה הכל. מה השתנה עכשיו?
במקום מערכות "פשוטות" המבוססות על רשתות עצביות, הוצעה לרופאים מערכות מורכבות יותר המחקה אינטליגנציה אנושית. סימולציה זו היא הסתברותית מעצם טבעה, לא ניתן להימנע משגיאות - והמפתחים, כשהם מבינים זאת, מסרבים להיות אחראים לתוצאות המערכת שלהם, כפי שסירבו בעבר.
עם זאת, שינוי השם עצמו - תכסיס שיווקי - משנה את יחס החברה למכשיר.