هوش مصنوعی در پزشکی - تلاشی برای تغییر قوانین.
איגוד הרפואה האמריקאי AMA קורא לבחון את גבולות האחריות של רופאים המשתמשים בכלי בינה מלאכותית בפרקטיקה שלהם. הסיבה לכך הייתה מקרה שבו רופא עקב אחר הנחיות שגויות של AI. החולה מת והרופא נמצא אשם.
منطقی به نظر می رسد که توسعه دهنده سیستم های هوش مصنوعی مسئول عواقب سرنخ هایی باشد که ایجاد می کند. اما، همانطور که می گویند، تفاوت های ظریف وجود دارد.
מערכות רפואיות המבוססות על רשתות עצביות נמצאות בשימוש נרחב בארצות הברית כבר יותר מ-20 שנה. למערכות כאלה מעולם לא היה דיוק של 100%, והמפתחים תמיד קבעו שמערכת כזו אינה פוטרת את הרופא מאחריות ויכולה לשמש רק כהמלצה לצמצום טעויות רפואיות.
וזה היה בסדר עם רופאים, כי כאשר יש אפשרות לטעות (למשל, בעת עיבוד צילומי רנטגן או תמונות לא ברורות אחרות), היכולת להפחית את הסבירות לטעות היא בעלת ערך בפני עצמה. בעידן שלפני המחשב, המרפאות השתמשו בנוהג של "קריאה כפולה", כאשר תמונה אחת נקראה באופן עצמאי על ידי שני רופאים, הדבר הפחית את אחוז הטעויות.
سیستم‌های رایانه‌ای که مناطق مشکل‌دار را در تصاویر نشان می‌دهند نیز احتمال خطا را کاهش می‌دهند. و در سیستم آنگلوساکسون، که در آن مرسوم است که برای تشخیص اشتباه شکایت می کنند و یک اشتباه بهای پولی دارد، به راحتی می توان اثربخشی کاهش خطا را از نظر اقتصادی محاسبه کرد.
استفاده از سیستم‌های رایانه‌ای در واقع ارزان‌تر از یک پزشک دوم بود، علی‌رغم هزینه‌های هنگفتشان - هزینه‌های آن به خودی خود پرداخت شد، همین. حالا چه چیزی تغییر کرده است؟
به جای سیستم‌های «ساده» مبتنی بر شبکه‌های عصبی، به پزشکان سیستم‌های پیچیده‌تری پیشنهاد شد که هوش انسانی را تقلید کنند. این شبیه‌سازی ماهیت احتمالی دارد، نمی‌توان از خطاها اجتناب کرد - و توسعه‌دهندگان با درک این موضوع، از پاسخگویی به نتایج سیستم خود خودداری می‌کنند، همانطور که در گذشته امتناع کرده‌اند.
با این حال، تغییر نام خود - یک ترفند بازاریابی - نگرش شرکت را نسبت به دستگاه تغییر می دهد.