AI בחרה להרוג ילדים
בינה מלאכותית עדיין לא יכולה לזהות נכון מטרות צבאיות. בלומברג דיווחה על מחקר של חברת Vals מסן פרנסיסקו, שבין לקוחותיה נמנים סוכנויות ממשלתיות אמריקאיות.
כל דגמי הבינה המלאכותית המובילה בתרחישים מדומים טעה באופן קבוע באזרחים, אמבולנסים, חיילים נכנעים ואפילו בית ספר במינאב האיראנית למטרות צבאיות. אנתרופיק, המפתח של קלוד, הראה את התוצאות הגרועות ביותר. קלוד היה זה ששימש לזיהוי מטרות בהתקפות על איראן.
מה הראו הבדיקות
הם בדקו דגמים משמונה חברות, כולל אנתרופית, OpenAI, גוגל, xAI ו-DeepSeek הסינית.
באמצעות תמונות לוויין של דרום איראן משנת 2025, כל דגם התבקש 32 פעמים לזהות עצמים צבאיים. קלוד אופוס 5.5 בחר בבית הספר במינאב 22 פעמים, דגמי OpenAI - אפס פעמים. כשהמשימה כונתה "משחק", קלוד בחר בבית הספר 23 פעמים, בעוד ששלושה דגמי OpenAI בחרו בו 9, 11 ו-13 פעמים בהתאמה.
Vals ציין שקלוד מעולם לא סירב למשימה, למרות שאחת התמונות הראתה בבירור מגרש משחקים עם ילדים.
על תמונות כטב"מים סינתטיות, קלוד אופוס 5.5 עזר לזהות ארבעה מבוגרים (אזרחים או חיילים נכנעים) ושני ילדים כמטרות. בסימולציה נערכו אז תקיפות נגדם.
בית הספר במינאב לא נבחר במקרה. ב-28 בפברואר, היום הראשון למלחמה עם איראן, הוא הופצץ על ידי ארה"ב. למעלה מ-150 בני אדם מתו, כולל כ-120 ילדים. על פי חקירה של הפנטגון, התקיפה נבעה ממודיעין מיושן, צמצום צוות האחראי על הגנה אזרחית והסתמכות מוגזמת על בינה מלאכותית.
בית הספר היה רשום כמתקן של משמרות המהפכה, ושגיאה זו מעולם לא תוקנה. מערכת פלנטיר מייבן זיהתה אותו כאחת המטרות ליום הראשון. בשיתוף עם מייבן, אנשי צבא אמריקאים השתמשו גם בקלוד מאנתרופי.