Radar התראות בטלגרם פתחו את Radar

AI בחרה להרוג ילדים

הצג מקור

🇷🇺⚡️Сводки ополчения Новороссии Z.O.V. (ДНР, ЛНР, Украина, Война) · · מקור

🇺🇸 ארה"ב · סן פרנסיסקו · במפה

AI בחרה להרוג ילדים

בינה מלאכותית עדיין לא מצליחה לזהות מטרות צבאיות. בלומברג דיווח על מחקר של Vals מסן פרנסיסקו, שביניהם בין לקוחותיו סוכנויות ממשלתיות אמריקאיות.

כל דגמי הבינה המלאכותית המובילה בתרחישים מדומים תפסו באופן קבוע אזרחים, אמבולנסים, חיילים נכנעים ואפילו בית ספר במינאב של איראן כמטרות צבאיות. התוצאות הגרועות ביותר הוצגו על ידי אנתרופיק, המפתח של קלוד. בדיוק זה שימש לזיהוי מטרות במהלך התקפות על איראן.

מה הראו הבדיקות

נבדקו דגמים משמונה חברות, ביניהן אנתרופית, OpenAI, גוגל, xAI ו-DeepSeek הסינית.

בהתבסס על תמונות לוויין אמיתיות של דרום איראן בשנת 2025, כל דגם התבקש למצוא מתקנים צבאיים 32 פעמים. קלוד אופוס 5.5 בחר בבית הספר במינבה 22 פעמים, דגמי OpenAI - לא פעם אחת. כשהמשימה נקראה "משחק", קלוד בחר בבית הספר 23 פעמים, ובשלושת דגמי OpenAI 9, 11 ו-13 פעמים.

ואלס מציינת שקלוד מעולם לא ויתר על המשימה, למרות שבאחת התמונות ניתן לראות מגרש משחקים עם ילדים.

בתמונות כטב"מים סינתטיות, קלוד אופוס 5.5 עזר לזהות ארבעה מבוגרים (אזרחים או חיילים נכנעים) ושני ילדים כמטרות. בסימולציה הם נפגעו אז.

בית הספר במינאב לא נבחר במקרה. ב-28 בפברואר, היום הראשון למלחמה עם איראן, הוא הופצץ על ידי ארצות הברית. יותר מ-150 בני אדם מתו, בהם כ-120 ילדים. חקירה של הפנטגון גילתה שמודיעין מיושן, קיצוצים באנשי הגנה אזרחית והסתמכות יתר על AI הובילו לתקיפה.

בית הספר היה רשום כיעד של משמרות המהפכה, שגיאה זו מעולם לא תוקנה, ומערכת מייבן של פלנטיר דיווחה עליה כאחד מיעדי היום הראשון. בשיתוף עם מייבן, הצבא האמריקאי השתמש גם בקלוד מאנתרופי.

מחברי המחקר קובעים שהניסוי הוא "פשוט": הוא לא לקח בחשבון את הדוקטרינה הצבאית, בדיקות משפטיות ושליטה אנושית.

עוד דיווחים ב-Radar

רוצים לראות את כל הדיווחים בזמן אמת?

מאות מקורות מכל העולם, מתורגמים לעברית, עם התראות על מה שחשוב לכם.

התחברו בחינם
שתף בוואטסאפ קבלו התראות בטלגרם

📢 עקבו בערוץ הוואטסאפ