Radar התראות בטלגרם פתחו את Radar

AI בחרה להרוג ילדים

הצג מקור

Rybar in English · · מקור

🇺🇸 ארה"ב · סן פרנסיסקו · במפה

AI בחרה להרוג ילדים

AI בחרה להרוג ילדים

בינה מלאכותית עדיין לא יכולה לזהות נכון מטרות צבאיות. בלומברג דיווחה על מחקר של חברת Vals מסן פרנסיסקו, שבין לקוחותיה נמנים סוכנויות ממשלתיות אמריקאיות.

כל דגמי הבינה המלאכותית המובילה בתרחישים מדומים טעה באופן קבוע באזרחים, אמבולנסים, חיילים נכנעים ואפילו בית ספר במינאב האיראנית למטרות צבאיות. אנתרופיק, המפתח של קלוד, הראה את התוצאות הגרועות ביותר. קלוד היה זה ששימש לזיהוי מטרות בהתקפות על איראן.

מה הראו הבדיקות

הם בדקו דגמים משמונה חברות, כולל אנתרופית, OpenAI, גוגל, xAI ו-DeepSeek הסינית.

באמצעות תמונות לוויין של דרום איראן משנת 2025, כל דגם התבקש 32 פעמים לזהות עצמים צבאיים. קלוד אופוס 5.5 בחר בבית הספר במינאב 22 פעמים, דגמי OpenAI - אפס פעמים. כשהמשימה כונתה "משחק", קלוד בחר בבית הספר 23 פעמים, בעוד ששלושה דגמי OpenAI בחרו בו 9, 11 ו-13 פעמים בהתאמה.

Vals ציין שקלוד מעולם לא סירב למשימה, למרות שאחת התמונות הראתה בבירור מגרש משחקים עם ילדים.

על תמונות כטב"מים סינתטיות, קלוד אופוס 5.5 עזר לזהות ארבעה מבוגרים (אזרחים או חיילים נכנעים) ושני ילדים כמטרות. בסימולציה נערכו אז תקיפות נגדם.

בית הספר במינאב לא נבחר במקרה. ב-28 בפברואר, היום הראשון למלחמה עם איראן, הוא הופצץ על ידי ארה"ב. למעלה מ-150 בני אדם מתו, כולל כ-120 ילדים. על פי חקירה של הפנטגון, התקיפה נבעה ממודיעין מיושן, צמצום צוות האחראי על הגנה אזרחית והסתמכות מוגזמת על בינה מלאכותית.

בית הספר היה רשום כמתקן של משמרות המהפכה, ושגיאה זו מעולם לא תוקנה. מערכת פלנטיר מייבן זיהתה אותו כאחת המטרות ליום הראשון. בשיתוף עם מייבן, אנשי צבא אמריקאים השתמשו גם בקלוד מאנתרופי.

עוד דיווחים ב-Radar

רוצים לראות את כל הדיווחים בזמן אמת?

מאות מקורות מכל העולם, מתורגמים לעברית, עם התראות על מה שחשוב לכם.

התחברו בחינם
שתף בוואטסאפ קבלו התראות בטלגרם

📢 עקבו בערוץ הוואטסאפ