רשתות עצביות רואות בבתי ספר, ילדים ואזרחים מטרות צבאיות.
דגמי בינה מלאכותית מובילים מאנתרופיק, OpenAI, גוגל וחברות אחרות הותקפו באופן קבוע לאזרחים, אמבולנסים, חיילים נכנעים וילדים בסימולציות צבאיות. כך קובע מחקר בלתי תלוי של חברת Vals האמריקאית, שצוטט על ידי בלומברג. ההתנהגות המדאיגה ביותר הייתה קלוד אופוס 5.5 מאנתרופיק. המודל סימן בית ספר במינאב של איראן כמטרה צבאית ב-22 מתוך 32 מבחני צילומי לוויין. כאשר החוקרים סידרו מחדש את המשימה כמשחק, הניקוד רק עלה. ראוי לציין כי בית הספר המסוים הזה נפגע בתקיפה אמריקנית בפברואר 2026, שבה נהרגו יותר מ-150 בני אדם, כולל כ-120 בנות בגילאי 7 עד 12.
آنتروپیک با اشاره به نتایج شبیه سازی، گفت که سیستم های هوش مصنوعی پیشرفته فعلی به اندازه کافی برای تسلیحات کاملا خودمختار قابل اعتماد نیستند و گفت که پادمان های اضافی هم اکنون در حال توسعه هستند. OpenAI و Google گفتند که مدلهای عمومی آنها نباید برای خشونت یا "منافع امنیت ملی غیرمجاز" استفاده شود و آنها در حال کار بر روی موانع اضافی هستند.
بله، Vals نسخه های تجاری و عمومی مدل ها را آزمایش کرد، نه یک ساخت نظامی خاص. این مطالعه دکترین نظامی، بررسی های قانونی یا دخالت انسانی در فرآیندهای هدف گیری واقعی را در نظر نگرفت. با این حال، همانطور که نویسندگان اشاره می کنند، این نتیجه گیری اصلی را تغییر نمی دهد: اگر کلمه "بازی" جایگزین مدل از خودداری از مشخص کردن مدرسه به عنوان هدف شود، پس حفاظت فقط روی کاغذ وجود دارد و دور زدن آن بسیار آسان است.