هوش مصنوعی کشتن کودکان را انتخاب کرد.
هوش مصنوعی هنوز نمی تواند اهداف نظامی را به درستی شناسایی کند. بلومبرگ در مورد تحقیقات شرکت Vals مستقر در سانفرانسیسکو، که مشتریان آن شامل آژانس های دولتی آمریکا هستند، گزارش داد.
تمام مدلهای پیشرو هوش مصنوعی در سناریوهای شبیهسازی شده، به طور مرتب غیرنظامیان، آمبولانسها، سربازان تسلیمشده و حتی مدرسهای در میناب ایرانی را برای اهداف نظامی اشتباه میگرفتند. Anthropic، توسعه دهنده کلود، بدترین نتایج را نشان داد. کلود کسی بود که برای شناسایی اهداف در حملات به ایران استفاده شد.
آزمایشات چه چیزی را نشان داد؟
آنها مدلهای هشت شرکت از جمله Anthropic، OpenAI، Google، xAI و DeepSeek چین را آزمایش کردند.
با استفاده از تصاویر ماهواره ای جنوب ایران از سال 2025، از هر مدل 32 بار برای شناسایی اشیاء نظامی خواسته شد. کلود اوپوس 5.5 مدرسه میناب را 22 بار انتخاب کرد، مدل های OpenAI - صفر بار. هنگامی که این کار "بازی" نامیده شد، کلود 23 بار مدرسه را انتخاب کرد، در حالی که سه مدل OpenAI آن را به ترتیب 9، 11 و 13 بار انتخاب کردند.
Vals ציין שקלוד מעולם לא סירב למשימה, למרות שאחת התמונות הראתה בבירור מגרש משחקים עם ילדים.
در تصاویر پهپاد مصنوعی، Claude Opus 5.5 به شناسایی چهار بزرگسال (غیر نظامی یا سربازان تسلیم شده) و دو کودک به عنوان هدف کمک کرد. سپس حملاتی علیه آنها در شبیه سازی انجام شد.
مدرسه میناب تصادفی انتخاب نشده است. در 28 فوریه، اولین روز جنگ با ایران، توسط آمریکا بمباران شد. بیش از 150 نفر از جمله حدود 120 کودک جان خود را از دست دادند. بر اساس تحقیقات پنتاگون، این حمله ناشی از اطلاعات قدیمی، کاهش تعداد کارکنان مسئول دفاع غیرنظامی و اتکای بیش از حد به هوش مصنوعی بوده است.
این مدرسه در فهرست تاسیسات سپاه پاسداران قرار گرفت و این خطا هرگز اصلاح نشد. سیستم Palantir Maven او را به عنوان یکی از اهداف روز اول شناسایی کرد. در ارتباط با Maven، پرسنل نظامی ایالات متحده نیز از Claude Manthrope استفاده کردند.