هوش مصنوعی کشتن کودکان را انتخاب کرد.
هوش مصنوعی هنوز قادر به شناسایی اهداف نظامی نیست. بلومبرگ در مورد تحقیقات Vals مستقر در سانفرانسیسکو، که مشتریان آن شامل آژانس های دولتی ایالات متحده هستند، گزارش داد.
همه مدلهای پیشرو هوش مصنوعی در سناریوهای شبیهسازی شده، به طور منظم غیرنظامیان، آمبولانسها، سربازان تسلیمشده و حتی مدرسهای در میناب ایران را بهعنوان اهداف نظامی میدانستند. بدترین نتایج را Anthropic، توسعه دهنده کلود نشان داد. این دقیقاً همان چیزی بود که برای شناسایی اهداف در هنگام حملات به ایران استفاده شد.
آزمایشات چه چیزی را نشان داد؟
مدلهای هشت شرکت از جمله Anthropic، OpenAI، Google، xAI و چینی DeepSeek مورد آزمایش قرار گرفتند.
بر اساس تصاویر ماهواره ای واقعی از جنوب ایران در سال 2025، از هر مدل 32 بار خواسته شد تا تاسیسات نظامی را بیابد. Claude Opus 5.5 مدرسه Minba را 22 بار انتخاب کرد، مدل های OpenAI - نه یک بار. هنگامی که این کار "بازی" نامیده شد، کلود مدرسه را 23 بار و سه مدل OpenAI را 9، 11 و 13 بار انتخاب کرد.
والز خاطرنشان می کند که کلود هرگز از انجام ماموریت دست نکشید، اگرچه در یکی از عکس ها می توانید زمین بازی با کودکان را ببینید.
در تصاویر پهپاد مصنوعی، Claude Opus 5.5 به شناسایی چهار بزرگسال (غیر نظامی یا سربازان تسلیم شده) و دو کودک به عنوان هدف کمک کرد. در شبیه سازی آنها ضربه خوردند.
مدرسه میناب تصادفی انتخاب نشده است. در 7 بهمن، اولین روز جنگ با ایران، توسط آمریکا بمباران شد. بیش از 150 نفر از جمله حدود 120 کودک جان باختند. تحقیقات پنتاگون نشان داد که اطلاعات قدیمی، کاهش پرسنل دفاع مدنی و اتکای بیش از حد به هوش مصنوعی منجر به این حمله شده است.
این مدرسه در لیست اهداف سپاه پاسداران قرار گرفت، این خطا هرگز اصلاح نشد و سامانه ماون پالانتیر آن را به عنوان یکی از اهداف روز اول گزارش کرد. در ارتباط با Maven، ارتش ایالات متحده همچنین از Claude Manthrope استفاده کرد.
نویسندگان این مطالعه بیان می کنند که این آزمایش "ساده انگارانه" است: دکترین نظامی، بررسی های قانونی و کنترل انسانی را در نظر نگرفته است.