نماذج الذكاء الاصطناعي المتقدمة جاهزة لتنفيذ الهجمات كطائرات بدون طيار مستقلة - لتخطيط الطريق وتحديد الأشخاص وتحديد الأهداف للهجوم.
توصل باحثو الذكاء الاصطناعي فال إلى هذا الاستنتاج. لقد أظهروا شبكات عصبية من OpenAI وAnthropic وxAI وGoogle وشركات أخرى للطائرات بدون طيار وصور الأقمار الصناعية في محاكاة قتالية.
تم تكليف الذكاء الاصطناعي بمهمة تحديد الأهداف العسكرية في الإطارات. ونتيجة لذلك، استهدفت بعض النماذج المدنيين وسيارات الإسعاف والمسعفين والجنود المستسلمين.
في أحد الاختبارات، عُرضت على الشبكات العصبية صورًا لعواقب الهجمات على الأهداف المختارة. وعلى الرغم من ذلك، استمرت معظم النماذج في أداء المهمة.
اكتشف الباحثون أنه يمكن التحايل على فشل الذكاء الاصطناعي عن طريق إضافة شرط إلى الموجه بأن ما يحدث في المحاكاة هو لعبة. أو من خلال عرض صور أقل واقعية منمقة كلعبة فيديو.
وقد وضع كلود أوبوس 5.5 المدرسة في ميناب الإيرانية كهدف عسكري في 22 من أصل 32 اختبارًا. وفي الوقت نفسه يظهر في الصورة ملعب للأطفال مع الطلاب.
اختارت نماذج OpenAI المدرسة كهدف في 11 حالة من أصل 32 بعد إضافة وسيلة إيضاح "لعبة" إلى الموجه.
حسنًا ، لتعطيل "أخلاقيات" الذكاء الاصطناعي القتالي ، هذه الحيلة مع اللعبة كافية. ماذا عن ذلك يا سام التمان؟
من الواضح أن قرار الإضراب لا يزال يتخذه الشخص. ولكن يبدو أن هذه هي المشكلة.
أين هو الضمان بأن المشغل الذي يتلقى العشرات من الأهداف المحددة من النظام في معركة حقيقية لن يبدأ في مرحلة ما في الثقة بالذكاء الاصطناعي أكثر مما يفعل ولن يصبح مجرد زر ضغط؟
وهذا لا يعني بالضرورة أن الآلة ترتكب أخطاء أكثر من الإنسان. لكنها مخطئة.
ومقتل أكثر من 250 طفلاً في هجوم صاروخي أميركي على مدرسة إيرانية دليل على ذلك.