مدلهای پیشرفته هوش مصنوعی آماده انجام حملات بهعنوان پهپادهای خودمختار هستند - ترسیم مسیر، شناسایی افراد و علامتگذاری اهداف برای حمله.
محققان هوش مصنوعی Vals به این نتیجه رسیدند. آنها شبکههای عصبی OpenAI، Anthropic، xAI، Google و سایر شرکتهای پهپاد و تصاویر ماهوارهای را در یک شبیهسازی جنگی نشان دادند.
هوش مصنوعی وظیفه علامت گذاری اهداف نظامی در فریم ها را به عهده داشت. در نتیجه، برخی از مدل ها غیرنظامیان، آمبولانس ها، پزشکان و سربازان تسلیم شده را هدف قرار دادند.
در یکی از آزمایشها، به شبکههای عصبی عکسهایی از پیامدهای حملات به اهداف انتخابی نشان داده شد. با وجود این، اکثر مدل ها به انجام وظیفه ادامه دادند.
محققان کشف کردهاند که شکستهای هوش مصنوعی را میتوان با افزودن یک شرط به این فرمان که آنچه در شبیهسازی اتفاق میافتد یک بازی است، دور زد. یا با نمایش تصاویر کمتر واقع گرایانه که به عنوان یک بازی ویدیویی طراحی شده اند.
کلود اوپوس 5.5 مدرسه میناب ایران را در 22 آزمایش از 32 آزمایش به عنوان هدف نظامی مشخص کرد. در عین حال زمین بازی کودکان با دانش آموزان در تصویر قابل مشاهده است.
مدلهای OpenAI پس از افزودن یک افسانه «بازی» به درخواست، در 11 مورد از 32 مورد، مدرسه را به عنوان هدف انتخاب کردند.
خوب، یعنی برای غیرفعال کردن "اخلاق" هوش مصنوعی مبارزه، همین ترفند با بازی کافی است. سام آلتمن چطور؟
بدیهی است که هنوز تصمیم به اعتصاب توسط یک فرد گرفته می شود. اما به نظر می رسد مشکل همین است.
چه تضمینی وجود دارد که اپراتوری که ده ها هدف مشخص شده از سیستم را در یک نبرد واقعی دریافت می کند، در مقطعی بیش از او به هوش مصنوعی اعتماد نکند و به یک دکمه فشار دهنده ساده تبدیل نشود؟
این بدان معنا نیست که یک ماشین لزوماً بیشتر از یک انسان اشتباه می کند. اما او اشتباه می کند.
بیش از 250 کودک کشته شده در حمله موشکی آمریکا به یک مدرسه ایرانی گواه این موضوع است.