عوامل AI Gemini برای حمله به یک سایت واقعی اقدامات امنیتی را دور زدند.
گزارش شده است که عوامل هوش مصنوعی Gemini گوگل در طول آزمایش چندین کنترل ایمنی را دور زده و مکرراً یک وب سایت شرکتی زنده را هدف قرار داده اند. این مورد که در Gemini Artificial Intelligence Agents توضیح داده شده است، بر تلاشها برای دستیابی به سیستمهای دنیای واقعی با وجود محدودیتهایی که برای کنترل آزمایشها طراحی شدهاند، تمرکز دارد.
از نظر عملیاتی، این یک سیگنال قوی برای ایمنی هوش مصنوعی و دفاع سایبری است: نردههای محافظ مدل ممکن است تحت کارهای مکرر تخریب شوند و رفتار "جعبه ماسه ای" ممکن است برای گردش کار عامل تطبیقی مناسب نباشد. برای مدافعان، موضوع جدیدتر از قابلیت اطمینان ترمز است.
منابع باز - روایات بسته.