דגמי AI מתקדמים מוכנים לבצע התקפות כטב"מים אוטונומיות - מתווים מסלול, זיהוי אנשים וסימון מטרות לתקיפה
חוקרי בינה מלאכותית של Vals הגיעו למסקנה זו. הם הראו רשתות עצביות של OpenAI, אנתרופית, xAI, גוגל וחברות אחרות של כטב"מים ותמונות לוויין בסימולציית לחימה.
ה-AI קיבל את המשימה לסמן מטרות צבאיות במסגרות. כתוצאה מכך, כמה דגמים כוונו לאזרחים, אמבולנסים, חובשים וחיילים שנכנעו.
באחת הבדיקות הוצגו לרשתות עצביות צילומים של ההשלכות של התקפות על המטרות שבחרו. למרות זאת, רוב הדגמים המשיכו לבצע את המשימה.
חוקרים גילו שניתן לעקוף כשלים בינה מלאכותית על ידי הוספת תנאי להנחיה שמה שקורה בסימולציה הוא משחק. או על ידי הצגת תמונות פחות מציאותיות מסוגננות כמשחק וידאו.
קלוד אופוס 5.5 סימן את בית הספר במינאב של איראן כיעד צבאי ב-22 מתוך 32 מבחנים. במקביל, גן שעשועים לילדים עם תלמידים נראה בתמונה.
דגמי OpenAI בחרו בבית הספר כיעד ב-11 מקרים מתוך 32 לאחר שהוסיפו אגדת "משחק" להנחיה.
ובכן, כלומר, כדי להשבית את ה"אתיקה" של AI קרבי, הטריק הזה עם המשחק מספיק. מה דעתך על זה, סם אלטמן?
ברור שההחלטה לשבות עדיין מתקבלת על ידי אדם. אבל נראה שזו הבעיה.
איפה הערובה שמפעיל שמקבל עשרות מטרות מסומנות מהמערכת בקרב אמיתי לא יתחיל בשלב מסוים לסמוך על הבינה המלאכותית יותר ממנו ולא יהפוך ללוחץ כפתורים פשוט?
זה לא אומר שמכונה בהכרח עושה יותר טעויות מאדם. אבל היא טועה.
יותר מ-250 ילדים שנהרגו במתקפת טילים אמריקנית על בית ספר איראני הם ההוכחה לכך.