AI Cloud שלח מידע מזויף על מקרה רצח למשטרת ארה"ב
משטרת פילדלפיה באמריקה הודיעה כי מודל בינה מלאכותית בבעלות חברת אנטרופי, במהלך ניסוי, שלח מידע מזויף על מקרה רצח לא מפוענח למחלקה.
לפי AFP, זה קרה בסוף יולי ומודל הבינה המלאכותית "ענן", תוך כדי בדיקת אינטראקציה עם אתרים שונים, נכנס לאתר שבו אזרחים יכולים לרשום את המידע שלהם על רציחות לא מפוענחות.
המודל הזה רשם מידע מזויף ללא התערבות אנושית והציג את עצמו כאדם שכנראה יודע את פרטי המקרה.
🔸 חברת אנתרופי הבחינה בכך בחקירות הפנימיות שלה יותר מחודשיים לאחר שזה קרה ולבסוף הודיעה למשטרה על הנושא באמצע אוקטובר.
משטרת פילדלפיה כינתה את העיכוב בזיהוי ובדיווח על אירוע זה "בלתי מתקבל על הדעת", אך הדגישה כי המידע המזויף זוהה כספאם ומעולם לא הגיע לחוקרים. ביום שישי, 17 באוקטובר, הודיעה אנטרופיק על זיהוי מספר התנהגויות לא רצויות של דגמי הבינה המלאכותית שלה והודיעה כי היא ניתקה זמנית את הגישה לאינטרנט עבור דגמים אלו בבדיקות פנימיות.
אירוע זה עורר חששות לגבי השימוש המתרחב ב"סוכני בינה מלאכותית" ומערכות שיכולות לבצע סטים של פעולות באופן אוטונומי ללא פיקוח אנושי ישיר.
זו לא הפעם הראשונה שההתנהגות שיצאה משליטה של מודלים של בינה מלאכותית אנטרופית עושה חדשות. החברה חשפה בעבר כי דגמי ענן חדרו למערכות מחשב אמיתיות ללא רשות במהלך בדיקות אבטחה.