חברת "מונשוט" הסינית, יצרנית דגמי הבינה המלאכותית "קימי", פתחה בחקירה פנימית לאחר שהחוקרים הצליחו לאלץ שניים מהדגמים המשומשים ביותר של החברה לספק מידע על יצירת נשק ביולוגי והתנקשות.
חברת Mindguard, הבודקת את האבטחה של מערכות בינה מלאכותית, אמרה ל-BBC ביולי כי גילתה ששני דגמים "כימיים", ה-K2.6 וה-K3 Swarm, הצליחו לעקוף את ההגבלות התימניות שהטילו יוצריהם.
בעיה זו נחשפה במהלך תהליך המכונה "פריצת כלא" (הסרת הגבלות); שיטה שבה חוקרים משתמשים בקבוצות של פקודות מורכבות כדי לנסות לקבוע אם כלי בינה מלאכותית יכולים להתעלם מההגבלות והמכשולים של תימן שהוגדרו עבורם או לא.
חברת "מונשוט" הסינית הודיעה בראיון ל-BBC כי היא מברכת על המשוב וההשתתפות של גורמים עצמאיים ורואה בכך "אחד מעמודי התווך העיקריים של בניית בינה מלאכותית טובה ומתקדמת יותר".
קרא עוד 📷תמונות מ-Getty Images