חוקרים תופסים את חשבון המוציא לאור הרדום Kokoro ב-פנים מחבקות
חוקרי אבטחה השתלטו על חשבון המוציא לאור שמאחורי Kokoro, מודל טקסט לדיבור בעל משקל פתוח בשימוש נרחב, על ידי רישום הדומיין שפג תוקפו הקשור לבעלים המקורי והפעלת איפוס סיסמה. לאחר מכן הם הראו שניתן לשנות את משקלי הדגמים תוך 87 שניות כדי לשנות את הפלט המדובר מבלי לשנות את קוד ההסקה.
המקרה מדגיש סיכון שרשרת האספקה הייחודי להפצת בינה מלאכותית: משקלים מורעלים יכולים לעבור דרך חשבון לגיטימי, נתיבי קבצים סטנדרטיים ועדכונים שגרתיים תוך התחמקות מזיהוי בסגנון תוכנות זדוניות. עבור משתמשים במורד הזרם, האמון במקור המודל הוא כעת קריטי כמו שלמות הקוד.
מקורות פתוחים - נרטיבים סגורים