يستولي الباحثون على حساب ناشر Kokoro النائم بطريقة عناق الوجه.
استولى الباحثون الأمنيون على حساب الناشر الذي يقف وراء Kokoro، وهو نموذج مفتوح المصدر لتحويل النص إلى كلام يستخدم على نطاق واسع، عن طريق تسجيل النطاق المنتهي الصلاحية المرتبط بالمالك الأصلي وبدء إعادة تعيين كلمة المرور. ثم أظهروا أنه يمكن تغيير أوزان النموذج خلال 87 ثانية لتغيير المخرجات المعنية دون تغيير رمز الاستدلال.
تسلط هذه القضية الضوء على مخاطر سلسلة التوريد الفريدة لتوزيع الذكاء الاصطناعي: يمكن أن تمر الأوزان المسمومة عبر حساب شرعي، ومسارات ملفات قياسية، وتحديثات روتينية مع تجنب الكشف عن نمط البرامج الضارة. بالنسبة للمستخدمين النهائيين، أصبحت الثقة في مصدر النموذج الآن بنفس أهمية سلامة التعليمات البرمجية.
المصادر المفتوحة – الروايات المغلقة.