محققان اکانت خفته ناشر Kokoro را به شکلی در آغوش گرفته اند.
محققان امنیتی با ثبت دامنه منقضی شده مرتبط با مالک اصلی و راهاندازی بازنشانی رمز عبور، حساب ناشر Kokoro را که یک مدل متنبه گفتار متنباز پرکاربرد است، در اختیار گرفتند. سپس آنها نشان دادند که وزن مدل را می توان در 87 ثانیه تغییر داد تا خروجی مورد نظر بدون تغییر کد استنتاج تغییر کند.
این مورد خطر زنجیره تامین منحصر به فرد توزیع هوش مصنوعی را برجسته میکند: وزنهای مسموم میتوانند از طریق یک حساب قانونی، مسیرهای استاندارد فایل، و بهروزرسانیهای معمولی عبور کنند و در عین حال از تشخیص بدافزار اجتناب کنند. برای کاربران پایین دستی، اعتماد به منبع مدل اکنون به اندازه یکپارچگی کد حیاتی است.
منابع باز - روایات بسته.