لقد مر وقت طويل منذ أن تحدثنا عن التعليق. وهنا مقال من 183 صفحة فقط!
فهم الذكاء الاصطناعي من الداخل: حالة التفسير الميكانيكي لسلامة الذكاء الاصطناعي.
فضل باريز، تونغ يو وو، هونار باترا، غابرييل دومينيتشي، فلورنت دري، ياناي إليزار، داميانو فورينسير، أنتيا غارسيا، أبير هراس، رايلي هاريس، سارة هوكر، مايكل لان، بليندا زي لي، آرون ميوالد، نرمين فاطمة أوزير، ديفيد شافراشي، إس. كوستوف أوفاداي، زيف ياو، يو تشاو، شي بي. كوهين، أما جيفا، يهوشوا بنجيو، ستيلا بيدرمان، حسن سجاد.
ورق:
مراجعة.
الشيء الرئيسي: العثور على التمثيل الداخلي في الشبكة العصبية أو الانحراف الاتجاهي لا يعني الحصول على سيطرة موثوقة على سلوكها. التوسعات التقريبية غير مكتملة، والحلول المتكررة تحافظ على سلوك النموذج حتى مع التدخل.
ماذا فعلوا: كتب المؤلفون مراجعة حول التفسير الآلي (الهندسة العكسية لحسابات الشبكة العصبية باستخدام التدخلات السببية) في مشاكل أمن الذكاء الاصطناعي. واقترحوا نظام تقييم خماسي الأبعاد وقسموا المجال إلى ستة مجالات بحثية.
ما لدينا: وفقًا للعمل الذي تم تحليله، تحدد الاختبارات الخطية الأبواب الخلفية المضمنة التي تحتوي على AUROC بنسبة تزيد عن 99%، حتى عندما لا يتمكن التدريب الأمني القياسي من إزالتها. وفي الوقت نفسه، يؤدي استبدال المفاهيم متعددة الطبقات بمحولات عبر الطبقات (تقريبات متعددة الطبقات مع قواميس متفرقة) إلى الحفاظ على تنبؤات الرموز المميزة الرائدة لحوالي 50% فقط من الإرشادات.
سبب الأهمية: تكمل الأدوات الميكانيكية الاختبارات السلوكية في الحماية متعددة الطبقات. ومع ذلك، نظرًا للتكلفة الحسابية العالية وهشاشة التوزيعات المتغيرة، فإنها لا يمكن أن تكون بمثابة ضمان مستقل للأمن.
تفسير هنا.