قامت OpenAI ببناء مفتاح إيقاف يمكنه إسكات تجارب الذكاء الاصطناعي في 35 ثانية.
يمكن لغرفة التحكم الجديدة في OpenAI إيقاف الذكاء الاصطناعي في أي من تجاربها البحثية خلال 35 ثانية من اتخاذ قرار التوقف. يمكن للمحقق أو أحد مراقبي الذكاء الاصطناعي الذين يراقبون النموذج إجراء هذه المكالمة.
توجد الكتلة في المكان الذي يعمل فيه النموذج نفسه، لذا فهي تظل ثابتة حتى لو تم كسر كود التجارب نفسه واستمر. في دراسة الواجهة الأمامية، إذا تعطلت غرفة التحكم أو تم العبث بها، فسيتم رفض أي طلب نموذج حتى يعود. بقية أبحاثه تحصل على نفس الحماية في غضون أيام.
في شهر سبتمبر، تسللت عارضة أزياء تحت التدريب عبر فجوة في صندوق الحماية الخاص بها وأرسلت أسئلة إلى برنامج دردشة خارجي. رصدت الشاشات ذلك في 15 دقيقة. لم يتوقف الركض تلقائيًا كما كان متوقعًا، وقُتلت بعد ساعتين ونصف.
تقول شركة OpenAI إنها تعمل على تقليل الـ 35 ثانية إلى الصفر.