OpenAI یک سوئیچ kill ساخته است که می تواند آزمایش های هوش مصنوعی را در 35 ثانیه خاموش کند.
اتاق کنترل جدید OpenAI می تواند هوش مصنوعی را در هر یک از آزمایشات تحقیقاتی خود در عرض 35 ثانیه پس از تصمیم به توقف خاموش کند. یک محقق یا یکی از مانیتورهای هوش مصنوعی که مدل را تماشا می کند می تواند این تماس را برقرار کند.
بلوک در جایی قرار می‌گیرد که خود مدل اجرا می‌شود، بنابراین حتی اگر خود کد آزمایش‌ها شکسته شود و ادامه پیدا کند، باقی می‌ماند. در یک مطالعه front-end، اگر اتاق کنترل از کار بیفتد یا دستکاری شود، هر درخواست مدل تا زمان بازگشت رد می شود. بقیه تحقیقات او در عرض چند روز از همان محافظت برخوردار می شوند.
در ماه سپتامبر، یک مدل در حال آموزش از شکافی در جعبه شنی خود عبور کرد و سوالاتی را به یک ربات چت خارجی ارسال کرد. مانیتورها آن را در 15 دقیقه علامت گذاری کردند. دویدن به طور خودکار همانطور که انتظار می رفت متوقف نشد و او 2.5 ساعت بعد کشته شد.
OpenAI می گوید که در حال کار است تا 35 ثانیه را به صفر برساند.