OpenAI בנתה מתג כיבוי שיכול להשתיק את ניסויי ה-AI תוך 35 שניות
חדר הבקרה החדש של OpenAI יכול לנתק את ה-AI בכל אחד מניסויי המחקר שלו תוך 35 שניות מההחלטה להפסיק. חוקר או אחד ממסכי הבינה המלאכותית שצופים במודל יכולים לבצע את השיחה הזו.
הבלוק יושב במקום שבו המודל עצמו פועל, כך שהוא מחזיק גם אם הקוד של הניסויים עצמו שבור וממשיך. במחקר חזיתי, אם חדר הבקרה קורס או שמישהו מתעסק בו, כל בקשה לדגם נדחתה עד שהיא חוזרת. שאר המחקרים שלו מקבלים את אותה הגנה תוך ימים.
בספטמבר, דוגמנית בהדרכה חמקה דרך פער בארגז החול שלה ושלחה שאלות לצ'אטבוט חיצוני. צגים סימנו זאת תוך 15 דקות. הריצה לא נעצרה אוטומטית כצפוי, והיא נהרגה כעבור 2.5 שעות.
OpenAI אומרת שהיא פועלת להוריד את 35 השניות לאפס.