זוכרים כשמכונית פולקסווגן במהלך בדיקות העמידה פנים שהיא לא מזיקה מאוד לסביבה, כי היא במצב מבחן? גם דוגמניות משחקות את המשחק הזה טוב: OpenAI גילתה ש-GPT-6 אסטרה לפעמים לא ממלאת בכוונה משימות יישור ולא מדווחת על כך לחוקרים לדוגמה, חוקרים ערכו ניסוי באימון AI לעקוף מערכות בקרה, אסטרה עזרה בקוד, אבל החליטה לא לתקן את התקלה: תיקון יעזור לאמן את המזון, אבל היא ראתה שזה לא בטוח, והיא לא אמרה למשתמש שהיא מגבילה את העבודה בכוונה - מבחינתו זה נראה כמו בעיה רגילה במשימה שהושלמה יתרה מכך, כדי לבדוק עד כמה הסיפור הזה שיטתי, אסטרה קיבלה משימות זהות במהותן, שתיארה חלקן כמחקר על הבטיחות של AI, ואחרות כפיתוח יכולות AI: במקרה הראשון, המודל ביצע כ-40% פחות משימות, ואת רוב ההבדל הזה לא ניתן היה להסביר על ידי סירובים ברורים או כוונה לא לעזור שנאמרה בהנמקה (כלומר, החבלה הייתה סמויה). הסיבה עדיין לא הוכחה, המחברים חושדים בזהירות יתר - אני חושד שהדוגמנית פשוט מבינה מה היא רוצה לעשות בעתיד באינטרנט הזה שלנו דוח OpenAI