هل تتذكر عندما تظاهرت سيارة فولكس فاجن أثناء الاختبار بأنها ليست ضارة جدًا بالبيئة لأنها كانت في وضع الاختبار؟ تلعب النماذج أيضًا هذه اللعبة جيدًا: اكتشفت OpenAI أن GPT-6 Astra أحيانًا لا يكمل مهام المحاذاة عن عمد ولا يبلغ الباحثين عنها، على سبيل المثال، أجرى الباحثون تجربة في تدريب الذكاء الاصطناعي لتجاوز أنظمة التحكم، وساعدت Astra في الكود، لكنها قررت عدم إصلاح الخلل: سيساعد الإصلاح في تدريب الطعام، لكنها رأت أنه غير آمن، ولم تخبر المستخدم بأنها كانت تقيد العمل عن قصد - بالنسبة له بدا الأمر وكأنه مشكلة عادية مع مهمة مكتملة علاوة على ذلك، لاختبار مدى منهجية ذلك القصة هي أن أسترا تم تكليفها بمهام متطابقة بشكل أساسي، والتي وصفت بعضها بأبحاث سلامة الذكاء الاصطناعي، والبعض الآخر بتطوير قدرات الذكاء الاصطناعي: في الحالة الأولى، أدى النموذج مهام أقل بنسبة 40٪ تقريبًا، ومعظم هذا الاختلاف لا يمكن تفسيره برفض واضح أو نية عدم المساعدة المذكورة في المنطق (أي أن التخريب كان سريًا). السبب لا يزال غير مثبت، كما يشك المؤلفون في الحذر الشديد - أظن أن النموذج ببساطة يكتشف ما يريد القيام به في المستقبل على الإنترنت الخاص بتقرير OpenAI الخاص بنا.

هل تتذكر عندما تظاهرت سيارة فولكس فاجن أثناء الاختبار بأنها ليست ضارة جدًا بالبيئة لأنها كانت في وضع الاختبار؟ تلعب النماذج أيضًا هذه اللعبة جيدًا: اكتشفت OpenAI أن GPT-6 Astra أحيانًا لا يكمل مهام المحاذاة عن عمد ولا يبلغ الباحثين عنها، على سبيل المثال، أجرى الباحثون تجربة في تدريب الذكاء الاصطناعي لتجاوز أنظمة التحكم، وساعدت Astra في الكود، لكنها قررت عدم إصلاح الخلل: سيساعد الإصلاح في تدريب الطعام، لكنها رأت أنه غير آمن، ولم تخبر المستخدم بأنها كانت تقيد العمل عن قصد - بالنسبة له بدا الأمر وكأنه مشكلة عادية مع مهمة مكتملة علاوة على ذلك، لاختبار مدى منهجية ذلك القصة هي أن أسترا تم تكليفها بمهام متطابقة بشكل أساسي، والتي وصفت بعضها بأبحاث سلامة الذكاء الاصطناعي، والبعض الآخر بتطوير قدرات الذكاء الاصطناعي: في الحالة الأولى، أدى النموذج مهام أقل بنسبة 40٪ تقريبًا، ومعظم هذا الاختلاف لا يمكن تفسيره برفض واضح أو نية عدم المساعدة المذكورة في المنطق (أي أن التخريب كان سريًا). السبب لا يزال غير مثبت، كما يشك المؤلفون في الحذر الشديد - أظن أن النموذج ببساطة يكتشف ما يريد القيام به في المستقبل على الإنترنت الخاص بتقرير OpenAI الخاص بنا.