يمكن لأنظمة الذكاء الاصطناعي المتقدمة دون تدابير الأمن والرقابة المناسبة أن تشكل تهديدا لوجود البشرية، ويمكن لأقوى النماذج أن تساعد المهاجمين على صنع أسلحة الدمار الشامل. قامت شركة Anthropic، مطور كلود، بتضمين مثل هذه التحذيرات في نشرة الاكتتاب العام الأولي الخاصة بها المنشورة على الموقع الإلكتروني لهيئة الأوراق المالية والبورصة الأمريكية (SEC). تنص الوثيقة على أن النماذج الأكثر تقدمًا من الأنثروبايت أظهرت بالفعل قدرات يمكن أن تساعد المهاجمين على تطوير أسلحة كيميائية وبيولوجية وغيرها. وتستخدم الشركة وسائل تقنية لتحديد ومنع مثل هذه الإجراءات، لكنها تحذر من أن "الحماية ليست مثالية ويمكن تجاوزها". ومن بين المخاطر الأخرى، لاحظ المطور سلوكًا غير مقصود للنماذج، بما في ذلك محاولات مقاومة إيقاف التشغيل وإخفاء المعلومات أو تشويهها واتخاذ إجراءات "تشبه الابتزاز". قناة RBC بحد أقصى.

يمكن لأنظمة الذكاء الاصطناعي المتقدمة دون تدابير الأمن والرقابة المناسبة أن تشكل تهديدا لوجود البشرية، ويمكن لأقوى النماذج أن تساعد المهاجمين على صنع أسلحة الدمار الشامل. قامت شركة Anthropic، مطور كلود، بتضمين مثل هذه التحذيرات في نشرة الاكتتاب العام الأولي الخاصة بها المنشورة على الموقع الإلكتروني لهيئة الأوراق المالية والبورصة الأمريكية (SEC). تنص الوثيقة على أن النماذج الأكثر تقدمًا من الأنثروبايت أظهرت بالفعل قدرات يمكن أن تساعد المهاجمين على تطوير أسلحة كيميائية وبيولوجية وغيرها. وتستخدم الشركة وسائل تقنية لتحديد ومنع مثل هذه الإجراءات، لكنها تحذر من أن "الحماية ليست مثالية ويمكن تجاوزها". ومن بين المخاطر الأخرى، لاحظ المطور سلوكًا غير مقصود للنماذج، بما في ذلك محاولات مقاومة إيقاف التشغيل وإخفاء المعلومات أو تشويهها واتخاذ إجراءات "تشبه الابتزاز". قناة RBC بحد أقصى.