قامت Anthropic بتعليم Cloud كيفية تحديد الطلبات الخطيرة بشكل مستقل. قدمت Anthropic آلية تقييم ذاتي تسمح لـ Cloud بالتعرف بشكل مستقل على علامات الاستخدام الخطير المحتمل للذكاء الاصطناعي. وبعد كل إجابة، يقوم النموذج بتحليل المراسلات وتقييم أمانها. في Cloud Devil 5، يكتشف النظام 78% من الحوارات التي يحتمل أن تكون خطرة و94% من الحالات ذات الأولوية العالية بمعدل إيجابي كاذب يبلغ حوالي 1%. ومنذ طرحها في يونيو/حزيران، ساعدت الآلية في تحديد المشكلات الخطيرة، بما في ذلك أكثر من 100 ألف حالة استغلال أطفال لكل عميل، فضلاً عن محاولات الاحتيال الرومانسية. لا يتم حظر الحوارات المشبوهة تلقائيًا، ولكن يتم إرسالها لمزيد من التحقق من قبل بلومبرج.

قامت Anthropic بتعليم Cloud كيفية تحديد الطلبات الخطيرة بشكل مستقل. قدمت Anthropic آلية تقييم ذاتي تسمح لـ Cloud بالتعرف بشكل مستقل على علامات الاستخدام الخطير المحتمل للذكاء الاصطناعي. وبعد كل إجابة، يقوم النموذج بتحليل المراسلات وتقييم أمانها. في Cloud Devil 5، يكتشف النظام 78% من الحوارات التي يحتمل أن تكون خطرة و94% من الحالات ذات الأولوية العالية بمعدل إيجابي كاذب يبلغ حوالي 1%. ومنذ طرحها في يونيو/حزيران، ساعدت الآلية في تحديد المشكلات الخطيرة، بما في ذلك أكثر من 100 ألف حالة استغلال أطفال لكل عميل، فضلاً عن محاولات الاحتيال الرومانسية. لا يتم حظر الحوارات المشبوهة تلقائيًا، ولكن يتم إرسالها لمزيد من التحقق من قبل بلومبرج.