אנתרופית לימד קלאוד לזהות בקשות מסוכנות באופן עצמאי אנתרופיק הציגה מנגנון הערכה עצמית המאפשר לקלוד לזהות בא…

אנתרופית לימד קלאוד לזהות בקשות מסוכנות באופן עצמאי אנתרופיק הציגה מנגנון הערכה עצמית המאפשר לקלוד לזהות באופן עצמאי סימנים לשימוש שעלול להיות מסוכן בבינה מלאכותית. לאחר כל תגובה, המודל מנתח את ההתכתבות ומעריך את אבטחתה. ב-קלוד פייבל 5, המערכת מזהה 78% מהדיאלוגים שעלולים להיות מסוכנים ו-94% מהמקרים בעדיפות גבוהה עם שיעור חיובי שווא של כ-1%. מאז הצגתו ביוני, המנגנון עזר לזהות בעיות חמורות, כולל יותר מ-100,000 מקרים של ניצול ילדים לכל לקוח, כמו גם ניסיונות הונאות רומנטיות. דיאלוגים חשודים אינם נחסמים אוטומטית, אלא נשלחים לאימות נוספת בלומברג.