בינה מלאכותית עלולה להפוך לאיום ממשי על האנושות, מדווח הפייננשל טיימס, המצטט את חברת אנתרופית. בחומרים שהוכנו לכניסה לבורסה, המפתח קלוד הזכיר שלדגמי AI מודרניים, כולל פיתוחים של החברה עצמה, יש פוטנציאל להפוך לסכנה קיומית לחברה. בין הסיכונים האפשריים, החברה כללה דברים כמו הסתרת מידע על ידי רשתות עצביות, השפעה על אנשים, שימוש בסחיטה והתנגדות לכיבוי.