מערכות בינה מלאכותית מפותחות יכולות להוות איום על קיומה של האנושות, והמודלים החזקים ביותר יכולים לסייע ביצירת נשק להשמדה המונית. מפתח קלוד אנתרופית הזהיר על כך בתשקיף ההנפקה שלה שפורסם באתר רשות ניירות הערך האמריקאית (SEC). המסמך קובע כי סיכונים חמורים במיוחד מתעוררים כאשר נעשה שימוש בזדון בבינה מלאכותית, הופכים לנשק או כאשר מערכות זוכות לדרגה גבוהה של אוטונומיה. אנתרופיק מכירה בכך שלדגמים המתקדמים שלה יש כבר יכולות שיכולות לעזור לתוקפים לפתח נשק כימי וביולוגי. החברה משתמשת במנגנוני הגנה, אך מזהירה כי ניתן לעקוף אותם.