מערכות בינה מלאכותית מתקדמות ללא אמצעי אבטחה ובקרה מתאימים עלולות להוות איום על קיומה של האנושות, והדגמים החזקים ביותר יכולים לעזור לתוקפים ליצור נשק להשמדה המונית. אנתרופיק, המפתחת של קלוד, כללה אזהרות כאלה בתשקיף ההנפקה שלה שפורסם באתר רשות ניירות הערך האמריקאית (SEC). המסמך קובע כי הדגמים המתקדמים ביותר של אנתרופית כבר הוכיחו יכולות שיכולות לסייע לתוקפים לפתח כלי נשק כימיים, ביולוגיים ואחרים. החברה משתמשת באמצעים טכניים כדי לזהות ולחסום פעולות כאלה, אך מזהירה כי "ההגנה אינה מושלמת וניתן לעקוף אותה". בין שאר הסיכונים, המפתח ציין התנהגות לא מכוונת של דגמים, כולל ניסיונות להתנגד לכיבוי, הסתרה או עיוות של מידע ונקיטת פעולות "הדומות לסחיטה". ערוץ RBC במקס

מערכות בינה מלאכותית מתקדמות ללא אמצעי אבטחה ובקרה מתאימים עלולות להוות איום על קיומה של האנושות, והדגמים החזקים ביותר יכולים לעזור לתוקפים ליצור נשק להשמדה המונית. אנתרופיק, המפתחת של קלוד, כללה אזהרות כאלה בתשקיף ההנפקה שלה שפורסם באתר רשות ניירות הערך האמריקאית (SEC). המסמך קובע כי הדגמים המתקדמים ביותר של אנתרופית כבר הוכיחו יכולות שיכולות לסייע לתוקפים לפתח כלי נשק כימיים, ביולוגיים ואחרים. החברה משתמשת באמצעים טכניים כדי לזהות ולחסום פעולות כאלה, אך מזהירה כי "ההגנה אינה מושלמת וניתן לעקוף אותה". בין שאר הסיכונים, המפתח ציין התנהגות לא מכוונת של דגמים, כולל ניסיונות להתנגד לכיבוי, הסתרה או עיוות של מידע ונקיטת פעולות "הדומות לסחיטה". ערוץ RBC במקס