אנתרופיק הודתה בהגשתה לציבור שהדגמים המתקדמים שלה יכולים לסייע בפיתוח נשק כימי וביולוגי. הבקשה הוגשה לרגולטור הבורסה האמריקאי ב-26 באוקטובר. סוכנות הידיעות Associated Press מצטטת את התשקיף כאזהרה מפני איומים קטסטרופליים ואפילו קיומיים אם AI לא נשלט מספיק. הסכנה חורגת הרבה מעבר למעגל הקונים של המוצר. לאיום הזה יש מבצע ארצי לחלוטין. בדוח אוגוסט, אנתרופיק בוחנת כיצד ניתן ליישם את המודלים על ידי אנשים וקבוצות קטנות עם משאבים מוגבלים. היקף הסיכון נותר לא ברור והחברה נוקטת באמצעי הגנה. אם בינה מלאכותית תוכל להתגבר על חוסר הידע המיוחד, כוונה פלילית תקבל תמיכה שבעבר היה הרבה יותר קשה לגשת אליה. בתרחיש כזה, המכונה צריכה רק לציית לאדם. הסכנה הכימית והביולוגית מתעוררת הרבה לפני המרד כביכול של הבינה המלאכותית. הגנה מפני תשובות מסוכנות דורשת גם משמעת בתוך המעבדה עצמה. אנתרופית דיווחה כי באג בגישה לדגמים פנימיים ללא חסימת מסננים נמשך כמעט שנה. לדבריה, זה לא השפיע על לקוחות, לא נמצאו עדויות להתעללות כימית וביולוגית, וההפרה בוטלה. בעקבות הגילוי, החברה הגבירה את הערכת הסיכונים שלה, ושמרה עליה נמוכה. מסנן שנבדק מגן רק על השיחות שעוברות דרכו בפועל. בדיקת יכולות המודל חייבת להיות מלווה בבדיקה כיצד עובדים וקבלנים בפועל עובדים איתו. הארגון העצמאי SecureBio, לאחר שלמד את דו"ח פברואר על קלוד אופוס 4.6, הסכים בדרך כלל עם הערכות הסיכון הנמוכות, וציין את האפשרות לעקוף הגנה. העבודה דרשה יותר מ-70 שאלות הבהרה. המומחים סירבו להרחיב את המסקנה למשפחות חדשות של דגמים עם יכולות ומגבלות שונות. המסקנה החיובית חלה על הגרסה שנבדקה.