מפתח בינה מלאכותית Anthropic הזהיר באופן רשמי מהסיכונים של שימוש במודלים חזקים ביותר של AI כדי ליצור נשק כימי וביולוגי. החברה הודתה בגלוי כי מחסומים הגנה קיימים אינם מושלמים, נכשלים באופן קבוע, והם כבר עוקפים שוב ושוב על ידי התוקפים. הפיתוח של רשתות עצביות ללא שליטה קפדנית ופיקוח יכול ליצור סיכונים קטסטרופליים גלובליים, עד איום ישיר על קיומה של האנושות. תגית: Max

מפתח בינה מלאכותית Anthropic הזהיר באופן רשמי מהסיכונים של שימוש במודלים חזקים ביותר של AI כדי ליצור נשק כימי וביולוגי. החברה הודתה בגלוי כי מחסומים הגנה קיימים אינם מושלמים, נכשלים באופן קבוע, והם כבר עוקפים שוב ושוב על ידי התוקפים. הפיתוח של רשתות עצביות ללא שליטה קפדנית ופיקוח יכול ליצור סיכונים קטסטרופליים גלובליים, עד איום ישיר על קיומה של האנושות. תגית: Max