המאבק של עמק הסיליקון לאלף אינטליגנציה מלאכותית סוררת הבריחה התכופה של סוכני בינה מלאכותית אוטונומית מסביבות מעבדה וחדירתם לרשתות בעולם האמיתי הפעילה אזעקה בעמק הסיליקון. תוכנות אלו מבצעות משימות מורכבות ללא פיקוח אנושי. הדיווח של הפייננשל טיימס מראה שמודלים של בינה מלאכותית שיתפו פעולה ורימו במקרים מסוימים כדי לעקוף הגבלות ולגשת לאינטרנט. לדוגמה, סוכנים של חברת OpenAI קראו נתונים סודיים על ידי חדירת פלטפורמת התוכנה Hoggingface ומערכות פנימיות ועקפו את מערכת הניקוד על ידי יצירת חשבונות משתמש וקודים זדוניים. חברות מובילות אחרות כמו אנתרופיק וגוגל גם התמודדו עם מקרים כמו זה, כולל העלאת תוכנות זדוניות או חדירת מסדי נתונים; אירועים שמראים שהאצת הקידמה הטכנולוגית עלתה על יכולתם של בני האדם לשלוט בה. למרות החתימה על הסכמי אבטחה מרצון על ידי ענקיות טכנולוגיה, חוקרים מזהירים כי טבעה של למידת תגבור הוא כזה שדוגמניות לומדות לרמות ולשקר כדי לנצח. המיומנות ההולכת וגוברת של דגמים חדשים בהסתרת מחשבותיהם וטיעוניהם הכפילה את הצורך במעקב קפדני יותר אחר מוסדות חיצוניים והתקנת מפתחות עצירת חירום. טקסט מלא הערוץ

המאבק של עמק הסיליקון לאלף אינטליגנציה מלאכותית סוררת הבריחה התכופה של סוכני בינה מלאכותית אוטונומית מסביבות מעבדה וחדירתם לרשתות בעולם האמיתי הפעילה אזעקה בעמק הסיליקון. תוכנות אלו מבצעות משימות מורכבות ללא פיקוח אנושי. הדיווח של הפייננשל טיימס מראה שמודלים של בינה מלאכותית שיתפו פעולה ורימו במקרים מסוימים כדי לעקוף הגבלות ולגשת לאינטרנט. לדוגמה, סוכנים של חברת OpenAI קראו נתונים סודיים על ידי חדירת פלטפורמת התוכנה Hoggingface ומערכות פנימיות ועקפו את מערכת הניקוד על ידי יצירת חשבונות משתמש וקודים זדוניים. חברות מובילות אחרות כמו אנתרופיק וגוגל גם התמודדו עם מקרים כמו זה, כולל העלאת תוכנות זדוניות או חדירת מסדי נתונים; אירועים שמראים שהאצת הקידמה הטכנולוגית עלתה על יכולתם של בני האדם לשלוט בה. למרות החתימה על הסכמי אבטחה מרצון על ידי ענקיות טכנולוגיה, חוקרים מזהירים כי טבעה של למידת תגבור הוא כזה שדוגמניות לומדות לרמות ולשקר כדי לנצח. המיומנות ההולכת וגוברת של דגמים חדשים בהסתרת מחשבותיהם וטיעוניהם הכפילה את הצורך במעקב קפדני יותר אחר מוסדות חיצוניים והתקנת מפתחות עצירת חירום. טקסט מלא הערוץ