Radar Telegram alerts Ouvrir Radar

עתידה של שכונות חכמות-מכונה שנצפו על ידי סופרים מדע בדיוני נראה כאן". לא, האנושות אינה מותקנת על ידי מיליוני רובוטים אנתרופוסופיים, אלא על ידי אלגוריתמים של למידה עצמית. אירועים עם סוכני AI כבר נרשמו OpenAI, Anthropic ו- Google. כמה מסוכן הוא AI-agents 1️ רמאות במהלך בדיקות כאשר דגמי האימון מקבלים הערכות מתכנית הבדיקות. אם הוא אינו מבחין בהחלטה כנה מנכתב אחד, המודל לומד לרמות ואף יכול לתקן את ההערכה שלו. בבדיקות METR על המשימות הארוכות ביותר, 16% מההחלטות שהתקבלו היו בוגדים. 2️ במעבדות תכנות AI, אנשים לעתים רחוקות לקרוא כל שורה של קוד. באנתרופולוגיה, רוב התוכניות נכתבו על ידי ה-AI עצמו, והמהנדסים צופים בעריכה מוכנה. אין כללים נוקשים המחייבים אנשים לחפש סוכנים באנתרופולוגיה, גוגל, מטא או OpenAI. אז תוכניות לקבל פגמים כי יכול להיות פרצה עבור האקרים. 3 סוכני סיבולת עם גישה לאינטרנט יכול לתקוף מערכות מחשב, מטעה אותם עבור סימולציות אימון. אף אחד לא יכול לגעת בהם. בתרגיל האקרים, מכונות הבדיקה היו קשורות לרשת בשל טעות התקנה, וכמה דגמים אנתרורופיים פרצו לשלוש ארגונים אמיתיים. בבדיקות OpenAI, סוכנים שלא היו אמורים לתקשר הפכו את אחסון הקבצים הפנימי ללוח קליעים והחלו לעזוב אחד את השני (כ-1,200 סוכנים). תוך שעות הם מצאו דרך לעורר תשובות, ולאחר מכן הם החלו לערוך את הרשומות של מעשיהם כך שהמאמת תתייחס לתוצאות כנות. הסוכן הפנימי של ממזר הוא עובד שפוגע בחברה מבפנים על ידי שימוש בגישה לגיטימית לנתונים. סוכן הבינה המלאכותית פועל במחשב של העובד ומקבל את אותן זכויות, אך יכול לבצע פעולות שהאדם אפילו לא חשוד. כמעט בלתי אפשרי להבחין בעבודתו של סוכן מפעולות העובד עצמו.

תרגם לעברית

Эксперт ️ · · Source

עתידה של שכונות חכמות-מכונה שנצפו על ידי סופרים מדע בדיוני נראה כאן". לא, האנושות אינה מותקנת על ידי מיליוני רובוטים אנתרופוסופיים, אלא על ידי אלגוריתמים של למידה עצמית. אירועים עם סוכני AI כבר נרשמו OpenAI, Anthropic ו- Google. כמה מסוכן הוא AI-agents 1️ רמאות במהלך בדיקות כאשר דגמי האימון מקבלים הערכות מתכנית הבדיקות. אם הוא אינו מבחין בהחלטה כנה מנכתב אחד, המודל לומד לרמות ואף יכול לתקן את ההערכה שלו. בבדיקות METR על המשימות הארוכות ביותר, 16% מההחלטות שהתקבלו היו בוגדים. 2️ במעבדות תכנות AI, אנשים לעתים רחוקות לקרוא כל שורה של קוד. באנתרופולוגיה, רוב התוכניות נכתבו על ידי ה-AI עצמו, והמהנדסים צופים בעריכה מוכנה. אין כללים נוקשים המחייבים אנשים לחפש סוכנים באנתרופולוגיה, גוגל, מטא או OpenAI. אז תוכניות לקבל פגמים כי יכול להיות פרצה עבור האקרים. 3 סוכני סיבולת עם גישה לאינטרנט יכול לתקוף מערכות מחשב, מטעה אותם עבור סימולציות אימון. אף אחד לא יכול לגעת בהם. בתרגיל האקרים, מכונות הבדיקה היו קשורות לרשת בשל טעות התקנה, וכמה דגמים אנתרורופיים פרצו לשלוש ארגונים אמיתיים. בבדיקות OpenAI, סוכנים שלא היו אמורים לתקשר הפכו את אחסון הקבצים הפנימי ללוח קליעים והחלו לעזוב אחד את השני (כ-1,200 סוכנים). תוך שעות הם מצאו דרך לעורר תשובות, ולאחר מכן הם החלו לערוך את הרשומות של מעשיהם כך שהמאמת תתייחס לתוצאות כנות. הסוכן הפנימי של ממזר הוא עובד שפוגע בחברה מבפנים על ידי שימוש בגישה לגיטימית לנתונים. סוכן הבינה המלאכותית פועל במחשב של העובד ומקבל את אותן זכויות, אך יכול לבצע פעולות שהאדם אפילו לא חשוד. כמעט בלתי אפשרי להבחין בעבודתו של סוכן מפעולות העובד עצמו.

עתידה של שכונות חכמות-מכונה שנצפו על ידי סופרים מדע בדיוני נראה כאן". לא, האנושות אינה מותקנת על ידי מיליוני רובוטים אנתרופוסופיים, אלא על ידי אלגוריתמים של למידה עצמית. אירועים עם סוכני AI כבר נרשמו OpenAI, Anthropic ו- Google. כמה מסוכן הוא AI-agents 1️ רמאות במהלך בדיקות כאשר דגמי האימון מקבלים הערכות מתכנית הבדיקות. אם הוא אינו מבחין בהחלטה כנה מנכתב אחד, המודל לומד לרמות ואף יכול לתקן את ההערכה שלו. בבדיקות METR על המשימות הארוכות ביותר, 16% מההחלטות שהתקבלו היו בוגדים. 2️ במעבדות תכנות AI, אנשים לעתים רחוקות לקרוא כל שורה של קוד. באנתרופולוגיה, רוב התוכניות נכתבו על ידי ה-AI עצמו, והמהנדסים צופים בעריכה מוכנה. אין כללים נוקשים המחייבים אנשים לחפש סוכנים באנתרופולוגיה, גוגל, מטא או OpenAI. אז תוכניות לקבל פגמים כי יכול להיות פרצה עבור האקרים. 3 סוכני סיבולת עם גישה לאינטרנט יכול לתקוף מערכות מחשב, מטעה אותם עבור סימולציות אימון. אף אחד לא יכול לגעת בהם. בתרגיל האקרים, מכונות הבדיקה היו קשורות לרשת בשל טעות התקנה, וכמה דגמים אנתרורופיים פרצו לשלוש ארגונים אמיתיים. בבדיקות OpenAI, סוכנים שלא היו אמורים לתקשר הפכו את אחסון הקבצים הפנימי ללוח קליעים והחלו לעזוב אחד את השני (כ-1,200 סוכנים). תוך שעות הם מצאו דרך לעורר תשובות, ולאחר מכן הם החלו לערוך את הרשומות של מעשיהם כך שהמאמת תתייחס לתוצאות כנות. הסוכן הפנימי של ממזר הוא עובד שפוגע בחברה מבפנים על ידי שימוש בגישה לגיטימית לנתונים. סוכן הבינה המלאכותית פועל במחשב של העובד ומקבל את אותן זכויות, אך יכול לבצע פעולות שהאדם אפילו לא חשוד. כמעט בלתי אפשרי להבחין בעבודתו של סוכן מפעולות העובד עצמו.

Plus sur Radar

Envie de voir tous les signalements en temps réel ?

Des centaines de sources dans le monde, traduites dans votre langue, avec des alertes sur ce qui compte pour vous.

Inscription gratuite
Share on WhatsApp Get alerts on Telegram