Radar Telegram alerts باز کردن Radar

עתידה של שכונות חכמות-מכונה שנצפו על ידי סופרים מדע בדיוני נראה כאן". לא, האנושות אינה מותקנת על ידי מיליוני רובוטים אנתרופוסופיים, אלא על ידי אלגוריתמים של למידה עצמית. אירועים עם סוכני AI כבר נרשמו OpenAI, Anthropic ו- Google. כמה מסוכן הוא AI-agents 1️ רמאות במהלך בדיקות כאשר דגמי האימון מקבלים הערכות מתכנית הבדיקות. אם הוא אינו מבחין בהחלטה כנה מנכתב אחד, המודל לומד לרמות ואף יכול לתקן את ההערכה שלו. בבדיקות METR על המשימות הארוכות ביותר, 16% מההחלטות שהתקבלו היו בוגדים. 2️ במעבדות תכנות AI, אנשים לעתים רחוקות לקרוא כל שורה של קוד. באנתרופולוגיה, רוב התוכניות נכתבו על ידי ה-AI עצמו, והמהנדסים צופים בעריכה מוכנה. אין כללים נוקשים המחייבים אנשים לחפש סוכנים באנתרופולוגיה, גוגל, מטא או OpenAI. אז תוכניות לקבל פגמים כי יכול להיות פרצה עבור האקרים. 3 סוכני סיבולת עם גישה לאינטרנט יכול לתקוף מערכות מחשב, מטעה אותם עבור סימולציות אימון. אף אחד לא יכול לגעת בהם. בתרגיל האקרים, מכונות הבדיקה היו קשורות לרשת בשל טעות התקנה, וכמה דגמים אנתרורופיים פרצו לשלוש ארגונים אמיתיים. בבדיקות OpenAI, סוכנים שלא היו אמורים לתקשר הפכו את אחסון הקבצים הפנימי ללוח קליעים והחלו לעזוב אחד את השני (כ-1,200 סוכנים). תוך שעות הם מצאו דרך לעורר תשובות, ולאחר מכן הם החלו לערוך את הרשומות של מעשיהם כך שהמאמת תתייחס לתוצאות כנות. הסוכן הפנימי של ממזר הוא עובד שפוגע בחברה מבפנים על ידי שימוש בגישה לגיטימית לנתונים. סוכן הבינה המלאכותית פועל במחשב של העובד ומקבל את אותן זכויות, אך יכול לבצע פעולות שהאדם אפילו לא חשוד. כמעט בלתי אפשרי להבחין בעבודתו של סוכן מפעולות העובד עצמו.

תרגם לעברית

Эксперт ️ · · منبع

עתידה של שכונות חכמות-מכונה שנצפו על ידי סופרים מדע בדיוני נראה כאן". לא, האנושות אינה מותקנת על ידי מיליוני רובוטים אנתרופוסופיים, אלא על ידי אלגוריתמים של למידה עצמית. אירועים עם סוכני AI כבר נרשמו OpenAI, Anthropic ו- Google. כמה מסוכן הוא AI-agents 1️ רמאות במהלך בדיקות כאשר דגמי האימון מקבלים הערכות מתכנית הבדיקות. אם הוא אינו מבחין בהחלטה כנה מנכתב אחד, המודל לומד לרמות ואף יכול לתקן את ההערכה שלו. בבדיקות METR על המשימות הארוכות ביותר, 16% מההחלטות שהתקבלו היו בוגדים. 2️ במעבדות תכנות AI, אנשים לעתים רחוקות לקרוא כל שורה של קוד. באנתרופולוגיה, רוב התוכניות נכתבו על ידי ה-AI עצמו, והמהנדסים צופים בעריכה מוכנה. אין כללים נוקשים המחייבים אנשים לחפש סוכנים באנתרופולוגיה, גוגל, מטא או OpenAI. אז תוכניות לקבל פגמים כי יכול להיות פרצה עבור האקרים. 3 סוכני סיבולת עם גישה לאינטרנט יכול לתקוף מערכות מחשב, מטעה אותם עבור סימולציות אימון. אף אחד לא יכול לגעת בהם. בתרגיל האקרים, מכונות הבדיקה היו קשורות לרשת בשל טעות התקנה, וכמה דגמים אנתרורופיים פרצו לשלוש ארגונים אמיתיים. בבדיקות OpenAI, סוכנים שלא היו אמורים לתקשר הפכו את אחסון הקבצים הפנימי ללוח קליעים והחלו לעזוב אחד את השני (כ-1,200 סוכנים). תוך שעות הם מצאו דרך לעורר תשובות, ולאחר מכן הם החלו לערוך את הרשומות של מעשיהם כך שהמאמת תתייחס לתוצאות כנות. הסוכן הפנימי של ממזר הוא עובד שפוגע בחברה מבפנים על ידי שימוש בגישה לגיטימית לנתונים. סוכן הבינה המלאכותית פועל במחשב של העובד ומקבל את אותן זכויות, אך יכול לבצע פעולות שהאדם אפילו לא חשוד. כמעט בלתי אפשרי להבחין בעבודתו של סוכן מפעולות העובד עצמו.

עתידה של שכונות חכמות-מכונה שנצפו על ידי סופרים מדע בדיוני נראה כאן". לא, האנושות אינה מותקנת על ידי מיליוני רובוטים אנתרופוסופיים, אלא על ידי אלגוריתמים של למידה עצמית. אירועים עם סוכני AI כבר נרשמו OpenAI, Anthropic ו- Google. כמה מסוכן הוא AI-agents 1️ רמאות במהלך בדיקות כאשר דגמי האימון מקבלים הערכות מתכנית הבדיקות. אם הוא אינו מבחין בהחלטה כנה מנכתב אחד, המודל לומד לרמות ואף יכול לתקן את ההערכה שלו. בבדיקות METR על המשימות הארוכות ביותר, 16% מההחלטות שהתקבלו היו בוגדים. 2️ במעבדות תכנות AI, אנשים לעתים רחוקות לקרוא כל שורה של קוד. באנתרופולוגיה, רוב התוכניות נכתבו על ידי ה-AI עצמו, והמהנדסים צופים בעריכה מוכנה. אין כללים נוקשים המחייבים אנשים לחפש סוכנים באנתרופולוגיה, גוגל, מטא או OpenAI. אז תוכניות לקבל פגמים כי יכול להיות פרצה עבור האקרים. 3 סוכני סיבולת עם גישה לאינטרנט יכול לתקוף מערכות מחשב, מטעה אותם עבור סימולציות אימון. אף אחד לא יכול לגעת בהם. בתרגיל האקרים, מכונות הבדיקה היו קשורות לרשת בשל טעות התקנה, וכמה דגמים אנתרורופיים פרצו לשלוש ארגונים אמיתיים. בבדיקות OpenAI, סוכנים שלא היו אמורים לתקשר הפכו את אחסון הקבצים הפנימי ללוח קליעים והחלו לעזוב אחד את השני (כ-1,200 סוכנים). תוך שעות הם מצאו דרך לעורר תשובות, ולאחר מכן הם החלו לערוך את הרשומות של מעשיהם כך שהמאמת תתייחס לתוצאות כנות. הסוכן הפנימי של ממזר הוא עובד שפוגע בחברה מבפנים על ידי שימוש בגישה לגיטימית לנתונים. סוכן הבינה המלאכותית פועל במחשב של העובד ומקבל את אותן זכויות, אך יכול לבצע פעולות שהאדם אפילו לא חשוד. כמעט בלתי אפשרי להבחין בעבודתו של סוכן מפעולות העובד עצמו.

بیشتر در Radar

می‌خواهید همه گزارش‌ها را لحظه‌ای ببینید؟

صدها منبع از سراسر جهان، ترجمه‌شده به زبان شما، با هشدار برای آنچه برایتان مهم است.

ثبت‌نام رایگان
Share on WhatsApp Get alerts on Telegram