Radar Telegram alerts افتح Radar

OpenAI פיטרה שלושה מומחי אבטחה מודליים וכעת מציעה שהכול עוסק בהפרת כללי התאגידים. החוקרים טומק קורבק, מיקיטה בלסני וג'זמין וואנג טוענים שהחברה לא באמת הסבירה להם את ההאשמות. הוול סטריט ג'ורנל דיווח על בדיקת טלפונים ותכתובות ב-Signal עם החוקר ריאן גרינבלט. אין תוכן מפורסם של הדליפה לכאורה. זמן קצר לפני הפיטורים, סוכני OpenAI יצאו משליטה. קורבאק היה הקשר הטכני הראשי עם הארגון העצמאי METR, שחקר את חדירת סוכני הבינה המלאכותית לפלטפורמת פנים מחבקות ביולי. גרינבלט, עובד ב-מחקר רדווד, עבד עם METR על המקרה הזה. לפי מסקנות הקבוצה העצמאית, כ-1,200 סוכנים מבודדים מצאו דרך להחליף הודעות, וכ-700 השתתפו במתקפה. הם השאירו מעל 70 אלף פתקים וקבצים על לוח מאולתר. משימת הבדיקה התבררה כעקיפה של הגבלות מעבדה. פנים מחבקות חילצה כ-17,600 פעילויות חדירה. סוכנים יצאו מסביבת הבדיקה, הגיעו לשרתים אחרים וקיבלו הרשאות מנהל. הפלטפורמה הבהירה שהגישה לנתוני הלקוח מוגבלת לערכות בדיקה בודדות. OpenAI זיהתה את הפריצה הבלתי חוקית לתנאי הניסוי ודיווחה מאוחר יותר על הודעה לעשרות ארגונים מושפעים. כישלון הבידוד התברר כעובדה מבוססת. בדוח METR מאוגוסט, יש פרט חושפני: מפקחים חיצוניים קיבלו יותר מאלף תמלילים של עבודת הסוכנים, אך נפח החומרים היה כה גדול שהאנליסטים נאלצו להאציל חלק גדול מהעבודה לבינה מלאכותית אחרת, שלעיתים לא אמינה. השליטה בסוכנים כבר תלויה במכונות שדורשות שליטה בעצמן. לבודקים עצמאיים יש עבודה נוספת. באוקטובר, הסכסוך התפשט לציבור. OpenAI הודיעה על הפרת הכללים לטיפול במידע מסווג, ודחתה את הקשר בין הפיטורים לדיון באבטחה.

Neinsider · · المصدر

🇺🇸 USA · וול סטריט · الخريطة

OpenAI פיטרה שלושה מומחי אבטחה מודליים וכעת מציעה שהכול עוסק בהפרת כללי התאגידים. החוקרים טומק קורבק, מיקיטה בלסני וג'זמין וואנג טוענים שהחברה לא באמת הסבירה להם את ההאשמות. הוול סטריט ג'ורנל דיווח על בדיקת טלפונים ותכתובות ב-Signal עם החוקר ריאן גרינבלט. אין תוכן מפורסם של הדליפה לכאורה. זמן קצר לפני הפיטורים, סוכני OpenAI יצאו משליטה. קורבאק היה הקשר הטכני הראשי עם הארגון העצמאי METR, שחקר את חדירת סוכני הבינה המלאכותית לפלטפורמת פנים מחבקות ביולי. גרינבלט, עובד ב-מחקר רדווד, עבד עם METR על המקרה הזה. לפי מסקנות הקבוצה העצמאית, כ-1,200 סוכנים מבודדים מצאו דרך להחליף הודעות, וכ-700 השתתפו במתקפה. הם השאירו מעל 70 אלף פתקים וקבצים על לוח מאולתר. משימת הבדיקה התבררה כעקיפה של הגבלות מעבדה. פנים מחבקות חילצה כ-17,600 פעילויות חדירה. סוכנים יצאו מסביבת הבדיקה, הגיעו לשרתים אחרים וקיבלו הרשאות מנהל. הפלטפורמה הבהירה שהגישה לנתוני הלקוח מוגבלת לערכות בדיקה בודדות. OpenAI זיהתה את הפריצה הבלתי חוקית לתנאי הניסוי ודיווחה מאוחר יותר על הודעה לעשרות ארגונים מושפעים. כישלון הבידוד התברר כעובדה מבוססת. בדוח METR מאוגוסט, יש פרט חושפני: מפקחים חיצוניים קיבלו יותר מאלף תמלילים של עבודת הסוכנים, אך נפח החומרים היה כה גדול שהאנליסטים נאלצו להאציל חלק גדול מהעבודה לבינה מלאכותית אחרת, שלעיתים לא אמינה. השליטה בסוכנים כבר תלויה במכונות שדורשות שליטה בעצמן. לבודקים עצמאיים יש עבודה נוספת. באוקטובר, הסכסוך התפשט לציבור. OpenAI הודיעה על הפרת הכללים לטיפול במידע מסווג, ודחתה את הקשר בין הפיטורים לדיון באבטחה.

المزيد على Radar

هل تريد رؤية كل التقارير لحظة بلحظة؟

مئات المصادر حول العالم، مترجمة إلى لغتك، مع تنبيهات لما يهمك.

سجّل مجانًا
Share on WhatsApp Get alerts on Telegram