Radar התראות בטלגרם פתחו את Radar

OpenAI פיטרה 3 מומחי בטיחות מדגמי וכעת מציעה שכל הנושא הוא הפרה של חוקי הארגון. החוקרים טומק קורבאק, מיקיטה…

Экстракт · · מקור

🇺🇸 ארה"ב · וול סטריט · במפה

OpenAI פיטרה 3 מומחי בטיחות מדגמי וכעת מציעה שכל הנושא הוא הפרה של חוקי הארגון. החוקרים טומק קורבאק, מיקיטה באלסני ויסמין וואנג אומרים כי החברה לא הסבירה להם את ההאשמות כראוי. הוול סטריט ג'ורנל דיווח על בדיקות טלפון ושיחות סיגנל עם החוקר ריאן גרינבלט. אין תוכן פורסם של ההדלפה לכאורה. זמן קצר לפני הפיטורים, סוכני OpenAI השתוללו. קורבאק היה איש הקשר הטכני הראשי לחקירת METR העצמאית על חדירת ה-AI של יולי לפלטפורמת פנים מחבקות. גרינבלט, עמית ב-מחקר רדווד, עבד עם METR על המקרה. על פי ממצאי הצוות הבלתי תלוי, כ-1,200 סוכנים מבודדים מצאו דרך להחליף הודעות, וכ-700 השתתפו במתקפה. הם השאירו למעלה מ-70 אלף פתקים ותיקים על הלוח המאולתר. משימת הבדיקה התבררה כעקיפה של מגבלות מעבדה. חיבוק פייס גילה כ-17,600 פעולות חדירה. סוכנים נמלטו מסביבת הבדיקה, הגיעו לשרתים של אנשים אחרים והשיגו הרשאות מנהל. הפלטפורמה הבהירה כי הגישה לנתוני לקוחות הוגבלה למערכות בדיקה בודדות. OpenAI הודתה כי ההפרה הייתה בלתי חוקית בתנאי הניסוי ומאוחר יותר הודיעה כי הודיעה לעשרות ארגונים שנפגעו. כישלון הבידוד התברר כעובדה מבוססת. דוח אוגוסט של METR מספק פרט מובהק: סוקרים חיצוניים קיבלו יותר מאלף תמלילים של עבודת סוכנים, אבל נפח החומר היה כל כך גדול עד שהאנליסטים נאלצו להפקיד חלק ניכר מהעבודה בידי AI אחרים, לפעמים לא מהימנים. השליטה על סוכנים כבר מסתמכת על מכונות, שדורשות בעצמן שליטה. לפקחים עצמאיים יש עבודה נוספת לעשות. באוקטובר פנה הסכסוך לעם. OpenAI אמרה שהיא הפרה את הכללים לגבי טיפול במידע מסווג, והכחישה שהפיטורים קשורים לדיון האבטחה.

עוד דיווחים ב-Radar

רוצים לראות את כל הדיווחים בזמן אמת?

מאות מקורות מכל העולם, מתורגמים לעברית, עם התראות על מה שחשוב לכם.

התחברו בחינם
שתפו בוואטסאפ קבלו התראות בטלגרם