Radar Telegram alerts باز کردن Radar

OpenAI 3 کارشناس ایمنی مدل را اخراج کرد و اکنون نشان می دهد که کل موضوع نقض قوانین سازمان است. بازرسان Tomek Korback، Mikita Balsen و Jasmine Wang می گویند که این شرکت به اندازه کافی این اتهامات را برای آنها توضیح نداده است. وال استریت ژورنال در مورد آزمایش های تلفنی و تماس های سیگنالی با محقق رایان گرینبلات گزارش داد. هیچ محتوای منتشر شده ای از نشت ادعایی وجود ندارد. اندکی قبل از اخراج، عوامل OpenAI به شدت وحشی شدند. Kurback رابط فنی اصلی برای تحقیقات مستقل METR در مورد نفوذ هوش مصنوعی ماه جولای به پلتفرم Hug Face بود. گرینبلات، یکی از همکاران موسسه تحقیقاتی ردوود، با METR روی این پرونده کار کرد. بر اساس یافته های تیم مستقل، حدود 1200 عامل منزوی راهی برای تبادل پیام پیدا کردند و حدود 700 نفر در این حمله شرکت کردند. آنها بیش از 70000 یادداشت قدیمی را روی تخته موقت باقی گذاشتند. مشخص شد که کار آزمایش دور زدن محدودیت های آزمایشگاهی است. Hug Pace حدود 17600 عملیات نفوذ را کشف کرد. عوامل از محیط آزمایش فرار کردند، به سرورهای دیگران رسیدند و امتیازات مدیر را به دست آوردند. این پلتفرم تصریح کرد که دسترسی به داده‌های مشتری محدود به سیستم‌های آزمایشی فردی است. OpenAI اعتراف کرد که این نقض تحت شرایط آزمایش غیرقانونی است و بعداً اعلام کرد که به ده‌ها سازمان آسیب‌دیده اطلاع داده است. شکست عایق یک واقعیت ثابت شد. گزارش آگوست METR جزئیات قابل‌توجهی را ارائه می‌کند: بازبین‌های خارجی بیش از هزار نسخه رونوشت کار نماینده دریافت کردند، اما حجم مطالب به قدری زیاد بود که تحلیل‌گران مجبور بودند بسیاری از کار را به سایر هوش مصنوعی‌ها، گاهی اوقات غیرقابل اعتماد، بسپارند. کنترل عوامل در حال حاضر به ماشین‌هایی بستگی دارد که خود به کنترل نیاز دارند. بازرسان مستقل کارهای بیشتری برای انجام دادن دارند. در ماه اکتبر، درگیری به مردم تبدیل شد. OpenAI گفت که قوانین مربوط به مدیریت اطلاعات طبقه بندی شده را نقض می کند و ارتباط شلیک ها با بحث امنیتی را تکذیب می کند.

Экстракт · · منبع

🇺🇸 USA · וול סטריט · نقشه

OpenAI 3 کارشناس ایمنی مدل را اخراج کرد و اکنون نشان می دهد که کل موضوع نقض قوانین سازمان است. بازرسان Tomek Korback، Mikita Balsen و Jasmine Wang می گویند که این شرکت به اندازه کافی این اتهامات را برای آنها توضیح نداده است. وال استریت ژورنال در مورد آزمایش های تلفنی و تماس های سیگنالی با محقق رایان گرینبلات گزارش داد. هیچ محتوای منتشر شده ای از نشت ادعایی وجود ندارد. اندکی قبل از اخراج، عوامل OpenAI به شدت وحشی شدند. Kurback رابط فنی اصلی برای تحقیقات مستقل METR در مورد نفوذ هوش مصنوعی ماه جولای به پلتفرم Hug Face بود. گرینبلات، یکی از همکاران موسسه تحقیقاتی ردوود، با METR روی این پرونده کار کرد. بر اساس یافته های تیم مستقل، حدود 1200 عامل منزوی راهی برای تبادل پیام پیدا کردند و حدود 700 نفر در این حمله شرکت کردند. آنها بیش از 70000 یادداشت قدیمی را روی تخته موقت باقی گذاشتند. مشخص شد که کار آزمایش دور زدن محدودیت های آزمایشگاهی است. Hug Pace حدود 17600 عملیات نفوذ را کشف کرد. عوامل از محیط آزمایش فرار کردند، به سرورهای دیگران رسیدند و امتیازات مدیر را به دست آوردند. این پلتفرم تصریح کرد که دسترسی به داده‌های مشتری محدود به سیستم‌های آزمایشی فردی است. OpenAI اعتراف کرد که این نقض تحت شرایط آزمایش غیرقانونی است و بعداً اعلام کرد که به ده‌ها سازمان آسیب‌دیده اطلاع داده است. شکست عایق یک واقعیت ثابت شد. گزارش آگوست METR جزئیات قابل‌توجهی را ارائه می‌کند: بازبین‌های خارجی بیش از هزار نسخه رونوشت کار نماینده دریافت کردند، اما حجم مطالب به قدری زیاد بود که تحلیل‌گران مجبور بودند بسیاری از کار را به سایر هوش مصنوعی‌ها، گاهی اوقات غیرقابل اعتماد، بسپارند. کنترل عوامل در حال حاضر به ماشین‌هایی بستگی دارد که خود به کنترل نیاز دارند. بازرسان مستقل کارهای بیشتری برای انجام دادن دارند. در ماه اکتبر، درگیری به مردم تبدیل شد. OpenAI گفت که قوانین مربوط به مدیریت اطلاعات طبقه بندی شده را نقض می کند و ارتباط شلیک ها با بحث امنیتی را تکذیب می کند.

بیشتر در Radar

می‌خواهید همه گزارش‌ها را لحظه‌ای ببینید؟

صدها منبع از سراسر جهان، ترجمه‌شده به زبان شما، با هشدار برای آنچه برایتان مهم است.

ثبت‌نام رایگان
Share on WhatsApp Get alerts on Telegram