Radar התראות בטלגרם פתחו את Radar

חבר מועצת המנהלים של OpenAI רוצה שמעבדות בינה מלאכותית ישהו את ההתקדמות "ממש עכשיו"

הצג מקור

aipost · · מקור

🇺🇸 ארה"ב · במפה

חבר מועצת המנהלים של OpenAI רוצה שמעבדות בינה מלאכותית ישהו את ההתקדמות "ממש עכשיו"

פול כריסטיאנו, שהמציא את RLHF, הטכניקה שמאחורי אימון ChatGPTs, אמר ב-דווארקש פודקאסט ביום שני כי "זה לא טוב למעבדות AI בארה"ב לשפר את ההכשרה המוקדמת ולמידת החיזוק בהתחשב בתנוחת האבטחה הנוכחית שלהן. ".

האם המעבדות צריכות להשהות? "אני חושב שכדאי לנו. " על שיפור אלגוריתמים שניתן לגנוב במהירות: "אני חושב שהם צריכים להפסיק את זה עכשיו. ".

הוא חושש שסין עלולה לגנוב מודיעין-על באמצע המירוץ, ולכן מעבדות לא יכלו להאט גם אם הדגמים שלהן ירדו מהפסים. המארח דווארקש פאטל ציין סטארטאפ אבטחה אחד נכנס לכל Anthropics Slack בתוך 12 שעות.

"אבל אתה בלוח של OpenAIs," אמר פאטל. כריסטיאנו: "חשוב מאוד בשיחה הזו שאני לא אדבר כחבר מועצת המנהלים של OpenAI. ".

הוא נותן אולי סיכוי של 1 ל-3 לאינטליגנציה על תוך שנה אם שום דבר לא מאט, ומעמיד את הסיכון להשתלטות על AI בזמן הזה ב"סיכון של 10% יותר מאשר סיכון של 1%. ".

עוד דיווחים ב-Radar

רוצים לראות את כל הדיווחים בזמן אמת?

מאות מקורות מכל העולם, מתורגמים לעברית, עם התראות על מה שחשוב לכם.

התחברו בחינם
שתף בוואטסאפ קבלו התראות בטלגרם

📢 עקבו בערוץ הוואטסאפ