חבר מועצת המנהלים של OpenAI רוצה שמעבדות בינה מלאכותית ישהו את ההתקדמות "ממש עכשיו"
פול כריסטיאנו, שהמציא את RLHF, הטכניקה שמאחורי אימון ChatGPTs, אמר ב-דווארקש פודקאסט ביום שני כי "זה לא טוב למעבדות AI בארה"ב לשפר את ההכשרה המוקדמת ולמידת החיזוק בהתחשב בתנוחת האבטחה הנוכחית שלהן. ".
האם המעבדות צריכות להשהות? "אני חושב שכדאי לנו. " על שיפור אלגוריתמים שניתן לגנוב במהירות: "אני חושב שהם צריכים להפסיק את זה עכשיו. ".
הוא חושש שסין עלולה לגנוב מודיעין-על באמצע המירוץ, ולכן מעבדות לא יכלו להאט גם אם הדגמים שלהן ירדו מהפסים. המארח דווארקש פאטל ציין סטארטאפ אבטחה אחד נכנס לכל Anthropics Slack בתוך 12 שעות.
"אבל אתה בלוח של OpenAIs," אמר פאטל. כריסטיאנו: "חשוב מאוד בשיחה הזו שאני לא אדבר כחבר מועצת המנהלים של OpenAI. ".
הוא נותן אולי סיכוי של 1 ל-3 לאינטליגנציה על תוך שנה אם שום דבר לא מאט, ומעמיד את הסיכון להשתלטות על AI בזמן הזה ב"סיכון של 10% יותר מאשר סיכון של 1%. ".