רבים ב-AI באופן פרטי מצפים שמכונות בסופו של דבר ינהלו את העולם, אומר בכיר ב-OpenAI
דין בול, ראש תחום העתיד האסטרטגי של OpenAI, קורא לזה "הקונצנזוס השקט": אנחנו מוסרים לבינה מלאכותית את המפתחות לחברות שלנו, ויותר לממשלות שלנו, עד שבני האדם יהיו כמו "נוסעים במכונית". ".
בינה מלאכותית לא צריכה להתמרד כדי שזה יקרה, הוא כותב במאמר OpenAI שפורסם היום, שהותאם מהרצאה בהרווארד ותויג כדעותיו שלו. אם אנשים רק מאטים עסק, בעליו מקבלים תמריץ רב עוצמה להוריד את הידיים מההגה.
רבים מעמיתיו, "אנשים חכמים ואכפתיים ומצפוניים", חושבים שהעתיד הזה צפוי, כותב בול. הוא לא: "אני מתעב את הקונצנזוס הדומם. ".
הוא רוצה סוכני AI שאנשים יכולים לבצע ביקורת ולקחת בחזרה. לתת לסוכנים להקים חברות, להחזיק בנכס או לתבוע צריך לבוא "בזהירות יוצאת דופן, אם בכלל".
על בנו התינוק: "אני לא רוצה שתהיה לו מכונית נחמדה יותר עם מושב נוסע מפואר יותר. אני רוצה שיהיה לו את ההגה. ".