يتوقع الكثيرون في مجال الذكاء الاصطناعي، سرًا، أن تحكم الآلات العالم في نهاية المطاف، كما يقول أحد المسؤولين التنفيذيين في شركة OpenAI.
ويطلق دين بول، رئيس قسم المستقبل الاستراتيجي في شركة OpenAI، على هذا الأمر وصف "الإجماع الهادئ": فنحن نسلم الذكاء الاصطناعي مفاتيح مجتمعاتنا، وبشكل متزايد لحكوماتنا، إلى أن يصبح البشر مثل "ركاب السيارة". ".
لا يحتاج الذكاء الاصطناعي إلى التمرد لكي يحدث هذا، كما كتب في ورقة بحثية نشرت اليوم في OpenAI، وهي مقتبسة من محاضرة في جامعة هارفارد وتم تصنيفها على أنها بحثه الخاص. إذا كان الناس يبطئون الأعمال التجارية فقط، فإن أصحابها سيكون لديهم حافز قوي لرفع أيديهم عن عجلة القيادة.
يكتب بول أن العديد من زملائه، "الأشخاص الأذكياء والمهتمين وذوي الضمير الحي"، يعتقدون أن هذا المستقبل يمكن توقعه. لم يفعل: "أنا أحتقر الإجماع الصامت. ".
إنه يريد عملاء ذكاء اصطناعي يمكن للناس تدقيقهم واستعادتهم. إن السماح للوكلاء بتكوين شركات أو امتلاك ممتلكات أو رفع دعاوى قضائية يجب أن يأتي "بحذر غير عادي، هذا إذا حدث ذلك على الإطلاق".
عن ابنه الرضيع: "لا أريده أن يمتلك سيارة أجمل بمقعد راكب أكثر فخامة. أريده أن يملك العجلة. ".