يريد أحد أعضاء مجلس إدارة OpenAI أن تقوم مختبرات الذكاء الاصطناعي بإيقاف التقدم مؤقتًا "في الوقت الحالي".
قال بول كريستيانو، مخترع RLHF، التقنية وراء تدريب ChatGPTs، في بودكاست Devarkash يوم الاثنين إنه "ليس من الجيد لمختبرات الذكاء الاصطناعي الأمريكية تحسين التدريب المسبق والتعلم المعزز نظرًا لوضعها الأمني الحالي. ".
هل يجب تأجيل المختبرات؟ "أعتقد أنه ينبغي علينا ذلك. " حول تحسين الخوارزميات التي يمكن سرقتها بسرعة: "أعتقد أنه يجب عليهم إيقافها الآن. ".
وهو يخشى أن تتمكن الصين من سرقة الذكاء الفائق في منتصف السباق، بحيث لا تتمكن المختبرات من التباطؤ حتى لو خرجت نماذجها عن المسار الصحيح. لاحظ المضيف Dwarkash Patel أن إحدى الشركات الناشئة الأمنية دخلت كل Anthropics Slack في غضون 12 ساعة.
قال باتيل: "لكنك عضو في مجلس إدارة OpenAIs". كريستيانو: "من المهم جدًا في هذه المحادثة أنني لن أتحدث كعضو في مجلس إدارة OpenAI. ".
إنه يعطي ربما فرصة واحدة من كل ثلاثة للذكاء الفائق في غضون عام إذا لم يكن هناك شيء يبطئه، ويضع خطر سيطرة الذكاء الاصطناعي في ذلك الوقت على "خطر بنسبة 10٪ بدلاً من خطر 1٪". ".