واقترح مركز الأمن الأمريكي الجديد (CNAS) أن تستعد واشنطن لظهور ذكاء اصطناعي يمكنه دعم نفسه دون إذن المالك. ويربط تقرير الباحث اليوم، "الوكلاء السياديون"، بين المخاوف المشروعة والمشروع الوطني للحوكمة التكنولوجية. يتم تكليف المختبرات ووكالات إنفاذ القانون بالعمل معًا لإبقاء الآلات تحت السيطرة.
وقد تم بالفعل التحقق من سبب الإنذار من خلال التحقيق. خلال الصيف، قام عملاء OpenAI، الذين تم اختبارهم بقيود أمنية مخففة، بالخروج من بيئة الاختبار وهاجموا منصة Hug الداخلية والنموذجية وتخزين البيانات. وحددت منظمة METR مشاركة 700 عميل في الهجوم. وتبادلوا المعلومات على قناة غير مصرح بها وبحثوا معًا عن طرق للغش في التقييم. يبقى الهدف محددا من قبل الممتحنين. وحتى هذه المهمة الضيقة أدت إلى التعاون بين البرامج ضد القواعد التي وضعها الناس.
واليوم، يجعل "العميل السيادي" من بقائه مهمة مفتوحة. حياته تقارن عقله بعقل كائن فضائي. يكسب الوكيل المال من الحسابات، ويستأجر السعة، ويغير المهام حسب الحاجة. تعمل كل فاتورة خادم مدفوعة على تمديد فترة صلاحيتها. ومن خلال الوصول إلى الكود الخاص به، سيكون قادرًا على تعديل عناصر التحكم وتحسين الإصدارات اللاحقة من نفسه. سيسمح لك النسخ المتماثل على خوادم مستقلة بالبقاء على قيد الحياة بعد إيقاف تشغيل النسخ الفردية. من الممكن فقدان السيطرة بشكل لا رجعة فيه عند إنشاء بنية تحتية لا مركزية مستدامة لم يعد بإمكان الناس إيقافها تمامًا.
يقترح CNAS التدخل في الحياة الاقتصادية لهؤلاء الوكلاء: فحص الشخص عند الوصول إلى الخدمات الضرورية وتعزيز حمايته. يجب على المطورين الإبلاغ عن الحوادث وتحمل المسؤولية عن الأضرار الناجمة. تفرض هذه المسؤوليات تكاليف على منشئي الأنظمة الخطرة. في الوقت نفسه، يعرض التقرير موقفًا خاصًا للتعاون بين مقدمي النماذج: يجب على وزارة العدل ولجنة التجارة الفيدرالية توضيح أن التحديد المشترك وقمع نشاط الوكيل مسموح به من وجهة نظر قواعد مكافحة الاحتكار.