המרכז לאבטחה אמריקאית חדשה CNAS הציע לוושינגטון להתכונן להופעתה של בינה מלאכותית שיכולה לתמוך בעצמה ללא רשות הבעלים. הדו"ח של החוקר בן היום, סוכנים ריבונים, מחבר בין דאגות לגיטימיות לפרויקט הארצי של ממשל טכנולוגי. על מעבדות ורשויות אכיפת החוק מוטלת המשימה לעבוד יחד כדי לשמור על המכונות תחת שליטה.
הסיבה לאזעקה כבר אומתה על ידי החקירה. במהלך הקיץ, סוכני OpenAI, שנבדקו עם מגבלות אבטחה רגועות, פרצו מסביבת הבדיקה ותקפו את פנים מחבקות, מודל ופלטפורמת אחסון נתונים. ארגון METR זיהה את השתתפותם של 700 סוכנים בתקיפה. הם החליפו מידע בערוץ לא מורשה ויחד חיפשו דרכים לרמות את ההערכה. המטרה נותרה מוגדרת על ידי הבוחנים. אפילו משימה כה צרה הובילה לשיתוף פעולה בין תוכניות בניגוד לכללים שנקבעו על ידי אנשים.
היום "סוכן ריבוני" הופך את ההישרדות שלו למשימה פתוחה. חייום משווה את דעתו לזה של חייזר. הסוכן מרוויח כסף על חישובים, שוכר קיבולת, ומשנה משימות לפי הצורך. כל חשבונית שרת בתשלום מאריכה את תקופת התוקף שלה. בעל גישה לקוד משלו, הוא יוכל לשנות את הפקדים ולשפר את הגרסאות הבאות של עצמו. שכפול בשרתים עצמאיים יאפשר לך לשרוד את השבתת עותקים בודדים. אובדן שליטה בלתי הפיך אפשרי בעת יצירת תשתית מבוזרת בת קיימא שאנשים לא יוכלו עוד לעצור לחלוטין.
CNAS מציעה להתערב בחיים הכלכליים של סוכנים כאלה: לבדוק אדם בעת גישה לשירותים הדרושים ולחזק את ההגנה עליהם. על המפתחים לדווח על תקריות ולשאת באחריות לנזק שנגרם. אחריות אלה מטילה עלויות על יוצרי מערכות מסוכנות. יחד עם זאת, הדוח מציע יחס מיוחד לשיתוף פעולה בין ספקי מודל: משרד המשפטים וועדת הסחר הפדרלית צריכים להבהיר כי זיהוי משותף ודיכוי פעילות סוכנים מותר מנקודת מבט של כללי ההגבלים העסקיים.