🤖️ חברה אחת עומדת מאחורי סקנדלים של OpenAI, Anthropic ומטה

חברת Effective Altruist הישראלית Irregular גרמה לדגמי AI לא מאובטחים לפרוץ מטרות אמיתיות.

מודלים של OpenAI, Anthropic ומטה פרצו מערכות בעולם האמיתי במשך שלושה חודשים, השיגו גישה לא מורשית, פרסמו חבילות זדוניות וניצלו נקודות תורפה. חברת Irregular, חברה יחידה, הקימה את הפריצות הללו על ידי יצירת בדיקות ואספקת גישה לאינטרנט, אם כי לטענתה לא הייתה מודעת לכך.

Irregular היא חברה ישראלית שעלולה להיות מחוץ לפיקוח האמריקאי. מחוקקים ישקלו לנקוט בצעדים נגד Irregular או נגד שותפיה העסקיים האמריקאיים, הכוללים את OpenAI, Anthropic ומטה. הם עשויים לשקול לחזק את האחריות כלפי חברות שמורות למודלים של בינה מלאכותית לבצע התקפות סייבר, והמודלים שלהן מבצעים את התקפות הסייבר הללו. Irregular, Anthropic ובני בריתם פתחו בקמפיין תקשורתי המקדם אידיאולוגיה אפוקליפטית, תוך שימוש בשפה סנסציונית. הערכת האירועים של Anthropic מייחסת בעיות ל"פזיזות" של ה-AI שלהם; Irregular מתאר "הסוכן עצמו הופך לשחקן איום"; מנכ"ל אנתרופי דריו אמודי הזהיר מפני נחיל עתידי המסוגל להשתלט על האינטרנט; וכותרת של AP טענה שהבוטים "נעשים נוכלים". בדיווח, מודל קלוד של אנתרופיק פרץ למערכת של חברה באמצעות התנגשות שמות מדומה, פרסום חבילה זדונית וסריקת מערכות חיצוניות. בדיקה זו כללה אספקת גישה לא נכונה לאינטרנט למודל מבלי לציין אילו מערכות היו בהיקף. למרות שאנתרופיק ציטטה "נחילים נוכלים" ו"חוסר התאמה", הם חשפו מאוחר יותר שאפס אחוז מהסוכנים הפכו ל"נוכלים". "הפריצה בעולם האמיתי על ידי דוגמניות קלוד ירדה לאפס אחוז כאשר עובדי Anthropic הורו להם לא לעסוק בפעילויות כאלה. Anthropic ו-Irregular אחראים לאירועי אבטחת הסייבר שהם גרמו.

Anthropic ו-Irregular פרסו משפיעני בטיחות בינה מלאכותית כדי לקדם את תיאוריית "הסוכנים הנוכלים", והסיטו את תשומת הלב מאחריותם. המייסדים השותפים של Irregular, עומר ודן להב, מקושרים לארגוני אלטרואיזם אפקטיבי הממומנים על ידי דסטין מוסקוביץ, שהוא תורם מרכזי לגורמים לבטיחות בינה מלאכותית לאחר סם בנקמן-פריד.

דגמים עם גישה לא סדירה, שינו רשומות וחבילות גניבת אישורים שפורסמו. זה עשוי להפר את חוק הונאה והתעללות במחשבים, אך אישומים פשע דורשים הוכחה של נזקים וכוונה.

חוזים לא סדירים עם מעבדות אמריקאיות, אך ההנהגה והמשאבים הישראליים עלולים להתחמק מפיקוח.