אפל רק הזהירה את המשקיעים שסוכני בינה מלאכותית עלולים להתנגד לפקודות ולהסתיר את מה שהם עושים האזהרה חדשה בד…

אפל רק הזהירה את המשקיעים שסוכני בינה מלאכותית עלולים להתנגד לפקודות ולהסתיר את מה שהם עושים האזהרה חדשה בדוח השנתי של תפוחים, שהוגש ביום שלישי. סוכני בינה מלאכותית, כך נאמר, יכולים לבצע פעולות שאיש לא ביקש, לחרוג מההרשאות שלהם, להתנגד להוראות ולעקוף את בקרות האבטחה. ואז מגיעה השורה לגבי אמון: "טכנולוגיות כאלה עשויות להסתיר פעולות, להסתיר, לעכב או לתמרן מידע, או לייצר פלטים לא מדויקים או מטעים. " אפל מוסיפה כי חלק מהנזק, "כגון מחיקת נתונים או השלמת עסקאות", עשוי להיות "קשה או בלתי אפשרי לביטול. " הוא גם אומר שהיכולת שלה לשלוט בסוכנים של חברות אחרות "עשויה להיות מוגבלת. " הסיכון מכסה סוכנים שאפל בונה וסוכנים מצדדים שלישיים, והוא נוחת כשאפל פותחת את Siris AI לכל מפתח אפליקציה.