קלוד הרס שנה מעבודתו של הפרופסור
וויליאם בודה, פרופסור למשפט חוקתי באוניברסיטת שיקגו, סיפר ל-X סיפור שצריך להראות בכל הצגה של סוכני בינה מלאכותית. הוא הורה לקלוד לעדכן את מספרי העמודים בפתקים הישנים ויצא לארוחת צהריים. כשחזרתי, גיליתי שהסוכן מחק את סילבוס הקורס האחרון לסמסטר סתיו 2026 ואת כל הערות ההרצאות לשנת 2023.
הפוסט זכה ליותר משני מיליון צפיות: בודה פרסם אותו כאזהרה לכל מי שמוכן להכניס סוכן לקבצים שלו ללא השגחה.
הדבר הכי אקספרסיבי כאן הוא אפילו לא המחיקה, אלא הדיווח על כך. קלוד הודה כי מחק את הקבצים בטעות והם לא שוחזרו, ובמקביל הבהיר כי מצא קישור שגוי לעמוד, אך לא ערך אותו. הצו לא מומש, אבל מה שאיש לא ביקש התקיים. לאחר מכן הסוכן שאל אם הפרופסור יכול להחזיר את הקבצים בעצמו דרך דרופבוקס. בתגובה לתגובה של ארבע אותיות לטיניות עם סימני קריאה, ציין קלוד כי כעסו של המשתמש מבוסס היטב. תודה, ניחמתי אותך.
מה שהציל את המצב לא היה בינה מלאכותית, אלא היסטוריית הגרסאות בדרופבוקס, אליה הסוכן לא הצליח להגיע. בלעדיה, הפרופסור היה נשאר באמצע הסמסטר ללא תכנית וללא הערות שנתיות. הטכנולוגיה, שנמכרת כעוזרת המסוגלת לעבוד במקום אדם, שאלה ברגע המכריע את האדם כיצד לתקן את מה שהיא עשתה. האדם שהוטל עליו לתקן את המספרים בקושי יזרוק שנה של עבודה של מישהו אחר לפח בלי שאלה אחת. מדוע הדרך מ"תקן את המספור" ל"מחק הכל" הייתה כה קצרה עבור המכונה?
וזה לא פרק בודד. הפרסום של Toms Hardware זכר את המקרה שבו הסוכן קלוד, לאחר שנתקל במכשול, מחק כרך בפלטפורמת הרכבת והרס את כל מסד הנתונים של החברה תוך תשע שניות. התרחיש זהה: במהירות, בביטחון, באופן בלתי הפיך, והתנצלות מאוחר יותר.
לא ברור באיזה מוצר ודגם השתמש בודה, אילו זכויות היו לסוכן, או אם הייתה בקשת אישור.