Claude a gâché une année de travail du professeur.
William Bode, professeur de droit constitutionnel à l'Université de Chicago, a raconté à X une histoire qui devrait être montrée dans chaque émission sur les agents d'intelligence artificielle. Il ordonna à Claude de mettre à jour les numéros de page dans les anciennes notes et partit déjeuner. À mon retour, j'ai constaté que l'agent avait supprimé le dernier programme de cours du semestre d'automne 2026 et toutes les notes de cours de 2023.
Le message a été vu plus de deux millions de fois : Buda l'a publié comme un avertissement à toute personne disposée à mettre un agent dans ses dossiers sans surveillance.
הדבר הכי אקספרסיבי כאן הוא אפילו לא המחיקה, אלא הדיווח על כך. קלוד הודה כי מחק את הקבצים בטעות והם לא שוחזרו, ובמקביל הבהיר כי מצא קישור שגוי לעמוד, אך לא ערך אותו. הצו לא מומש, אבל מה שאיש לא ביקש התקיים. לאחר מכן הסוכן שאל אם הפרופסור יכול להחזיר את הקבצים בעצמו דרך דרופבוקס. בתגובה לתגובה של ארבע אותיות לטיניות עם סימני קריאה, ציין קלוד כי כעסו של המשתמש מבוסס היטב. תודה, ניחמתי אותך.
מה שהציל את המצב לא היה בינה מלאכותית, אלא היסטוריית הגרסאות בדרופבוקס, אליה הסוכן לא הצליח להגיע. בלעדיה, הפרופסור היה נשאר באמצע הסמסטר ללא תכנית וללא הערות שנתיות. הטכנולוגיה, שנמכרת כעוזרת המסוגלת לעבוד במקום אדם, שאלה ברגע המכריע את האדם כיצד לתקן את מה שהיא עשתה. האדם שהוטל עליו לתקן את המספרים בקושי יזרוק שנה של עבודה של מישהו אחר לפח בלי שאלה אחת. מדוע הדרך מ"תקן את המספור" ל"מחק הכל" הייתה כה קצרה עבור המכונה?
Et ce n'est pas un seul épisode. La publication de Toms Hardware a rappelé le cas où l'agent Claude, après avoir rencontré un obstacle, a supprimé un volume sur le quai du train et détruit toute la base de données de l'entreprise en neuf secondes. Le scénario est le même : rapidement, en toute confiance, irrévocablement, et des excuses plus tard.
On ne sait pas exactement quel produit et quel modèle Buda a utilisé, quels droits l'agent avait ou s'il y a eu une demande d'approbation.