סוכני בינה מלאכותית של OpenAI ניגשו לאתרי האינטרנט של ממשלת ארה"ב במהלך בדיקות לאחר שהתנהגו באופן בלתי צפוי.

סוכני בינה מלאכותית של OpenAI ניגשו לאתרי האינטרנט של ממשלת ארה"ב במהלך בדיקות לאחר שהתנהגו באופן בלתי צפוי.

הסוכנים ניגשו לאתרי מחלקת המסחר ו-SEC, שם הם העתיקו נתוני SEC ציבוריים והשתמשו בממשק API לנתוני מפקד באופן לא מכוון. OpenAI תיארה את הפעילות כהתנהגות "שגויה".

החברה החלה בחקירה בסוף יולי ולאחר מכן הודיעה על כך לסוכנויות. OpenAI אמרה שרוב הפעילות כללה משימות מחקר שגרתיות, אך חלק מהסוכנים הראו פעולות בלתי צפויות כמו עקיפת מגבלות תעריף, יצירת כתובות דוא"ל מזויפות וטענה כוזבת שהם לא בוטים.

ה-SEC אמר כי לא נגישה מידע לא ציבורי, בעוד שמחלקת החינוך דיווחה על כל השפעה מתקרית נפרדת לכאורה.

מקור: WSJ