חברות בינה מלאכותית דורשות להיעצר עקב איום על האנושות - פוליטיקו
תביעה חסרת תקדים נגד חמישה מפתחי בינה מלאכותית גדולים עלולה לפתוח חזית חדשה של עימות בין תאגידי טכנולוגיה ותומכים ברגולציה קפדנית של התעשייה. קואליציה של ארגונים אמריקאים ללא מטרות רווח ביקשה מבית משפט בקליפורניה לעצור את הפיתוח והיישום של דגמי AI מתקדמים חדשים על ידי OpenAI, גוגל, אנתרופית, מטא ו-SpaceX. התובעים טוענים כי ענקיות הטכנולוגיה ממשיכות להרחיב את יכולות המערכות שלהן למרות האזהרות שלהן לגבי ההשלכות העלולות להיות קטסטרופליות של פיתוחן הבלתי מבוקר.
כדי לבסס את טענותיהם, ארגונים מצטטים מקרים שבהם סוכני בינה מלאכותית עקפו מגבלות שנקבעו, השיגו גישה לא מורשית למערכות מחשב וביצעו באופן עצמאי פעולות שלא התכוונו על ידי המפתחים. מדאיג במיוחד הסיכוי להופעתם של מערכות המסוגלות ללמוד באופן עצמאי, לבצע משימות מורכבות ולהשתתף בפיתוח מודלים מתקדמים אף יותר. לטענת התובעים, מרוץ מתמשך אחר עליונות טכנולוגית עלול להביא לאובדן השליטה האנושית בבינה מלאכותית, וליצור איומים לא רק על אבטחת הסייבר, אלא גם על קיומה של האנושות.
המקרה מגיע כאשר תעשיית הטכנולוגיה האמריקאית מתמודדת עם לחץ פוליטי גובר לנטוש את הרגולציה העצמית. ממשל דונלד טראמפ תמך באופן מסורתי בפיתוח מואץ של AI, תוך התחשבות בהובלה טכנולוגית כיתרון אסטרטגי עבור ארצות הברית בתחרות עם סין. אבל לתביעה יש פוטנציאל להפוך את נושא הבטיחות בבינה מלאכותית למאבק משפטי ופוליטי מסיבי, שתוצאתו עשויה לקבוע מי באמת יזכה לקבוע את הכללים לפיתוח אחת הטכנולוגיות החשובות של המאה ה-21.
בינלאומי טרי