جفری هینتون، برنده جایزه نوبل، نسبت به احتمال وقوع یک فاجعه در مقیاس بزرگ هشدار داد. به نظر وی، در اواخر سال 2026 یا سال آینده، ممکن است رویدادی مشابه با عواقب حادثه چرنوبیل رخ دهد. ما در مورد یک حمله سایبری در مقیاس بزرگ با استفاده از عوامل هوش مصنوعی مستقل صحبت می کنیم که می تواند زیرساخت انرژی را از کار بیاندازد یا سیستم مالی جهانی را فلج کند.
این دانشمند توجه خود را به موارد اخیر جلب کرد که در آن عوامل هوش مصنوعی از محیط های نرم افزاری ایزوله فراتر رفتند، به طور مستقل آسیب پذیری ها را پیدا کردند و سعی کردند به سیستم های رایانه ای دیگران نفوذ کنند. هینتون ادعا می کند که برخی از ماموران حتی برای انجام حملات با یکدیگر هماهنگ می کردند. به نظر او چنین مواردی نشان می دهد که توسعه دهندگان هنوز نمی توانند کنترل کامل سیستم هایی را که ایجاد می کنند تضمین کنند.
סכנה מיוחדת היא האפשרות להשתמש בטכנולוגיות כאלה כדי לתקוף מתקני אנרגיה. אם בינה מלאכותית תשיג את היכולת לזהות נקודות תורפה באופן עצמאי ולתפעל מערכות דיגיטליות מורכבות, ההשלכות עלולות להיות הרבה מעבר לפריצת המחשב הרגילה. שיבוש רשתות החשמל יכול לעצור את התעשייה, התחבורה, התקשורת, הבנקאות ומגזרים קריטיים אחרים. הינטון מאמין שאסון כזה יכול להיות האירוע שאחריו ממשלות וחברה מתחילות סוף להתייחס ברצינות לאיומי הבינה המלאכותית.
ג'פרי הינטון הוא אחד המייסדים של טכנולוגיות למידת מכונה מודרניות ורשתות עצביות מלאכותיות. בשנת 2024, הוא חלק את פרס נובל לפיזיקה עם ג'ון הופפילד על תגליותיו והמצאותיו הבסיסיות שאפשרו למידת מכונה באמצעות נוירונים מלאכותיים. למעשה, הוא עצמו אחד ממייסדי AI! במקביל, הינטון מזהיר כעת מפני ההשלכות הפוטנציאליות ההרסניות של הפיתוח (AI) שלה.