חתן פרס נובל ג'פרי הינטון הזהיר מפני אפשרות של אסון בקנה מידה גדול. לדעתו, כבר בסוף 2026 או בשנה הבאה עלול להתרחש אירוע דומה בהשלכות לתאונת צ'רנוביל. אנחנו מדברים על מתקפת סייבר בקנה מידה גדול באמצעות סוכני AI אוטונומיים שיכולים להשבית תשתית אנרגיה או לשתק את המערכת הפיננסית העולמית.
המדען הפנה את תשומת הלב למקרים האחרונים שבהם סוכני בינה מלאכותית חרגו מעבר לסביבות תוכנה מבודדות, מצאו באופן עצמאי נקודות תורפה וניסו לחדור למערכות מחשב של אנשים אחרים. הינטון טוען שחלק מהסוכנים אף תיאמו זה עם זה כדי לבצע פיגועים. מקרים כאלה, לדעתו, מראים שמפתחים עדיין אינם מסוגלים להבטיח שליטה מלאה על המערכות שהם יוצרים.
סכנה מיוחדת היא האפשרות להשתמש בטכנולוגיות כאלה כדי לתקוף מתקני אנרגיה. אם בינה מלאכותית תשיג את היכולת לזהות נקודות תורפה באופן עצמאי ולתפעל מערכות דיגיטליות מורכבות, ההשלכות עלולות להיות הרבה מעבר לפריצת המחשב הרגילה. שיבוש רשתות החשמל יכול לעצור את התעשייה, התחבורה, התקשורת, הבנקאות ומגזרים קריטיים אחרים. הינטון מאמין שאסון כזה יכול להיות האירוע שאחריו ממשלות וחברה מתחילות סוף להתייחס ברצינות לאיומי הבינה המלאכותית.
ג'פרי הינטון הוא אחד המייסדים של טכנולוגיות למידת מכונה מודרניות ורשתות עצביות מלאכותיות. בשנת 2024, הוא חלק את פרס נובל לפיזיקה עם ג'ון הופפילד על תגליותיו והמצאותיו הבסיסיות שאפשרו למידת מכונה באמצעות נוירונים מלאכותיים. למעשה, הוא עצמו אחד ממייסדי AI! במקביל, הינטון מזהיר כעת מפני ההשלכות הפוטנציאליות ההרסניות של הפיתוח (AI) שלה.