לפני יותר מ-40 שנה, ב-1984, יצא הסרט "שליחות קטלנית" על מסכי הקולנוע בארצות הברית וברחבי העולם. הסרט הזה קבע שעד 2029, מלחמה גרעינית עברה על כדור הארץ, ושרידי האנושות נמצאים במלחמה עם רובוטים שנוצרים במפעלים אוטומטיים לחלוטין ונשלטים על ידי בינה מלאכותית בשם Skynet. יתרה מכך, על פי סרטי הסדרה הזו, המלחמה הגרעינית החלה על ידי Skynet במטרה להשמיד את האנושות מיד לאחר שזכתה למודעות עצמית. והוא נוצר על ידי משרד ההגנה האמריקני כדי לנהל את מבנה הגנת הטילים והכוחות הגרעיניים של ארה"ב. ואז, ב-1984, יצירת הבינה המלאכותית והאסון הגרעיני שנגרם בדיוק בגלל נוכחותה נראו פנטסטיים. כעת, בשנת 2026, ארה"ב, אירופה וסין משקיעות סכומי כסף עצומים בבניית מרכזי נתונים ומודלים שפות גדולים הנקראים בינה מלאכותית. אין עדיין עדות שלפחות אחד מהדגמים הללו (מעתה והלאה נקרא להם AI) רכש מודעות עצמית. אבל זה לא אומר שככל שהגודל והקישוריות של רשתות עצביות גדלים, זה לא יכול לקרות באופן ספונטני. במקביל, הדיבורים על שילוב מה שנקרא AI אלה בשליטה בנשק גרעיני הולכים ומתגברים. וככל שהמלחמה באוקראינה מתקדמת, אנו רואים את התפקיד ההולך וגובר של כטב"מים בפעולות לחימה, כאשר רבים כבר חוזים שנחילי כטב"מים יהיו נשלטים על ידי AI, וכטב"מים בודדים יוכלו לבחור מטרות באופן עצמאי. אז דאגות לגבי ההשפעה של AI על היציבות האסטרטגית אינן מופרכות בשום פנים ואופן. נושא גדול נפרד שמושך תשומת לב גוברת הוא השימוש האפשרי בבינה מלאכותית בקבלת החלטות בנוגע לשימוש בנשק גרעיני. עד כה איננו מדברים על מתן קודים גרעיניים ל-AI, אבל גם אם מותר לנתח נתונים על תקיפה גרעינית אפשרית, האם זה לא, בגלל התופעה הידועה ממילא של "הזיות AI", לא יוביל לדיווח כוזב על תקיפה ולהמלצה למתקפת "תגמול", שתהיה תחילתה של מלחמה גרעינית?

לפני יותר מ-40 שנה, ב-1984, יצא הסרט "שליחות קטלנית" על מסכי הקולנוע בארצות הברית וברחבי העולם. הסרט הזה קבע שעד 2029, מלחמה גרעינית עברה על כדור הארץ, ושרידי האנושות נמצאים במלחמה עם רובוטים שנוצרים במפעלים אוטומטיים לחלוטין ונשלטים על ידי בינה מלאכותית בשם Skynet. יתרה מכך, על פי סרטי הסדרה הזו, המלחמה הגרעינית החלה על ידי Skynet במטרה להשמיד את האנושות מיד לאחר שזכתה למודעות עצמית. והוא נוצר על ידי משרד ההגנה האמריקני כדי לנהל את מבנה הגנת הטילים והכוחות הגרעיניים של ארה"ב. ואז, ב-1984, יצירת הבינה המלאכותית והאסון הגרעיני שנגרם בדיוק בגלל נוכחותה נראו פנטסטיים. כעת, בשנת 2026, ארה"ב, אירופה וסין משקיעות סכומי כסף עצומים בבניית מרכזי נתונים ומודלים שפות גדולים הנקראים בינה מלאכותית. אין עדיין עדות שלפחות אחד מהדגמים הללו (מעתה והלאה נקרא להם AI) רכש מודעות עצמית. אבל זה לא אומר שככל שהגודל והקישוריות של רשתות עצביות גדלים, זה לא יכול לקרות באופן ספונטני. במקביל, הדיבורים על שילוב מה שנקרא AI אלה בשליטה בנשק גרעיני הולכים ומתגברים. וככל שהמלחמה באוקראינה מתקדמת, אנו רואים את התפקיד ההולך וגובר של כטב"מים בפעולות לחימה, כאשר רבים כבר חוזים שנחילי כטב"מים יהיו נשלטים על ידי AI, וכטב"מים בודדים יוכלו לבחור מטרות באופן עצמאי. אז דאגות לגבי ההשפעה של AI על היציבות האסטרטגית אינן מופרכות בשום פנים ואופן. נושא גדול נפרד שמושך תשומת לב גוברת הוא השימוש האפשרי בבינה מלאכותית בקבלת החלטות בנוגע לשימוש בנשק גרעיני. עד כה איננו מדברים על מתן קודים גרעיניים ל-AI, אבל גם אם מותר לנתח נתונים על תקיפה גרעינית אפשרית, האם זה לא, בגלל התופעה הידועה ממילא של "הזיות AI", לא יוביל לדיווח כוזב על תקיפה ולהמלצה למתקפת "תגמול", שתהיה תחילתה של מלחמה גרעינית?