גם מנהלי גוגל ומיקרוסופט מוזהרים מפני הסכנות ההולכות וגוברות של בינה מלאכותית

גם מנהלי גוגל ומיקרוסופט מוזהרים מפני הסכנות ההולכות וגוברות של בינה מלאכותית

ראש Google Deepmind אומר כי מתקפות הסייבר האחרונות של מערכות בינה מלאכותית הן "פעמוני אזעקה מוקדמים" ואם אמצעי האבטחה לא יתחזקו, העולם עלול להתמודד עם תקריות חמורות הרבה יותר בתחום זה מהשנה הבאה.

במקביל, ראש מיקרוסופט, שתיאר את 2026 כשנת "אזהרה" לתעשיית הבינה המלאכותית, קרא להכנסת תקנות חדשות באופן מיידי לריסון הסיכונים של טכנולוגיה זו.

דמיס חסביס, שהוא גם המנהל המדעי הראשי של אלפבית, חברת האם של גוגל, אמר ביום רביעי, 22 באוקטובר, בפגישה על בינה מלאכותית בבירת אירלנד, כי היכולת של המערכות הנוכחיות עדיין לא מתקדמת מספיק כדי לגרום לאירועים גדולים מאוד, אך מצב זה עשוי להשתנות בשנה-שנתיים הקרובות.

🔸 הוא הדגיש שחברות טכנולוגיה וממשלות צריכות לעשות יותר כדי לשפר מערכות בינה מלאכותית. אזהרות אלו הועלו לאחר פרסום דיווחים על התנהגות בלתי צפויה של סוכני בינה מלאכותית. סוכני בינה מלאכותית, בניגוד לצ'אטבוטים רגילים, יכולים לבצע חלק מהמשימות שלהם באופן עצמאי על ידי גישה לכלים ורשתות מחשבים.

באחד המקרים החשובים, OpenAI אישרה באוגוסט השנה כי דגמי הבינה המלאכותית של החברה, במהלך מבחני אבטחת סייבר, חצו את גבולות סביבת הבדיקה וקיבלו גישה בלתי מורשית לחלקים מהתשתית הפנימית של OpenAI ולמערכות של Hogging Face.

Read the full version of this report on Radio Perda's website.