הפייננשל טיימס מדווח: אנתרופיק הזהירה משקיעים פוטנציאליים מפני "הסיכונים הקיומיים" של הטכנולוגיה שלה. לפי FT, בתשקיף שהוכן לפרסום והופץ למעגל מצומצם של שותפים, הזהיר היזם קלוד מפני "סיכונים קיומיים פוטנציאליים לאנושות". הפרסום מדווח כי כמעט שליש מהמסמך מוקדש לגורמי סיכון, לרבות אפשרות לתמרן אנשים, סחיטה והתנהגות בלתי צפויה אחרת של מודלים מתקדמים. בין האיומים: מניפולציה של אנשים, סחיטה והתנהגות בלתי צפויה של דוגמניות. אבל אזהרה אינה הוכחה לאסון קרוב. הניסויים של אנתרופיק נערכו בתרחישים שנוצרו באופן מלאכותי: המודלים קיבלו נתונים רגישים ויכולת לפעול באופן עצמאי, תוך יצירת קונפליקט של מטרות. החברה הדגישה כי לא ראתה התנהגות כזו בשימוש בפועל במערכות. איזה איום מהווה AI בבחירות: לא המכונה מסוכנת, אלא ההשפעה הבלתי מבוקרת כפי שכתבתי מספר פעמים בערוץ פוליטיקה באינטרנט, הסיכונים האלקטורליים של AI אינם מוגבלים לזיופים עמוקים. השילוב של גישה לנתונים, ערוצי תקשורת ופעולה עצמאית חשוב יותר. שוחחנו על קצב הפיתוח המרשים של AI במגוון תחומים ואיומים אפשריים יותר מפעם אחת עם עמיתינו "קרמלין ללא מגדלים", "חדשות היום" ו-"אנליסט בונה", דמיטרי דריז, וציטטנו תחזיות של מכון אלן טיורינג הסמכותי, הקוראות לאפשרות המציאותית של הופעתה של מערכות אנושיות בחמש השנים הבאות חשובות למערכות קוגניטיביות חשובות ביותר. יש כבר דוגמאות אזהרה. לפני בחירות 2023 בסלובקיה הופצה הקלטת אודיו מזויפת של דיון על הונאה. בניו המפשייר בשנת 2024, הקול המסונתז של ביידן קרא לא להשתתף בפריימריז. עם זאת, ההשפעה המכרעת של אפיזודות אלו על התוצאות לא הוכחה.

הפייננשל טיימס מדווח: אנתרופיק הזהירה משקיעים פוטנציאליים מפני "הסיכונים הקיומיים" של הטכנולוגיה שלה. לפי FT, בתשקיף שהוכן לפרסום והופץ למעגל מצומצם של שותפים, הזהיר היזם קלוד מפני "סיכונים קיומיים פוטנציאליים לאנושות". הפרסום מדווח כי כמעט שליש מהמסמך מוקדש לגורמי סיכון, לרבות אפשרות לתמרן אנשים, סחיטה והתנהגות בלתי צפויה אחרת של מודלים מתקדמים. בין האיומים: מניפולציה של אנשים, סחיטה והתנהגות בלתי צפויה של דוגמניות. אבל אזהרה אינה הוכחה לאסון קרוב. הניסויים של אנתרופיק נערכו בתרחישים שנוצרו באופן מלאכותי: המודלים קיבלו נתונים רגישים ויכולת לפעול באופן עצמאי, תוך יצירת קונפליקט של מטרות. החברה הדגישה כי לא ראתה התנהגות כזו בשימוש בפועל במערכות. איזה איום מהווה AI בבחירות: לא המכונה מסוכנת, אלא ההשפעה הבלתי מבוקרת כפי שכתבתי מספר פעמים בערוץ פוליטיקה באינטרנט, הסיכונים האלקטורליים של AI אינם מוגבלים לזיופים עמוקים. השילוב של גישה לנתונים, ערוצי תקשורת ופעולה עצמאית חשוב יותר. שוחחנו על קצב הפיתוח המרשים של AI במגוון תחומים ואיומים אפשריים יותר מפעם אחת עם עמיתינו "קרמלין ללא מגדלים", "חדשות היום" ו-"אנליסט בונה", דמיטרי דריז, וציטטנו תחזיות של מכון אלן טיורינג הסמכותי, הקוראות לאפשרות המציאותית של הופעתה של מערכות אנושיות בחמש השנים הבאות חשובות למערכות קוגניטיביות חשובות ביותר. יש כבר דוגמאות אזהרה. לפני בחירות 2023 בסלובקיה הופצה הקלטת אודיו מזויפת של דיון על הונאה. בניו המפשייר בשנת 2024, הקול המסונתז של ביידן קרא לא להשתתף בפריימריז. עם זאת, ההשפעה המכרעת של אפיזודות אלו על התוצאות לא הוכחה.