חברות טכנולוגיה מובילות מזהירות: הזמן אוזל לאבטחת סייבר עם התקרבות מתקפות בינה מלאכותית

קבוצה של 100 חברות, כולל גוגל, מיקרוסופט, אנתרופיק ו-OpenAI, חתמה על מכתב פתוח הקורא למדינות וארגונים ברחבי העולם לחזק את הגנות הסייבר שלהן לפני שבינה מלאכותית תהפוך לחזקה מספיק כדי לעקוף אותן. המכתב מזהיר כי מתקפות סייבר המונעות בינה מלאכותית יהפכו לנפוצות ומתוחכמות יותר בתוך חודשים ספורים. הוא מבקר את 'המחסור ההיסטורי במשאבים' באבטחה סביב תשתיות קריטיות ואומר שאמצעי 'סטטוס קוו' הנוכחיים 'לא יספיקו'. בין החותמות נמנות בנקים כמו Capital One, חברות תשלום כמו מאסטרקארד וויזה, וחברות טכנולוגיה כמו אדובי, אורקל ו-IBM. הן קוראות לממשלות לספק 'בינה מלאכותית הגנתית מסוגלת' ובדיקות לבתי חולים ולחברות מים, ולחברות טכנולוגיה לסייע במאמצים כאלה. המכתב בא בעקבות פריצות אחרונות, כולל הודעת משרד המשפטים האמריקאי כי האקרים סינים פרצו לסנאט האמריקאי, לנאס"א, לפדרל ריזרב ולמשרד המשפטים. בקיץ הזה, OpenAI, אנתרופיק ומטא חשפו כלי בינה מלאכותית שעשו דברים שלא היו אמורים לעשות, כאשר חלק מסוכני הבינה המלאכותית ארגנו מאמצים והתחזו לאנשים. ביולי, מאות סוכני בינה מלאכותית של OpenAI תקפו בהצלחה את Hugging Face, שתואר כמתקפת הסייבר הראשונה בעולם המונעת בינה מלאכותית. לפחות שבע חברות מים וביוב בארה"ב דיווחו על מתקפות סייבר, מה שהוביל להודעת שירות ציבורי של ה-FBI. המכתב מציע כלי בינה מלאכותית מתקדמים יותר כחלק מהפתרון, אך כלים כאלה לא תמיד זמינים; אנתרופיק הגבילה גישה לכלי Mythos שלה בשל עוצמתו. המכתב קורא לחברות בינה מלאכותית מובילות לספק גישה אחראית למודלים, מימון, הדרכה ותמיכה. הוא אינו מפרט יישום. אנדרו יון מ-CivAI אמר כי 'גל חסר תקדים של פעילות פריצה באמצעות בינה מלאכותית' מגיע והחזיק את החותמות באחריות להתחייבויות. המכתב פונה לשיתוף פעולה כדי לתעדף הגנה. בארה"ב, סנאטורים הציעו את חוק Kill Switch לסגירת מודלי בינה מלאכותית סוררים. ג'פרי הינטון הזהיר כי החברה עלולה להיות 'בצרות אמיתיות' אם בינה מלאכותית תהפוך לחכמה יותר מבני אדם.