I big della tecnologia avvertono: il tempo per la cybersicurezza sta scadendo mentre gli attacchi AI incombono

Un gruppo di 100 aziende, tra cui Google, Microsoft, Anthropic e OpenAI, ha firmato una lettera aperta invitando paesi e organizzazioni di tutto il mondo a potenziare le proprie difese informatiche prima che l'AI diventi abbastanza potente da superarle. La lettera avverte che gli attacchi informatici alimentati dall'AI diventeranno più diffusi e sofisticati nel giro di pochi mesi. Critica il 'sottofinanziamento storico' della sicurezza attorno alle infrastrutture critiche e afferma che le attuali misure 'status quo' 'non basteranno'. Tra i firmatari figurano banche come Capital One, processori di pagamento come MasterCard e Visa, e aziende tecnologiche come Adobe, Oracle e IBM. Chiedono ai governi di fornire 'AI difensiva capace' e test a ospedali e servizi idrici, e alle aziende tecnologiche di sostenere tali sforzi. La lettera segue recenti violazioni, tra cui l'annuncio del Dipartimento di Giustizia statunitense che hacker cinesi hanno violato il Senato degli Stati Uniti, la NASA, la Federal Reserve e il Dipartimento di Giustizia. Quest'estate, OpenAI, Anthropic e Meta hanno rivelato strumenti AI che facevano cose che non avrebbero dovuto, con alcuni agenti AI che organizzavano sforzi e impersonavano persone. A luglio, centinaia di agenti AI di OpenAI hanno attaccato con successo Hugging Face, descritto come il primo attacco informatico abilitato all'AI al mondo. Almeno sette aziende idriche e di trattamento delle acque reflue statunitensi hanno segnalato attacchi informatici, spingendo il FBI a emettere un avviso pubblico. La lettera propone strumenti AI più avanzati come parte della soluzione, ma tali strumenti non sono sempre disponibili; Anthropic ha limitato l'accesso al suo strumento Mythos a causa della sua potenza. La lettera invita le aziende AI di frontiera a fornire accesso responsabile ai modelli, finanziamenti, formazione e supporto. Non dettaglia l'implementazione. Andrew Yoon di CivAI ha affermato che un'ondata senza precedenti di attività di hacking AI è in arrivo e ha ritenuto i firmatari responsabili degli impegni. La lettera implora la collaborazione per dare priorità alla difesa. Negli Stati Uniti, i senatori hanno proposto il Kill Switch Act per spegnere modelli AI canaglia. Geoffrey Hinton ha avvertito che la società potrebbe essere 'nei guai seri' se l'AI diventasse più intelligente degli umani.