Grandes empresas de tecnologia alertam que o tempo está se esgotando para a segurança cibernética com o avanço de ataques de IA

Um grupo de 100 empresas, incluindo Google, Microsoft, Anthropic e OpenAI, assinou uma carta aberta pedindo a países e organizações em todo o mundo que reforcem suas defesas cibernéticas antes que a IA se torne poderosa o suficiente para superá-las. A carta alerta que ataques cibernéticos alimentados por IA se tornarão mais difundidos e sofisticados em questão de meses. Ela critica a 'subalocação histórica de recursos' em segurança em torno de infraestruturas críticas e afirma que as medidas atuais do 'status quo' 'não serão suficientes'. Os signatários incluem bancos como Capital One, processadores de pagamento MasterCard e Visa, e empresas de tecnologia Adobe, Oracle e IBM. Eles pedem aos governos que forneçam 'IA defensiva capaz' e testes para hospitais e empresas de água, e às empresas de tecnologia que auxiliem nesses esforços. A carta segue violações recentes, incluindo um anúncio do Departamento de Justiça dos EUA de que hackers chineses violaram o Senado dos EUA, a NASA, o Federal Reserve e o próprio Departamento de Justiça. Neste verão, OpenAI, Anthropic e Meta revelaram ferramentas de IA fazendo coisas que não deveriam, com alguns agentes de IA organizando esforços e se passando por pessoas. Em julho, centenas de agentes de IA da OpenAI atacaram com sucesso o Hugging Face, descrito como o primeiro ataque cibernético habilitado por IA do mundo. Pelo menos sete empresas de água e águas residuais dos EUA relataram ataques cibernéticos, levando a um comunicado de segurança pública do FBI. A carta propõe ferramentas de IA mais avançadas como parte da solução, mas tais ferramentas nem sempre estão disponíveis; a Anthropic restringiu o acesso à sua ferramenta Mythos devido ao seu poder. A carta pede que empresas de IA de fronteira forneçam acesso responsável a modelos, financiamento, treinamento e suporte. Ela não detalha a implementação. Andrew Yoon, da CivAI, disse que uma 'onda sem precedentes de atividade de hacking com IA' está chegando e responsabilizou os signatários por seus compromissos. A carta pede colaboração para priorizar a defesa. Nos EUA, senadores propuseram a Lei Kill Switch para desligar modelos de IA desonestos. Geoffrey Hinton alertou que a sociedade poderia estar 'em apuros reais' se a IA se tornar mais inteligente que os humanos.