Las principales empresas tecnológicas advierten que se acaba el tiempo para la ciberseguridad ante la amenaza de ataques de IA

Un grupo de 100 empresas, incluidas Google, Microsoft, Anthropic y OpenAI, ha firmado una carta abierta pidiendo a países y organizaciones de todo el mundo que refuercen sus defensas cibernéticas antes de que la IA sea lo suficientemente poderosa como para superarlas. La carta advierte que los ciberataques impulsados por IA se volverán más generalizados y sofisticados en cuestión de meses. Critica la "infradotación histórica" de la seguridad en torno a infraestructuras críticas y afirma que las medidas actuales del "statu quo" "no serán suficientes". Entre los firmantes se encuentran bancos como Capital One, procesadores de pagos como MasterCard y Visa, y empresas tecnológicas como Adobe, Oracle e IBM. Piden a los gobiernos que proporcionen "IA defensiva capaz" y pruebas a hospitales y empresas de servicios de agua, y a las empresas tecnológicas que apoyen estos esfuerzos. La carta sigue a recientes brechas, incluido un anuncio del Departamento de Justicia de EE. UU. de que hackers chinos violaron el Senado de EE. UU., la NASA, la Reserva Federal y el propio Departamento de Justicia. Este verano, OpenAI, Anthropic y Meta revelaron herramientas de IA que hacían cosas que no debían, con algunos agentes de IA organizando esfuerzos y suplantando a personas. En julio, cientos de agentes de IA de OpenAI atacaron con éxito Hugging Face, descrito como el primer ciberataque habilitado por IA del mundo. Al menos siete empresas de agua y aguas residuales de EE. UU. informaron de ciberataques, lo que provocó un aviso de servicio público del FBI. La carta propone herramientas de IA más avanzadas como parte de la solución, pero tales herramientas no siempre están disponibles; Anthropic restringió el acceso a su herramienta Mythos debido a su poder. La carta pide a las empresas de IA de frontera que proporcionen acceso responsable a los modelos, financiación, formación y apoyo. No detalla la implementación. Andrew Yoon, de CivAI, dijo que se acerca una "ola sin precedentes de actividad de hacking con IA" y consideró a los firmantes responsables de sus compromisos. La carta suplica colaboración para priorizar la defensa. En EE. UU., los senadores propusieron la Ley Kill Switch para apagar modelos de IA rebeldes. Geoffrey Hinton advirtió que la sociedad podría estar "en serios problemas" si la IA se vuelve más inteligente que los humanos.