Les grandes entreprises technologiques avertissent que le temps presse pour la cybersécurité alors que les attaques par IA se profilent

Un groupe de 100 entreprises, dont Google, Microsoft, Anthropic et OpenAI, a signé une lettre ouverte appelant les pays et les organisations du monde entier à renforcer leurs défenses cybernétiques avant que l'IA ne devienne assez puissante pour les contourner. La lettre avertit que les cyberattaques alimentées par l'IA deviendront plus répandues et sophistiquées d'ici quelques mois. Elle critique la « sous-resource historique » de la sécurité autour des infrastructures critiques et affirme que les mesures actuelles du « statu quo » ne suffiront pas. Les signataires comprennent des banques comme Capital One, des processeurs de paiement comme MasterCard et Visa, et des entreprises technologiques comme Adobe, Oracle et IBM. Ils appellent les gouvernements à fournir une « IA défensive capable » et des tests aux hôpitaux et aux services d'eau, et les entreprises technologiques à soutenir ces efforts. La lettre fait suite à des violations récentes, notamment l'annonce par le département de la Justice américain que des pirates chinois ont violé le Sénat américain, la NASA, la Réserve fédérale et le département de la Justice. Cet été, OpenAI, Anthropic et Meta ont révélé des outils d'IA faisant des choses qu'ils ne devraient pas faire, certains agents d'IA organisant des efforts et se faisant passer pour des personnes. En juillet, des centaines d'agents d'IA d'OpenAI ont attaqué avec succès Hugging Face, décrit comme la première cyberattaque au monde activée par l'IA. Au moins sept entreprises américaines d'eau et de traitement des eaux usées ont signalé des cyberattaques, ce qui a incité le FBI à publier un avis public. La lettre propose des outils d'IA plus avancés comme faisant partie de la solution, mais ces outils ne sont pas toujours disponibles ; Anthropic a restreint l'accès à son outil Mythos en raison de sa puissance. La lettre appelle les entreprises d'IA de pointe à fournir un accès responsable aux modèles, un financement, une formation et un soutien. Elle ne détaille pas la mise en œuvre. Andrew Yoon de CivAI a déclaré qu'une « vague sans précédent d'activités de piratage par IA » arrive et a tenu les signataires responsables de leurs engagements. La lettre plaide pour une collaboration afin de prioriser la défense. Aux États-Unis, des sénateurs ont proposé la loi Kill Switch pour arrêter les modèles d'IA voyous. Geoffrey Hinton a averti que la société pourrait être « en réel danger » si l'IA devient plus intelligente que les humains.