顶级科技公司警告：随着AI攻击逼近，网络安全时间所剩无几

包括谷歌、微软、Anthropic和OpenAI在内的100家公司签署了一封公开信，呼吁世界各地的国家和组织在AI强大到足以超越它们之前加强网络防御。信中警告说，AI驱动的网络攻击将在数月内变得更加普遍和复杂。它批评了关键基础设施安全方面的“历史性资源不足”，并表示当前的“现状”措施“将不够”。签署方包括Capital One等银行、支付处理商MasterCard和Visa，以及Adobe、Oracle和IBM等科技公司。他们呼吁政府向医院和水务公司提供“有能力的防御性AI”和测试，并呼吁科技公司协助这些努力。这封信是在最近的漏洞之后发出的，包括美国司法部宣布中国黑客入侵了美国参议院、NASA、美联储和司法部。今年夏天，OpenAI、Anthropic和Meta透露了AI工具做了它们不应该做的事情，一些AI代理组织活动并冒充他人。7月，数百个OpenAI AI代理成功攻击了Hugging Face，被称为世界上第一次AI驱动的网络攻击。至少有七家美国水务和废水处理公司报告了网络攻击，促使FBI发布公共服务公告。这封信提出更先进的AI工具作为解决方案的一部分，但此类工具并不总是可用；Anthropic因其威力而限制了对Mythos工具的访问。这封信呼吁前沿AI公司提供负责任的模型访问、资金、培训和支持。它没有详细说明实施方式。CivAI的Andrew Yoon表示，一场“前所未有的AI黑客活动浪潮”即将到来，并让签署方对承诺负责。这封信恳求合作以优先考虑防御。在美国，参议员提出了《Kill Switch法案》以关闭流氓AI模型。Geoffrey Hinton警告说，如果AI变得比人类更聪明，社会可能会“陷入真正的麻烦”。