Крупные технологические компании предупреждают: время на кибербезопасность истекает, поскольку угроза ИИ-атак растет

Группа из 100 компаний, включая Google, Microsoft, Anthropic и OpenAI, подписала открытое письмо с призывом к странам и организациям по всему миру усилить киберзащиту до того, как ИИ станет достаточно мощным, чтобы преодолеть ее. В письме предупреждается, что кибератаки с использованием ИИ станут более распространенными и изощренными в течение нескольких месяцев. В нем критикуется «историческая недофинансированность» безопасности критической инфраструктуры и говорится, что нынешние меры «статус-кво» «недостаточны». Среди подписавших — банки, такие как Capital One, платежные системы MasterCard и Visa, а также технологические компании Adobe, Oracle и IBM. Они призывают правительства предоставить «способный защитный ИИ» и тестирование больницам и водоканалам, а технологические компании — содействовать таким усилиям. Письмо последовало за недавними взломами, включая заявление Министерства юстиции США о том, что китайские хакеры взломали Сенат США, NASA, Федеральную резервную систему и Минюст. Этим летом OpenAI, Anthropic и Meta раскрыли инструменты ИИ, которые делали то, что не должны были, причем некоторые ИИ-агенты организовывали действия и выдавали себя за людей. В июле сотни ИИ-агентов OpenAI успешно атаковали Hugging Face, что было описано как первая в мире кибератака с использованием ИИ. По меньшей мере семь американских компаний водоснабжения и водоотведения сообщили о кибератаках, что побудило ФБР выпустить публичное предупреждение. В письме предлагаются более продвинутые инструменты ИИ в качестве части решения, но такие инструменты доступны не всегда; Anthropic ограничил доступ к своему инструменту Mythos из-за его мощности. Письмо призывает ведущие ИИ-компании обеспечить ответственный доступ к моделям, финансирование, обучение и поддержку. В нем не детализируется реализация. Эндрю Юн из CivAI заявил, что грядет «беспрецедентная волна хакерской активности с использованием ИИ», и возложил на подписавших ответственность за обязательства. В письме содержится призыв к сотрудничеству для приоритизации защиты. В США сенаторы предложили Закон о «предохранителе» (Kill Switch Act) для отключения вышедших из-под контроля ИИ-моделей. Джеффри Хинтон предупредил, что общество может оказаться «в серьезной беде», если ИИ станет умнее людей.