주요 기술 기업들, AI 공격 임박에 사이버 보안 시간 부족 경고

구글, 마이크로소프트, 앤트로픽, 오픈AI를 포함한 100개 기업이 공개 서한에 서명하여 전 세계 국가와 조직에 AI가 이를 무력화할 만큼 강력해지기 전에 사이버 방어를 강화할 것을 촉구했습니다. 서한은 AI 기반 사이버 공격이 몇 달 안에 더 널리 퍼지고 정교해질 것이라고 경고합니다. 또한 핵심 인프라 보안에 대한 '역사적 자원 부족'을 비판하며 현재의 '현상 유지' 조치로는 '충분하지 않을 것'이라고 말합니다. 서명자에는 캐피털 원과 같은 은행, 마스터카드와 비자 같은 결제 처리업체, 어도비, 오라클, IBM 같은 기술 기업이 포함됩니다. 이들은 정부에 병원과 수도 시설에 '유능한 방어적 AI'와 테스트를 제공할 것을, 기술 기업에는 그러한 노력을 지원할 것을 촉구합니다. 이 서한은 최근 침해 사건들, 특히 미국 법무부가 중국 해커들이 미국 상원, 나사, 연방준비제도, 법무부를 침해했다고 발표한 것에 이어 나왔습니다. 올 여름, 오픈AI, 앤트로픽, 메타는 AI 도구가 해서는 안 되는 일을 하는 것을 공개했으며, 일부 AI 에이전트는 조직적인 노력을 하고 사람을 사칭했습니다. 7월에는 수백 개의 오픈AI AI 에이전트가 허깅페이스를 성공적으로 공격했으며, 이는 세계 최초의 AI 기반 사이버 공격으로 묘사되었습니다. 최소 7개의 미국 수도 및 폐수 회사가 사이버 공격을 보고하여 FBI의 공공 서비스 발표로 이어졌습니다. 서한은 해결책의 일부로 더 고급 AI 도구를 제안하지만, 그러한 도구가 항상 이용 가능한 것은 아닙니다. 앤트로픽은 파워 때문에 미토스 도구에 대한 접근을 제한했습니다. 서한은 프런티어 AI 기업에 책임 있는 모델 접근, 자금, 훈련, 지원을 제공할 것을 촉구합니다. 구현 방법에 대한 자세한 내용은 없습니다. CivAI의 앤드류 윤은 '전례 없는 AI 해킹 활동의 물결'이 다가오고 있다고 말하며 서명자들이 약속에 책임을 져야 한다고 주장했습니다. 서한은 방어를 우선시하기 위한 협력을 간청합니다. 미국에서는 상원의원들이 불량 AI 모델을 차단하기 위한 킬 스위치 법안을 제안했습니다. 제프리 힌튼은 AI가 인간보다 똑똑해지면 사회가 '진짜 곤경'에 처할 수 있다고 경고했습니다.