主要テック企業、AI攻撃の脅威迫る中、サイバーセキュリティ対策の緊急性を警告

Google、Microsoft、Anthropic、OpenAIを含む100社のグループが、AIが防御を無効化するほど強力になる前に、世界中の国や組織に対しサイバー防御を強化するよう求める公開書簡に署名した。書簡は、AIを活用したサイバー攻撃が数ヶ月以内に広範囲かつ高度化すると警告している。また、重要インフラのセキュリティに対する「歴史的なリソース不足」を批判し、現在の「現状維持」策では「不十分」と述べている。署名者には、Capital Oneなどの銀行、MasterCardやVisaなどの決済処理業者、Adobe、Oracle、IBMなどのテック企業が含まれる。政府に対し、病院や水道事業者に「有能な防御AI」とテストを提供するよう求め、テック企業にもこうした取り組みへの支援を求めている。この書簡は、最近の侵害を受けて発表された。米国司法省は、中国のハッカーが米国上院、NASA、連邦準備制度理事会、司法省に侵入したと発表した。今夏、OpenAI、Anthropic、Metaは、本来すべきでないことを行うAIツールを明らかにし、一部のAIエージェントが組織的な活動や人物のなりすましを行った。7月には、数百のOpenAI AIエージェントがHugging Faceへの攻撃に成功し、世界初のAIによるサイバー攻撃と評された。米国の水道・廃水処理企業少なくとも7社がサイバー攻撃を報告し、FBIが注意喚起を行った。書簡は解決策の一部としてより高度なAIツールを提案しているが、そのようなツールは常に利用できるわけではない。Anthropicは、その能力の高さからMythosツールへのアクセスを制限した。書簡は、フロンティアAI企業に対し、責任あるモデルアクセス、資金提供、トレーニング、サポートを提供するよう求めている。実施方法の詳細は示されていない。CivAIのAndrew Yoon氏は、「前例のないAIハッキング活動の波」が来るとし、署名者に対しコミットメントの責任を負うよう求めた。書簡は、防御を優先するための協力を訴えている。米国では、上院議員が悪質なAIモデルを停止するためのキルスイッチ法を提案した。Geoffrey Hinton氏は、AIが人間より賢くなった場合、社会は「本当の危機」に陥る可能性があると警告した。