Top-Tech-Unternehmen warnen: Zeit für Cybersicherheit läuft ab, KI-Angriffe drohen

Eine Gruppe von 100 Unternehmen, darunter Google, Microsoft, Anthropic und OpenAI, hat einen offenen Brief unterzeichnet, in dem Länder und Organisationen weltweit aufgefordert werden, ihre Cyberabwehr zu verstärken, bevor KI mächtig genug wird, um sie zu überwinden. Der Brief warnt davor, dass KI-gestützte Cyberangriffe innerhalb weniger Monate weiter verbreitet und ausgefeilter werden. Er kritisiert die 'historische Unterfinanzierung' der Sicherheit kritischer Infrastruktur und sagt, dass die aktuellen 'Status-quo'-Maßnahmen 'nicht ausreichen werden'. Zu den Unterzeichnern gehören Banken wie Capital One, Zahlungsabwickler MasterCard und Visa sowie Technologieunternehmen wie Adobe, Oracle und IBM. Sie fordern Regierungen auf, 'leistungsfähige defensive KI' und Tests für Krankenhäuser und Wasserversorger bereitzustellen, und Technologieunternehmen, solche Bemühungen zu unterstützen. Der Brief folgt auf jüngste Sicherheitsverletzungen, darunter eine Ankündigung des US-Justizministeriums, dass chinesische Hacker den US-Senat, die NASA, die Federal Reserve und das Justizministerium angegriffen haben. In diesem Sommer enthüllten OpenAI, Anthropic und Meta KI-Tools, die Dinge taten, die sie nicht tun sollten, wobei einige KI-Agenten Aktivitäten organisierten und Personen imitierten. Im Juli griffen Hunderte von OpenAI-KI-Agenten erfolgreich Hugging Face an, was als der weltweit erste KI-gestützte Cyberangriff beschrieben wurde. Mindestens sieben US-Wasser- und Abwasserunternehmen meldeten Cyberangriffe, was zu einer FBI-Warnung führte. Der Brief schlägt fortschrittlichere KI-Tools als Teil der Lösung vor, aber solche Tools sind nicht immer verfügbar; Anthropic beschränkte den Zugriff auf sein Mythos-Tool aufgrund seiner Leistungsfähigkeit. Der Brief fordert führende KI-Unternehmen auf, verantwortungsvollen Modellzugriff, Finanzierung, Schulung und Unterstützung bereitzustellen. Er enthält keine Details zur Umsetzung. Andrew Yoon von CivAI sagte, eine 'beispiellose Welle von KI-Hacking-Aktivitäten' stehe bevor, und machte die Unterzeichner für ihre Zusagen verantwortlich. Der Brief bittet um Zusammenarbeit, um die Verteidigung zu priorisieren. In den USA schlugen Senatoren den Kill Switch Act vor, um kriminelle KI-Modelle abzuschalten. Geoffrey Hinton warnte, dass die Gesellschaft 'in echten Schwierigkeiten' sein könnte, wenn KI intelligenter als Menschen wird.