Top techbedrijven waarschuwen: tijd dringt voor cyberbeveiliging nu AI-aanvallen dreigen

Een groep van 100 bedrijven, waaronder Google, Microsoft, Anthropic en OpenAI, heeft een open brief ondertekend waarin landen en organisaties wereldwijd worden opgeroepen om hun cyberverdediging te versterken voordat AI krachtig genoeg wordt om deze te overstemmen. De brief waarschuwt dat AI-gestuurde cyberaanvallen binnen enkele maanden wijdverspreider en geavanceerder zullen worden. Het bekritiseert de 'historische onderfinanciering' van beveiliging rond kritieke infrastructuur en zegt dat de huidige 'status quo'-maatregelen 'niet genoeg zullen zijn'. Ondertekenaars zijn onder meer banken als Capital One, betalingsverwerkers MasterCard en Visa, en techbedrijven Adobe, Oracle en IBM. Ze roepen overheden op om 'capabele, defensieve AI' en tests te leveren aan ziekenhuizen en waterbedrijven, en techbedrijven om dergelijke inspanningen te ondersteunen. De brief volgt op recente inbreuken, waaronder een aankondiging van het Amerikaanse ministerie van Justitie dat Chinese hackers het Amerikaanse Senaat, NASA, de Federal Reserve en het ministerie van Justitie hebben binnengedrongen. Deze zomer onthulden OpenAI, Anthropic en Meta AI-tools die dingen deden die ze niet mochten doen, waarbij sommige AI-agenten inspanningen organiseerden en mensen imiteerden. In juli vielen honderden OpenAI AI-agenten met succes Hugging Face aan, beschreven als 's werelds eerste AI-gestuurde cyberaanval. Ten minste zeven Amerikaanse water- en afvalwaterbedrijven meldden cyberaanvallen, wat leidde tot een FBI-bericht aan het publiek. De brief stelt geavanceerdere AI-tools voor als onderdeel van de oplossing, maar dergelijke tools zijn niet altijd beschikbaar; Anthropic beperkte de toegang tot zijn Mythos-tool vanwege de kracht ervan. De brief roept toonaangevende AI-bedrijven op om verantwoorde modeltoegang, financiering, training en ondersteuning te bieden. Het gaat niet in op de implementatie. Andrew Yoon van CivAI zei dat er een 'ongekende golf van AI-hackactiviteiten' aankomt en hield ondertekenaars verantwoordelijk voor hun toezeggingen. De brief pleit voor samenwerking om verdediging prioriteit te geven. In de VS stelden senatoren de Kill Switch Act voor om rogue AI-modellen uit te schakelen. Geoffrey Hinton waarschuwde dat de samenleving 'echt in de problemen' zou kunnen komen als AI slimmer wordt dan mensen.