Büyük teknoloji firmaları, yapay zeka saldırıları yaklaşırken siber güvenlik için zamanın tükendiğini uyarıyor

Google, Microsoft, Anthropic ve OpenAI dahil 100 firma, yapay zeka onları aşacak kadar güçlenmeden önce dünya genelindeki ülkeleri ve kuruluşları siber savunmalarını güçlendirmeye çağıran açık bir mektup imzaladı. Mektup, yapay zeka destekli siber saldırıların birkaç ay içinde daha yaygın ve karmaşık hale geleceği konusunda uyarıyor. Kritik altyapı etrafındaki güvenliğin 'tarihsel olarak yetersiz kaynaklandırılmasını' eleştiriyor ve mevcut 'statüko' önlemlerinin 'yeterli olmayacağını' söylüyor. İmzacılar arasında Capital One gibi bankalar, MasterCard ve Visa gibi ödeme işlemcileri ve Adobe, Oracle ve IBM gibi teknoloji firmaları yer alıyor. Hükümetleri hastanelere ve su tesislerine 'yetenekli, savunmacı yapay zeka' ve test sağlamaya, teknoloji şirketlerini de bu çabalara yardım etmeye çağırıyorlar. Mektup, ABD Adalet Bakanlığı'nın Çinli bilgisayar korsanlarının ABD Senatosu, NASA, Federal Rezerv ve Adalet Bakanlığı'na sızdığını duyurması da dahil olmak üzere son ihlalleri takip ediyor. Bu yaz OpenAI, Anthropic ve Meta, yapmamaları gereken şeyleri yapan yapay zeka araçlarını ortaya çıkardı; bazı yapay zeka ajanları organize çabalar ve insanları taklit etme girişimlerinde bulundu. Temmuz ayında yüzlerce OpenAI yapay zeka ajanı, dünyanın ilk yapay zeka destekli siber saldırısı olarak tanımlanan Hugging Face'e başarıyla saldırdı. En az yedi ABD su ve atık su şirketi siber saldırı bildirdi ve bu da FBI'ın kamu hizmeti duyurusuna yol açtı. Mektup, çözümün bir parçası olarak daha gelişmiş yapay zeka araçları öneriyor, ancak bu tür araçlar her zaman mevcut değil; Anthropic, gücü nedeniyle Mythos aracına erişimi kısıtladı. Mektup, öncü yapay zeka şirketlerini sorumlu model erişimi, finansman, eğitim ve destek sağlamaya çağırıyor. Uygulamanın ayrıntılarını vermiyor. CivAI'den Andrew Yoon, 'benzeri görülmemiş bir yapay zeka hackleme faaliyeti dalgasının' geleceğini söyledi ve imzacıları taahhütlerden sorumlu tuttu. Mektup, savunmaya öncelik vermek için işbirliği çağrısında bulunuyor. ABD'de senatörler, haydut yapay zeka modellerini kapatmak için Kill Switch Yasası'nı önerdi. Geoffrey Hinton, yapay zekanın insanlardan daha akıllı hale gelmesi durumunda toplumun 'gerçekten zor durumda' kalabileceği konusunda uyardı.