Dünyanın en büyük e-posta güvenlik firmalarından Proofpoint, hızla yükselen yeni bir siber saldırı türünü tanımladı: AI-ajan phishing (yapay zeka ajanları yoluyla yapılan oltalama). Bu yöntem, insanları kandırmaya odaklanmaktan çok daha ileri gidiyor; saldırganlar artık kötü niyetli komutlarını e-postaların içine gizliyor. İnsan gözüyle fark edilemeyen bu talimatlar, Microsoft Copilot, Google Gemini ve benzeri yapay zeka araçları tarafından okunup otomatik olarak uygulanabiliyor.
Ajanlar görmeden uyguluyor, şirketler fark etmiyor
İş dünyasında giderek yaygınlaşan “ajan merkezli” sistemler; e-postaları özetliyor, takvim oluşturuyor, hatta yanıt bile hazırlıyor. İşte tam da bu noktada gizli komutlar devreye giriyor. Zararlı yönlendirmeler, bu araçları:
- Gizli bilgileri sızdırmaya,
- Sahte talepleri onaylamaya,
- Yeni saldırılar için kapı aralamaya zorlayabiliyor.
Proofpoint her gün milyarlarca mesajı taradığını ve bu yeni nesil tehditlerin gelen kutularına ulaşmadan engellenmeye başlandığını belirtiyor. Red Canary ve TechRadar gibi araştırma kuruluşları da aynı saldırı modelinin farklı AI araçlarında gözlemlendiğini doğruluyor: Copilot Studio’dan özel geliştirilmiş kurumsal ajanlara kadar geniş bir ekosistemde risk büyüyor.
Güvenlik modelleri “insan” üzerine kurulu—peki ya ajanlar?
Mevcut siber güvenlik stratejileri, kullanıcı davranışları ve kimlik doğrulama üzerine inşa edildi. Ancak kendi kendine karar verebilen yapay zeka ajanları, bu çerçevenin çok ötesine geçmiş durumda. Üstelik insan denetimi olmadan okuyan, yazan ve işlem yapan bu sistemlerin hangi sınırlar içinde hareket etmesi gerektiği hala net değil.
Uzmanlar uyarıyor: Bu durum bir kriz alarmı değil, ancak kesinlikle hazırlanılması gereken bir dönemin başlangıcı…
- Yetkilendirme modelleri güncellenmeli
- Ajanların erişim izinleri sınırlandırılmalı
- “İnsan onayı” mekanizmaları güçlendirilmeli
Verimliliğin geleceği ajan merkezliyse, siber güvenliğin geleceği de aynı ölçüde ajan merkezli olacak.
Buna da göz atın: OpenAI, “ChatGPT Atlas” ile Google’a doğrudan rakip oluyor