Londra merkezli girişim Surf Security, yapay zeka ile oluşturulmuş deepfake içeriklerin neden olduğu tehditlere karşı önemli bir adım attı. Şirket, çevrim içi etkileşimlerde sahte içerikleri tespit etmek için yüzde 98’e varan doğruluk sağlayan bir tarayıcı aracı geliştirdiğini duyurdu. Bu teknoloji, canlı iletişim platformlarından kaydedilmiş ses dosyalarına kadar birçok ortamda kullanıcılara gerçeklik kontrolü sunmayı hedefliyor.
Surf Security, 18 Kasım 2024’te gerçekleştirdiği online demoda, Deepwater adlı bu teknolojinin entegre edildiği tarayıcısının beta sürümünü tanıtırken, aynı özelliğin bağımsız bir eklenti olarak da kullanılabileceğini belirtti. Tarayıcı, çevrim içi bir etkileşimin gerçek bir kişiyle mi yoksa bir yapay zeka taklidiyle mi gerçekleştiğini yüzde 98’e varan doğruluk oranıyla tespit edebiliyor.
Şirketin sinir ağı teknolojisi (neural network technology), “askeri düzeyde” olarak tanımlanıyor ve ses dosyalarını analiz etmek için bir sistemin zaman içinde değişen durumlarını matematiksel olarak temsil etmek için kullanılan Durum Uzayı Modellerinden (State Space Models) yararlanıyor. Bu sistem, ses kayıtlarında veya canlı yayınlarda AI tarafından oluşturulan taklitleri, farklı diller ve aksanlar arasında bile tutarsızlıkları bularak tespit edebiliyor.
Surf Security’nin CTO’su Ziv Yankowitz, teknolojinin özellikle yüksek doğruluk ve hız sağlama hedefiyle geliştirildiğini belirtti. Yankowitz, şirketin sinir ağlarını önde gelen yapay zeka ses kopyalama platformlarının ürettiği deepfake örnekleri üzerinde eğittiğini ifade etti.
Bu yenilikçi araç, çevrim içi videolar, kaydedilmiş dosyalar veya WhatsApp, Zoom, Slack ve Google Meet gibi canlı iletişim platformları üzerinden gelen ses içerikleriyle uyumlu. Kullanıcıların, yalnızca bir düğmeye tıklayarak sesin gerçek mi yoksa yapay zeka tarafından üretilmiş bir taklit mi olduğunu doğrulayabileceği belirtiliyor.
Deepfake teknolojisi, yapay zeka kullanarak son derece gerçekçi sahte ses ve video içerikleri üretebiliyor ve bu durum, giderek büyüyen bir tehdit haline geliyor. Örneğin, BBC’nin yakın zamanda yaptığı bir araştırmada, İngiltere asıllı yayıncı ve biyolog David Attenborough gibi ünlü isimlerin seslerini taklit eden deepfake içeriklerin yanlış bilgi yaymak için kullanıldığı ortaya çıkarıldı.
Surf Security’nin deepfake tespit aracı, işletmeler, medya kuruluşları, kolluk kuvvetleri ve askeri kurumlar için bu tür tehditlerle mücadelede önemli bir çözüm sunmayı hedefliyor. Şirket, aracın tam sürümünü önümüzdeki yılın başında piyasaya sürmeyi planlıyor.
Bu gelişme, yapay zeka teknolojilerinin artan potansiyel risklerine karşı alınan önlemler açısından dikkat çekici bir adım olarak değerlendiriliyor.