Son yıllarda ünlüler, yapay zeka tarafından üretilen, çoğu zaman mizahi ve zararsız gibi görünen “meme”lerin popüler birer hedefi haline geldi. Bu ünlülerin başında, nedeni bilinmez, yıllardır “Family Feud”un (Türkiye’de Asuman Krause’nin sunduğu “Aileler Yarışıyor” programının esinlendiği yarışma) sunuculuğunu yapmasıyla tanınan Steve Harvey geliyor… Harvey’nin gerek bir rock yıldızı olarak gerekse farklı zorlu durumlarda tasvir edilmesi elbette tehlike çanlarının duyulmasına neden olmayacaktı. Ancak bu durum, Harvey’in görüntüsünün ve sesinin, yani deepfake bir versiyonunun kullanılarak dolandırıcılık yapılmasıyla renk değiştirdi. Geçtiğimiz yıl, Harvey de dahil olmak üzere Taylor Swift ve Joe Rogan gibi ünlülerin sesleri yapay zeka ile taklit edilerek, insanlara devlet destekli fonlar vaat eden bir dolandırıcılık kampanyasında kullanıldı. “Aylardır size bu ücretsiz 6.400 doları almanız gerektiğini söylüyorum,” diyen ve Harvey’e benzeyen bir ses, bu videolardan birinde yer aldı. Hollywood’dan ünlüler, bu gelişmeler ışığında hükümete gereğinin yapılması konusunda çağrıda bulundu.
Hollywood ve ABD Kongresi harekete geçiyor
Harvey’le başlayan akım, bu tür dolandırıcılıkların önüne geçmek için yasaların sıkılaştırılmasını ve sorumlulara ağır yaptırımlar uygulanmasını savunuyor. ABD Kongresi de bu konuda adımlar atmaya başladı. Deepfake içeriklerin kötüye kullanımını önlemeye yönelik “No Fakes Act” (Sahtelere Hayır Yasası) gibi çeşitli yasalar üzerinde çalışmalar yürütülüyor.
Bu yasa tasarısı, içerik üreticilerini ve platformları, izinsiz yapay zeka tarafından oluşturulan görüntü, video ve seslerden sorumlu tutmayı amaçlıyor. Hem Demokrat hem de Cumhuriyetçi liderler tarafından desteklenen yasa tasarısının önümüzdeki haftalarda yeniden gündeme gelmesi bekleniyor. Aynı zamanda, Kongre’de AI ile üretilen deepfake pornografi içeriklerini cezalandırmaya yönelik “Take It Down Act” (Kapat Yasası) de gündemde.
Harvey, 2025 yılı itibarıyla kendi özelliklerinin kullanan dolandırıcılığın “tavan yaptığını” söylüyor. CNN’e verdiği röportajda, “Markamı her zaman samimi ve güvenilir olarak inşa ettim. İnsanlar bana güveniyor. Bu güveni istismar eden dolandırıcılar, benimle ilgilenmeyen insanları bile mağdur edebilir” dedi.
Ünlüler deepfake tehlikesine karşı birleşiyor
Brad Pitt’in sahte bir dijital versiyonunun kullanılarak Fransız bir kadının 850 bin dolar dolandırılması ya da Scarlett Johansson’un yapay zeka tarafından taklit edilerek sahte açıklamalar yapmış gibi gösterilmesi, bu sorunun ne kadar ciddi boyutlara ulaştığını gösteriyor.
Johansson, yapay zekanın oluşturduğu tehdit hakkında yaptığı açıklamada, “Pek çok gelişmiş ülke, bu tehdide sorumlu bir şekilde yanıt verdi. Ancak ABD henüz bir önlem almadı ve bu çok korkutucu,” ifadelerini kullandı.
Harvey, “İfade özgürlüğü başkalarını istismar etme özgürlüğü değildir. Kongre’nin bu konuya müdahale etmesi gerekiyor çünkü bu olaylar eninde sonunda onları da etkileyecek,” diyerek yasa tasarısına desteğini belirtti.
Deepfake tespiti için yeni teknolojiler
Yasalar onaylanıp yürürlüğe girene dek deepfake’lerin tespit edilmesi büyük bir sorun olmaya devam ediyor. Ünlü isimler, yapay zeka tarafından oluşturulan içeriklerin tespit edilmesinin zorluğundan şikayetçi… Bu noktada, yapay zeka deepfake içeriklerini izleyip kaldırmak için çalışan şirketler devreye giriyor.
Bundan birkaç hafta önce Londra merkezli girişim Surf Security’nin özellikle deepfake sesleri tespit etmekte yüksek başarı gösteren tarayıcı eklentisi “Deepwater”dan bahsetmiştik.
ABD’de ise Vermillio AI adlı girişim, büyük cast ajansları ve film stüdyolarıyla iş birliği yaparak sahte içerikleri belirleyen TraceID adlı bir sistem geliştirdi. Vermillio CEO’su Dan Neely’ye göre, “2018 yılında yaklaşık 19 bin deepfake içeriği vardı. Bugün ise her dakika bir milyona yakın yeni deepfake’ler oluşturuluyor.”
Vermillio’nun teknolojisi, sahte içerikleri belirlemek için “parmak izi” yöntemini kullanıyor: Yapay zeka ile değiştirilmiş görselleri belirleyerek internet üzerindeki izlerini sürüyor. Bu yöntem Hollywood için bir çözüm sunabilir. Ancak, özellikle son günlerde Türkiye’de de vakalarına şahit olmaya başladığımız, insanların aile fertlerinin sesiyle aranarak acil para talep edilmesi gibi vatandaşları etkileyen dolandırıcılık yöntemlerini çözümlemek için henüz gerekli sistemler kurulmuş değil.
Değişimin başladığı yerle sınırlı kalmaması ve The Newsight’ta birçok olumlu özelliğini ve vaadini dile getirdiğimiz yapay zekanın tehlikeli yönlerine dair önlemlerin tüm dünya için alınması temennisiyle…
Yapay zeka orkestrasyonu ajansı KLOK’un Kurucusu Deniz Bensusan’ın geçtiğimiz haftalarda kaleme aldığı, bu konuyu ele alan köşe yazısına da göz atın: Bugün bir siber dolandırıcının maaşı kaç dolar? (Evet, bu bir iş koluna dönüştü)
