Anthropic, ABD hükümetinin başka ülkelerdeki kullanıcılar tarafından kullanımının engellenmesi talimatı doğrultusunda henüz geçen hafta duyurulmuş ve en gelişmiş yapay zeka modelleri olan Mythos 5 ve Fable 5’e yönelik tüm müşteri erişimini askıya aldığını duyurdu. Şirketin cuma akşamı yaptığı açıklamaya göre karar, ABD yönetiminin “ulusal güvenlik” gerekçesiyle verdiği bir direktif sonucunda alındı. Söz konusu adım, gelişmiş yapay zeka modellerinin yeteneklerine yönelik devlet müdahaleleri arasında şimdiye kadar görülen en kapsamlı uygulamalardan biri olarak değerlendiriliyor.
Gerekçe: Ulusal güvenlik endişeleri
Anthropic, ABD hükümetinin kararına ilişkin detaylı bilgi paylaşmadığını, ancak yetkililerin Fable 5 modeline yönelik bir “jailbreak” yönteminden haberdar olmuş olabileceğini belirtti. Jailbreak, bir yapay zeka modelinin güvenlik ve kullanım kısıtlamalarının aşılmasını sağlayan teknikleri ifade ediyor.
Şirket açıklamasında, söz konusu yöntemin yalnızca daha önce bilinen ve sınırlı sayıdaki küçük güvenlik açıklarını ortaya çıkarmaya yaradığını ifade etti.
Anthropic, yaptığı değerlendirmede şu ifadeleri kullandı:
Bu tekniğin kullanımına ilişkin bir gösterimi inceledik. Ortaya çıkarılan açıkların tamamı nispeten basit görünüyor ve benzer sonuçların güvenlik bariyerlerini aşmadan, halka açık diğer modeller tarafından da elde edilebildiğini tespit ettik.
Anthropic karara katılmıyor
Anthropic, yeni modellerinde siber güvenlik alanında kötüye kullanım riskini azaltmak amacıyla çok sayıda koruma mekanizması geliştirdiğini vurguladı. Hatta şirket, bazı kullanıcıların bu güvenlik önlemlerinin aşırı katı olduğu yönünde şikâyette bulunduğunu belirtti.
Açıklamada ayrıca ABD hükümetiyle birlikte modeller üzerinde “red teaming” çalışmaları yürütüldüğü ve hiçbir yapay zeka modelinin tüm jailbreak girişimlerine karşı tamamen dayanıklı olmadığı ifade edildi.
Buna rağmen şirket, hükümet kararına uymak zorunda olduklarını ancak gerekçeye katılmadıklarını açıkladı.
Anthropic, “Sınırlı kapsamlı potansiyel bir jailbreak ihtimalinin, yüz milyonlarca kullanıcıya sunulmuş ticari bir modelin geri çekilmesi için yeterli bir neden olduğunu düşünmüyoruz” dedi.
Şirket ayrıca bu yaklaşımın sektör geneline uygulanması halinde, gelişmiş yapay zeka modellerinin piyasaya sürülmesini fiilen durdurabileceğini savundu.
Yabancı çalışanlar da etkilenecek
Karar yalnızca müşterileri değil, Anthropic bünyesinde çalışan yabancı uyruklu araştırmacıları da etkiliyor. Kısıtlama nedeniyle çok sayıda çalışan artık Mythos ve Fable modelleri üzerinde çalışma yürütemeyecek.
Kararı veren ABD Ticaret Bakanlığı ise konuya ilişkin henüz resmi bir açıklama yapmadı.
Axios’un aktardığı bilgilere göre yeni düzenleme, Anthropic’in söz konusu modellerin “ihracı, yeniden ihracı veya yurt içi transferi” için özel lisans almasını gerektiriyor.
Mythos neden tartışma yarattı?
Anthropic’in kısa süre önce tanıttığı Mythos modeli, siber güvenlik alanındaki olağanüstü yetenekleri nedeniyle hem ABD hükümetinin hem de yatırım çevrelerinin dikkatini çekmişti.
Uzmanlar, modelin güvenlik açıklarını tespit etme ve bunlardan yararlanma konusunda bugüne kadar görülmemiş bir hız ve kapasiteye sahip olduğunu belirtiyor.
Anthropic, bu nedenle Mythos’u ilk aşamada yalnızca belirli iş ortaklarına açmış ve amacın “dünyanın en kritik yazılımlarını güvence altına almak” olduğunu açıklamıştı. Geçtiğimiz hafta duyurulan Fable 5 ise Mythos’un genel kullanıma uygun ve güvenlik katmanları güçlendirilmiş versiyonu olarak tanıtılmıştı.
Modelin yetenekleri, Trump yönetiminin kısa süre önce yayımladığı yeni yapay zeka kararnamesinin hazırlanmasında da etkili oldu. Kararname, ileri düzey siber güvenlik yeteneklerine sahip olduğu değerlendirilen modellerin kamuya veya iş ortaklarına açılmadan önce en az 30 gün önceden hükümetle paylaşılmasını öngörüyor.
Trump yönetimi ile Anthropic arasında gerilim sürüyor
Anthropic ile Trump yönetimi arasındaki ilişkiler son dönemde oldukça gergin bir seyir izliyor.
Yılın başlarında Trump yönetimi, şirketi askeri tedarik süreçlerinde “tedarik zinciri riski” olarak sınıflandırmıştı. Bunun nedeni olarak Anthropic’in, ABD Savunma Bakanlığı’nın savaş alanında yapay zeka kullanımı için belirli güvenlik kurallarını kabul etmesi yönündeki talepleri gösterilmişti.
Şirket bu kararı “emsalsiz ve hukuka aykırı” olarak nitelendirerek dava açmış ve süreçte bazı erken hukuki kazanımlar elde etmişti.
Buna rağmen Beyaz Saray ile Anthropic arasındaki temasların tamamen kopmadığı belirtiliyor. Kaynaklara göre federal kurumların bazı bölümleri, özellikle Mythos’un piyasaya sürülmesinden sonra, şirketin modellerine erişmeye devam etmek için alternatif yollar geliştirdi.
CNN ABD’ye konuşan kaynaklar ayrıca Anthropic’in son yapay zeka kararnamesinin hazırlanmasında aktif rol oynadığını ve şirket yöneticilerinin Beyaz Saray’daki imza törenine davet edildiğini, ancak etkinliğin son anda iptal edildiğini aktardı.
Ne anlama geliyor?
Anthropic’e yönelik bu müdahale, yapay zeka alanında sözü edilen ancak henüz bu denli net örneklerine şahit olmadığımız bir durumun habercisi olabilir: Bugüne kadar teknoloji şirketlerinin kendi güvenlik politikalarıyla yönettiği model erişimi konusu, artık doğrudan ulusal güvenlik ekseninde devlet müdahalesine açık hale geliyor.
Özellikle gelişmiş siber güvenlik yeteneklerine sahip modellerin yaygınlaşmasıyla birlikte, hükümetlerin yapay zeka şirketleri üzerindeki denetim ve lisanslama taleplerinin artması bekleniyor. Bu durum, önümüzdeki dönemde yapay zeka sektöründe inovasyon ile regülasyon arasındaki dengenin en önemli tartışma başlıklarından biri haline gelebilir.
