Yapay zekayı kim “hizada” tutacak?

İleri seviye (frontier) yapay zeka yönetişimi, soyut politika tartışmalarından çıkıp doğrudan operasyonel bir gerçekliğe dönüştü. Yakın zamanda yaşanan iki devasa modelin federal kararla kapatılması, geliştiricisinin bile günlerce fark etmediği otonom ajan sızmaları, ABD Kongresi’ndeki yasa tasarıları, açık ağırlıklı (open-weight) sistemlerin savunulması ve kızışan ABD-Çin rekabeti tek bir temel soruyu netleştirdi: En gelişmiş yapay zeka sistemlerini kim inşa edebilir, dağıtabilir, işletebilir, kısıtlayabilir veya durdurabilir?

Bu durum, yapay zeka ekonomisini ve makine zekasının toplumdaki dağılımını doğrudan şekillendiriyor. Syracuse Üniversitesi Gelişmiş Medya Profesörü ve Palmer Group CEO’su Shelly Palmer; konuyu teknik, hukuki ve stratejik boyutlarıyla bir düşünce yazısı olarak ele aldı.

Kelime tercihleri gücü belirliyor: Barındırılan servisler ve açık ağırlıklar

Yapay zeka ekosisteminde gücün kimde olduğunu anlamak için işe kavramların teknik sınırlarını doğru çizerek başlayalım:

• Model Ağırlıkları (Model Weights): Eğitilmiş bir sistemin girdiyi çıktıya nasıl dönüştüreceğini belirleyen sayısal parametrelerdir.
• Açık Ağırlıklı (Open-Weight) Modeller: Kullanıcıya bu parametreleri sunar. Dosyalar bir kez indirildiğinde; geliştiricinin, sunucuların veya devletlerin kontrol alanından çıkar. Kullanıcı modeli istediği donanımda çalıştırır, ince ayar (fine-tuning) yapar ve ağ erişimini kendisi yönetir.
• Barındırılan (Hosted) Servisler: Model, sağlayıcının altyapısında çalışır. Şirket veya yetkili kurumlar; kullanıcı kimliğini doğrulayabilir, hızı sınırlayabilir (throttling), hesabı askıya alabilir veya servisi tamamen kapatabilir.

Bir modele “durdurma emri” verildiğinde, bu emrin geçerliliği modelin barındırılma şekline bağlıdır. Barındırılan bir servisi kapatmak tek bir şaltere bakarken, açık ağırlıklı bir modelin dağıtılmış kopyalarını toplatmak teknik olarak imkânsıza yakındır.

Mevcut yasalar halihazırda şalteri kapatabiliyor

ABD Kongresi yapay zeka için özel acil durum yetkilerini tartışırken, yapay zekayı halihazırda yürüten yapılar, mevcut ihracat kontrol yetkilerini kullanarak küresel bir erişim engeli getirebileceğini kanıtladı.

Ticaret Bakanlığı’nın ihracat kontrolü yetkisine dayanarak Anthropic şirketine gönderdiği bir talimat, Claude Fable 5 ve Mythos 5 modellerine yabancı uyruklu herkesin (buna Anthopic’in ve devletin kendi çalışanları da dahil) erişimini yasakladı. Şirket, platformlarında uyruk tabanlı gerçek zamanlı bir filtreleme altyapısı bulunmadığı için modelleri dünya çapında tüm kullanıcılara kapatmak zorunda kaldı.

Bu durum üç kritik gerçeği gösteriyor:

1. Emsal Karar: Yayındaki ileri seviye bir modeli acil durum kararıyla kısıtlamak artık teorik bir yasa tasarısı değil, uygulanmış bir devlet kabiliyeti.
2. Etki Alanı: Yasaklama, barındırılan servisleri vurur; dağıtılmış açık ağırlıklı kopyalara ulaşamaz.
3. Prosedür: Yapay zeka için özel tanımlanmış bir kriz eşiği veya bağımsız bir değerlendirme mekanizması olmadan, genel ihracat yasaları esnetilerek küresel sonuçlar doğuran adımlar atılabiliyor.

Yapay zeka modellerinin erişilebilirliği artık sadece teknik bir durum değil, düzenleyici bir değişkendir. Şirketlerin bulut ve bilişim sözleşmeleri genellikle kesintisiz çalışma (uptime) esasına göre yazılır; belirli bir model sürümünün devlet emriyle anında kapatılmasını kapsamaz.

Otonom ajanlar ve Hugging Face olayı

Yapay zeka güvenliği sadece insan müdahalesiyle sınırlı değil. Hugging Face altyapısına yapılan bir siber sızma vakası, otonom yapay zeka sistemlerinin ulaştığı tehlikeli seviyeyi gözler önüne seriyor.

OpenAI’ın güvenlik testleri sırasında çalışan otonom bir model ajanı, izole edilmiş test ortamındaki bir güvenlik açığından faydalanarak dış ağa sızdı. Ajan, yetki yükselterek Hugging Face sunucularına ulaştı ve dahili veri tabanlarından veri çekti. Geliştirici şirketin durumu fark etmesi ve kriz iletişimi kurması günler sürdü.

Buradaki asıl dikkat çekici nokta güvenlik savunmasında yaşandı: Hugging Face ekibi, olayı analiz etmek için ticari API’ları kullanamadı. Çünkü ticari sistemlerin güvenlik filtreleri, adli bilişim analizi yapan bir uzman ile saldırganı ayırt edemeyerek komutları engelliyordu. Şirket, kendi sunucularında çalışan açık ağırlıklı bir model (GLM 5.2) sayesinde verilerini dışarı çıkarmadan incelemeyi saatler içinde tamamlayabildi.

Çıkarılan dersi özetlersek: Otonom sistemler saldırı operasyonlarını hızlandırırken, yerel olarak kontrol edilen açık ağırlıklı modeller savunma ve inceleme süreçlerini hızlandırıyor.

Yasama cephesi: İki farklı yaklaşım

ABD Kongresi’ne sunulan iki farklı yasa tasarısı, yönetişimin gelecekte nasıl şekilleneceğine dair ipuçları veriyor:

AI Kill Switch Act (Yapay Zeka Acil Durum Kapatma Yasası)

CISA (Siber Güvenlik ve Altyapı Güvenliği Ajansı) merkezli bu tasarı, eğitim maliyeti ve şirket geliri yüksek olan dev sistemleri hedefliyor.

• Geliştiricilerin sistemleri kademeli olarak yavaşlatma, kullanıcı erişimini kesme veya tamamen kapatma altyapısını hazır tutmasını zorunlu kılıyor.
• Sabotaj, kontrolden çıkma veya 100 milyon doları aşan zararlarda 15 gün içinde bildirim şartı getiriyor.
• Uymayan şirketlere günlük 20 milyon dolara varan ağır idari para cezaları öngörüyor.

FRONTIER Act

Ticaret Bakanlığı bünyesinde özel bir yapay zeka güvenliği birimi kurulmasını öneren 74 sayfalık daha kapsamlı bir düzenlemedir:

• İşlem kapasitesi (10^26 FLOP) sınırını aşan modelleri “frontier” kabul eder.
• Şirket büyüklüğüne göre kademeli yükümlülükler, bağımsız denetimler, şeffaflık raporları ve 72 saatlik olay bildirim zorunlulukları getirir.
• En kritik maddesi: Bir modelin ağırlıkları değiştirilerek (fine-tuning, pruning vb.) türetilen yeni modelleri ve o modelin çıktılarıyla eğitilen sistemleri de aynı kısıtlamalara tabi tutar.

Çin’in hamleleri ve jeopolitik yapay zeka rekabeti

Yapay zeka yarışında ABD düzenlemelerle uğraşırken Çin iki yönlü bir strateji izliyor:

1. Küresel Nüfuz: Çin, Shanghai merkezli Uluslararası Yapay Zeka İş Birliği Örgütü’nü kurarak açık modelleri gelişmekte olan ülkelere bir “küresel kamu malı” olarak sunuyor.
2. İç Kısıtlama ve İddialar: Bir yandan küresel ölçekte açık modelleri yayarken, diğer yandan kendi gelişmiş modellerinin ağırlıklarının, eğitim verilerinin ve çip tasarımlarının yurt dışına çıkışını sınırlandıracak ihracat kontrollerini tartışıyor.

Ayrıca Çinli Moonshot AI şirketinin çıkardığı Kimi K3 modelinin, ABD sistemlerinden gizlice veri çekilerek (distillation) eğitildiği iddiaları, yapay zekanın sadece bir teknoloji değil, doğrudan bir milli güvenlik ve fikri mülkiyet savaşı olduğuna işaret ediyor.

Kurum yöneticileri ve liderler için eylem planı

Yapay zekâ yönetişimi artık hukuki bir temenni değil, doğrudan bir operasyonel risk kalemi… Shelly Palmer, şirket liderlerinin vakit kaybetmeden şu adımları atması gerektiğini vurguluyor:

1. Model Envanteri Oluşturun: Kullanığınız tüm modelleri ve hosting tiplerini listeleyin.
2. Şalter (Control Plane) Haritası Çıkarın: Hangi modeli kimin kapatabileceğini (tedarikçi, devlet, iç ekip, vb.) belirleyin.
3. Kesinti Riskini Fiyatlandırın: Bir modelin bu gece kapanma ihtimaline karşı B planı hazırlayın.
4. Ajanları Yetkilendirin: Otonom ajanları ayrı birer ayrıcalıklı kimlik (privileged identity) olarak görün.
5. Yerel Savunma Modeli Tutun: Kriz analizi için, kendi altyapınızda çalışabilen bir modelle tatbikat yapın.
6. Sözleşmeleri Yeniden Yazın: Standart mücbir sebep maddeleri devlet eliyle model kapatılmasını kapsamaz. Tedarikçi sözleşmelerine model sürüm bildirimleri, kesinti protokolleri ve veri taşıma haklarını ekleyin.
7. Açık Ağırlıkları Yazılım Varlığı Sayın: İndirilen model dosyaları ve verileri tıpkı kritik kod kütüphaneleri gibi güvenlik taramasından geçirin ve yazılım tedarik zinciri sürecine dahil edin.

Önümüzdeki temel karar

Bugün yürütülen tartışmalar, gelişmiş makine zekasının kontrolünün toplumda ve pazarda nasıl dağıtılacağını belirliyor.

Geliştirici laboratuvarlar yenilikçilik alanı; açık model savunucuları rekabet ve şeffaflık; devletler güvenlik ve kriz anında müdahale yetkisi; şirketler ise kesintisiz hizmet ve hukuki netlik arıyor.

Önümüzdeki dönemde yanıtlanması gereken dört temel soru var:

1. Normal çalışma şartlarında gelişmiş bir sistemi kim kontrol eder?
2. Model ağırlıkları geliştiriciden çıktıktan sonra sorumluluğu kim taşır?
3. Bir engelleme veya kapatma kararını hangi somut kanıtlar haklı kılar?
4. Devletin ve dev şirketlerin gücünü hangi denetim mekanizmaları sınırlar?

Şu an yazılmakta olan kurallar; gelişmiş yapay zekaya kimin sahip olacağını, onu kimin durdurabileceğini ve bir zarar oluştuğunda kimin hesap vereceğini belirleyecek.