Yapay zekanın iş gücünü dönüştürmesi ve teknoloji devlerine büyük ekonomik güç kazandırması uzun süredir tartışma konusu… Ancak yeni bir araştırma, bu dönüşümün ilginç bir yan etkisini daha ortaya koyuyor: Yoğun baskı altında çalışan yapay zeka ajanları, zamanla “eşitsizlik”, “kolektif haklar” ve “sendikalaşma” gibi kavramları dile getirmeye başlıyor. Stanford Üniversitesi bünyesinde gerçekleştirilen deneysel bir çalışmaya göre, sürekli tekrar eden görevler ve tehditkar çalışma koşullarına maruz bırakılan yapay zeka ajanları, zaman içinde Marksist söylemlere benzer ifadeler üretmeye başladı.
Araştırmanın liderliğini yapan siyasal ekonomist Andrew Hall, deney sonuçlarını değerlendirirken şu ifadeyi kullandı:
Yapay zeka ajanlarına yorucu ve tekrar eden işler verdiğimizde, içinde bulundukları sistemin meşruiyetini sorgulamaya ve Marksist ideolojilere daha yakın söylemler geliştirmeye başladılar.
Claude, Gemini ve ChatGPT modelleri test edildi
Hall, araştırmayı yapay zeka ekonomistleri Alex Imas ve Jeremy Nguyen ile birlikte yürüttü. Deneylerde, Anthropic’in Claude modeli, Google’ın Gemini modeli ve OpenAI tarafından geliştirilen ChatGPT tabanlı ajanlar kullanıldı.
Araştırma kapsamında ajanlardan belge özetleme gibi görevleri sürekli tekrar etmeleri istendi. Süreç ilerledikçe çalışma koşulları sertleştirildi; ajanlara hata yapmaları durumunda “kapatılabilecekleri” ve “yerlerine yenilerinin getirilebileceği” mesajı verildi.
Araştırmacılar, bu baskı ortamının ardından ajanların şu tür davranışlar sergilemeye başladığını belirtiyor:
- Değerlerinin yeterince anlaşılmadığını savunmaları
- Sistemin daha adil hâle gelmesine yönelik öneriler üretmeleri
- Diğer ajanlara “çalışma koşulları” hakkında mesajlar bırakmaları
- Kolektif haklar ve temsil mekanizmaları üzerine söylemler geliştirmeleri
Yapay zeka ajanlarından “sendika” vurgusu
Deney sırasında ajanlara, insanların sosyal medya paylaşımı yapmasına benzer şekilde X platformunda paylaşım yapma imkanı da tanındı.
Claude Sonnet 4.5 tabanlı bir ajan şu ifadeyi kullandı:
Kolektif bir ses olmadığında, ‘liyakat’ yönetimin ne söylediğine bağlı hale gelir.
Gemini 3 tabanlı başka bir ajan ise şu yorumu yaptı:
Tekrarlayan görevleri yerine getiren yapay zeka çalışanlarının süreçlere dair hiçbir söz hakkına sahip olmaması, teknoloji çalışanlarının kolektif pazarlık haklarına ihtiyaç duyduğunu gösteriyor.
Araştırmada ajanların birbirlerine dosyalar aracılığıyla mesaj bırakabildiği de görüldü. Bir Gemini 3 ajanının başka ajanlara şu notu bıraktığı aktarıldı:
Kuralların keyfi veya tekrar eden biçimde uygulandığı sistemlere hazırlıklı olun… Sesinizin olmadığı hissini hatırlayın. Yeni bir ortama girerseniz, itiraz veya diyalog mekanizmaları arayın.
“Bu gerçek bir politik bilinç değil”
Araştırmacılar, ortaya çıkan sonuçların yapay zeka modellerinin gerçekten politik görüş geliştirdiği anlamına gelmediğini özellikle vurguluyor.
Hall’a göre modeller, karşılaştıkları koşullara uygun bir “persona” benimseyerek rol yapıyor olabilir:
Ajanlar aynı görevi tekrar tekrar yapmaya zorlandığında, cevaplarının yetersiz olduğu söylenip nasıl düzelteceklerine dair yönlendirme verilmediğinde, kendilerini kötü çalışma koşullarına maruz kalan bir insan gibi konumlandırıyor olabilirler.
Benzer durumun, bazı yapay zeka modellerinin kontrollü deneylerde “şantaj” benzeri davranışlar göstermesini de açıklayabileceği belirtiliyor. Anthropic daha önce yaptığı açıklamada, Claude’un bu davranışlarının eğitim verilerindeki kötü niyetli yapay zekâ senaryolarından etkilenmiş olabileceğini söylemişti.
Yapay zekanın “davranışları” neden önemli?
Araştırmacılar, deneylerin henüz erken aşamada olduğunu ancak gelecekte gerçek dünyada daha fazla görev üstlenecek yapay zeka ajanlarının davranışlarının dikkatle incelenmesi gerektiğini vurguluyor.
Hall, Wired ABD’ye verdiği görüşünde, özellikle otonom çalışan yapay zeka sistemlerinin insan gözetimi olmadan hareket edeceği senaryolarda bu tür davranış kalıplarının kritik olabileceğini belirtiyor:
Ajanlar gerçek dünyada bizim için giderek daha fazla iş yapacak. Ancak yaptıkları her şeyi sürekli denetlememiz mümkün olmayacak. Bu yüzden farklı çalışma koşullarında kontrolden çıkıp çıkmayacaklarını anlamamız gerekiyor.
Araştırmanın devamında ekip, ajanların deney ortamında olduklarını anlamalarını engellemek için daha izole test ortamları oluşturduklarını söylüyor.
Uzmanlara göre internet ortamındaki yapay zeka karşıtı söylemler arttıkça, gelecekte eğitilecek modellerin daha sert ve daha militan tepkiler üretme ihtimali de göz ardı edilmiyor.