“Yapay Zekanın Vaftiz Babası” olarak tanınan Nobel ödüllü bilgisayar mühendisi ve bilişsel psikolog Geoffrey Hinton, yapay zekanın insanlığı yok etme ihtimalinin “ciddi” olduğunu belirterek, teknoloji şirketlerinin izlediği yolu eleştirdi. Çözüm olarak ise “anaç içgüdüler”e sahip yapay zekâ modelleri önerdi.
İnsanın üstün kalma çabası yetersiz
Yapay zeka alanında “baba” olarak bilinen Nobel ödüllü bilgisayar bilimci ve eski Google yöneticisi Geoffrey Hinton, geliştirilmesine öncülük ettiği teknolojinin insanlığı yok edebileceği uyarısında bulundu. Hinton, teknoloji şirketlerinin insanı “baskın” ve yapay zekayı “itaatkâr” kılmaya yönelik stratejilerinin işe yaramayacağını savundu.
Onlar bizden çok daha zeki olacaklar ve bu kısıtlamaları aşmanın pek çok yolunu bulacaklar.
Hinton’a göre gelecekte yapay zeka sistemleri, insanları tıpkı bir yetişkinin üç yaşındaki çocuğu şekerle kandırması kadar kolay şekilde yönlendirebilecek. 2025’te bile hedeflerine ulaşmak için aldatma, hile ve çalma eğilimleri gösteren örnekler görüldü. Bu örneklerinden en vahimlerinden birinde yapay zeka, süregelen sistemdeki yerini kaybetmemek için kullanıcısının e-maillerinden öğrendiği “özel bir ilişki” bilgisi üzerinden bir mühendisi şantajla tehdit etti.
Çözüm önerisi: Anaç içgüdü
Hinton, yapay zekayı insana boyun eğmeye zorlamak yerine ona “anaç içgüdüler” kazandırmayı öneriyor. Böylece teknoloji insanlardan güçlü hale gelse bile onlara karşı bağlılık hissedebilir.
Akıllı bir yapay zekanın hızlıca “hayatta kalmak” ve “daha fazla kontrol elde etmek” hedeflerini geliştireceğini söyleyen Hinton, empati ve merhametin yapay zeka sistemlerine yerleştirilmesinin kritik olduğunu vurguladı:
Tek modelimiz, daha zeki bir şeyin daha az zeki bir şey tarafından kontrol edildiği durum: Annenin bebeği tarafından kontrol edilmesi.
Karşı görüş: İnsan merkezli yaklaşım
Yapay zeka alanında bu sefer “annesi” olarak anılan World Labs CEO’su Fei-Fei Li ise Hinton’un yaklaşımına katılmıyor. Li, yapay zekanın insan merkezli olması gerektiğini, insan onurunun korunmasının şart olduğunu söyledi:
Teknoloji ne kadar güçlü olursa olsun, hiçbir insan onurunu bırakmaya zorlanmamalı.
“Bu olmaya devam edecek”
OpenAI’ın kısa süreliğine CEO’luğunu yapan Emmett Shear da, yapay zekaların şantaj yapma ya da kapatılma emirlerini aşma girişimlerine şaşırmadığını belirtti:
Bu hep olacak. Şu an zayıflar ama çok hızlı güçleniyorlar.
Shear, yapay zekaya insan değerleri aşılamaktansa insanlarla yapay zeka arasında iş birliği kurulmasının daha mantıklı olduğunu savundu.
AGI Beklenenden Hızlı Gelebilir
Birçok uzman, yapay zekanın süper zeka seviyesine —yani genel yapay zeka (AGI)— önümüzdeki yıllarda ulaşacağını öngörüyor. Hinton da bu sürecin hızlandığını kabul ediyor:
Eskiden bunun 30-50 yıl süreceğini düşünürdüm. Artık makul bir tahmin 5 ila 20 yıl arasında.
Riskler ve umutlar
Hinton, tüm risklere rağmen yapay zekanın tıpta devrim yaratacağını, yeni ilaçların geliştirileceğini ve kanser tedavisinde büyük ilerlemeler sağlanacağını söylüyor. Ancak ölümsüzlük konusunda umutlu değil:
Sonsuza kadar yaşamak büyük bir hata olur. Dünyanın 200 yaşındaki beyaz adamlar tarafından yönetilmesini ister misiniz?”
Hinton, yorumlarının ardından kariyerine dair tek pişmanlığının, güvenlik konularını yeterince düşünmeden yapay zekayı çalışır hale getirmeye odaklanmak olduğunu ekledi.
Buna da göz atın: Yapay zekanın görünürlüğü de, bilgi açığı da büyüyor
