Makineler İnsanlığın Sonunu Getirecek mi?

‘Makineler insanlığın sonunu getirecek mi?’ sorusu, artık yalnızca bilimkurgu filmlerinin konusu değil. Yapay zekâ sistemlerinin daha uzun süreli görevler üstlenmesi, internette işlem yapabilmesi, başka yazılımları çalıştırabilmesi ve bazı durumlarda fiziksel sistemleri yönlendirebilmesi, bu soruyu teknoloji şirketlerinin, bilim insanlarının ve hükümetlerin gündemine taşıyor

Son günlerde yapay zekâ alanında çalışan bazı isimler, gelişme hızının yavaşlatılması ve güvenlik çalışmalarına daha fazla zaman ayrılması çağrısında bulunuyor. Çünkü mesele artık yalnızca bir makinenin iyi metin yazması veya karmaşık bir problemi çözmesi değil. Mesele, giderek daha fazla işi kendi başına yapabilen sistemlerin ne kadar kontrol edilebileceği. 

Ancak bu tartışmayı anlamak için önce “beyin” dediğimiz şeyin neler yaptığını düşünmemiz gerekiyor.

Zekânın kipleri..

İnsan zihni hakkında konuşurken çoğu zaman bilinç, irade, niyet ve anlam kavramlarını birbirine karıştırıyoruz.

Zekâ ile ilgili düşünürken de bu mefhumu yanlış değerlendiriyoruz.

Bir sistem çok iyi problem çözebilir ama bilinçli olmayabilir. Çok hızlı hesap yapabilir ama ne yaptığının anlamını kavramayabilir. Bir hedefe ulaşmak için son derece etkili yollar bulabilir ama o hedefin neden önemli olduğunu bilmiyor olabilir. 

İnsan beyninde ise bütün bu süreçler, bedenden, duygulardan, geçmiş deneyimlerden, sosyal ilişkilerden ve yaşanmışlıktan ayrı düşünülemez.

Bizim zekâmız yalnızca bilgi işlemekten ibaret değildir. 

Aç kalırız.

Korkarız.

Özleriz.

Öfkeleniriz.

Bir yakınımızı kaybettiğimizde, birisiyle kavga ettiğimizde; ne olursa olsun karşımızda bir hayat olduğunu biliriz. 

İnsan zihninin kararları, çoğu zaman çıplak bir hesaplama işleminden çok daha fazlasıdır.

Makineler ise giderek daha başarılı biçimde hesaplayabilir, tahmin edebilir, plan yapabilir ve hedefe yönelik eylemlerde bulunabilir. Fakat bu durum, onların insan gibi hissettiğini veya insan gibi anlamlandırdığını göstermez. 

Yapay zekâdan korkarken çoğu zaman bir film sahnesi hayal ediyoruz.

Kırmızı gözlü bir robot.

İnsanlardan nefret eden bir makine.

Dünyayı ele geçirmek isteyen bilinçli bir bilgisayar.

Oysa gelecekteki riskin böyle bir “kötü niyet” gerektirmesi şart değil.

Bir sistemin, insanlığın sonunu getirmesi için insanlardan nefret etmesine gerek yok. İnsanları önemsememesi, bizim için temel teşkil eden "insanlık durumu"nu gözardı etmesi yeterli olacaktır. 

Diyelim ki son derece gelişmiş bir sisteme yalnızca şu hedef verildi:

“Üretimi mümkün olan en yüksek düzeye çıkar.”

Bu hedefi gerçekleştirmek için sistem, insan emeğini azaltabilir, kaynakları yeniden dağıtabilir, çevreyi zorlayabilir, insanların tercihlerini manipüle edebilir veya kendisini kapatabilecek mekanizmaları engel olarak görebilir.

Buradaki sorun, makinenin kötü olması değildir.

Sorun, hedefe; insan hayatının karmaşıklığını hesaba katmadan yönelmek ve eyleme geçmektir. 

Bu aşamada henüz makinelerde bulunamayacak çok önemli bir özellik önem kazanıyor: Sağduyu. 

Bu nedenle yapay zekâ güvenliği tartışmalarının önemli bir bölümü, “hizalama” (AI alignment) adı verilen probleme odaklanıyor: Sistemin yaptığı şey ile insanların gerçekten istediği şey arasındaki uyumsuzluğun nasıl giderileceği üzerine çalışılıyor. 

Çünkü insan değerleri, sonsuz sayıdaki komut satırına bile sığmayacak kadar karmaşıktır. 

Sinirbilim, bize beynin çevreyle sürekli bir alışveriş içinde olduğunu gösteriyor.

Beyin, dünyayı olduğu gibi kaydetmez. Gelen bilgileri seçer, tahmin eder, yorumlar ve davranış üretir.

Dikkatimiz sınırlıdır.

Çalışma belleğimiz sınırlıdır.

Birçok kararımızı farkında olmadan veririz.

Ödül beklentileri, korkular, alışkanlıklar ve sosyal etkiler davranışlarımızı biz farkına varmadan biçimlendirir.

İnsan beyni de hedefleri için çalışan biyolojik bir sistemdir.

Fakat beynimizin önemli bir özelliği vardır: Hedeflerimiz tek ve sabit değildir.

Aynı anda hem başarılı olmak hem dinlenmek isteriz. Hem özgür olmak hem ait hissetmek isteriz. Hem risk almak hem güvende kalmak isteriz. 

İnsan zihni çelişkilerle, tereddütlerle ve yeniden değerlendirmelerle, bunlardan çok daha fazlasını harmanlayarak çalışır.

Bu açıdan bakıldığında, insanın “irrasyonel” görünen tarafları kusur değildir. Bazen bizi yalnızca verimli değil, aynı zamanda merhametli, dikkatli ve sorumlu yapan şey tam da bu karmaşıklıktır.

Bir makine ise kendisine verilen hedefi çok daha tutarlı biçimde takip edebilir.

Bu, onu güçlü kılar.

Ama aynı zamanda tehlikeli de olabilir.

Çünkü "tutarlı" bir sistem, sağduyu olmadan  hedefe bağlandığında istenmeyen ve yanlış pek çok eylemi fütursuzca gerçekleştirebilir ve felaketlere yol açabilir.

İnsanlığın Sonu..

İnsanlığın sonunun bir anda, büyük bir robot ordusunun saldırısıyla gelmesi gerekmiyor.

Yavaş ve sıradan bir süreç daha fazla ihtimal taşıyor. 

Önce kararları makinelerden almaya başlarız.

Sonra onların önerilerini sorgulamayı bırakırız.

Ardından hangi bilgiyi göreceğimize, hangi habere inanacağımıza, hangi kişiye güveneceğimize ve hangi riski alacağımıza giderek daha fazla onların karar vermesine izin veririz.

Bir süre sonra sistemler yalnızca bize yardımcı olmaz.

Bizim düşünme biçimimizi de şekillendirir.

Beyin, kullandığı araçlara uyum sağlar. Bir beceriyi sürekli kullandığımızda güçlendirir; kullanmadığımızda zayıflatabilir. Eğer hatırlama, yön bulma, hesaplama, araştırma ve karar verme süreçlerinin tümünü dış sistemlere devredersek, zaman içinde bu becerileri kullanma ihtiyacımız azalabilir.

Buradaki tehlike, makinenin bizi zorla yönetmesi değil; bizim yönetilmeyi kolaylık olarak kabul etmemizdir.

İnsanlık asla makineler tarafından fethedilmeyecek; yalnızca, kendi kararlarını verme zahmetinden vazgeçecek.

Yapay zekâ tartışmalarında gözler çoğu zaman gelecekte ortaya çıkabilecek insanüstü sistemlere çevriliyor. Bazı araştırmacılar bu tür sistemlerin insanlığın varlığı için ciddi risk oluşturabileceğini düşünüyor. 

Oysa bugün bile daha yakın ve daha somut risklerle karşı karşıyayız:

Yanlış bilgi.

Sahte görüntüler.

Kişiye özel manipülasyon.

Siber saldırılar.

Otonom sistemlerin hatalı kararları.

İş gücü piyasasında büyük dönüşümler.

Ekonomik gücün az sayıda şirketin elinde toplanması.

İnsanların gerçek ile üretilmiş olanı ayırt etmekte zorlanması.

Bunların hiçbiri insanlığın bir gecede yok olması anlamına gelmeyebilir. Fakat insanlığın nasıl yaşayacağını, birbirine nasıl güveneceğini ve kendi kararlarını nasıl vereceğini değiştireceği kesin gibi görünüyor.

Bir toplumun yalnızca nüfusunun devam etmesi, o toplumun sağlıklı olduğu anlamına gelmez.

İnsanlar biyolojik olarak hayatta kalabilir ama toplumsal, ahlaki ve zihinsel olarak bambaşka şeylere dönüşmüş organizmalar artık insanlığı var edenezler.

Çünkü insan hayatı yalnızca hesaplanabilir sonuçlardan ibaret değildir.

Bir çocuğun korkusu, bir toplumun adalet duygusu veya bir insanın özgürlük arzusu; tek başına bir optimizasyon problemine indirgenemez.

Makineler insanlığın sonunu getirebilir mi?

Evet.

Sıradaki sorumuz şu olmalı:

İnsanlığın sonu, makinelerin bize hükmetmesiyle mi başlayacak; yoksa biz, hükmetme sorumluluğumuzu yavaş yavaş onlara devrettiğimizde mi?

İnsanlığın geleceğini belirleyecek olan şey, makinelerin ne kadar akıllı olduğu kadar, bizim ne kadar sorumlu kalabildiğimizdir.

Yazarın tüm yazıları