Yapay zekâ şirketlerinin yöneticileri son günlerde insanlığın geleceğinden korktuklarını söylüyorlar. Geride kalan hafta sonunda Avrupa medyasında benzer haberler okudum… Araştırmacılar istifa ediyor. Bilim insanları yüzde 10'lara varan “insanlığın yok olma ihtimali”nden söz ediyor. O zaman başlıktaki soruya soruyla karşılık verebiliriz: Yapay zeka şirketleri kendini mi kurtarıyor, insanlığı mı?
Şirket patronları “yavaşlayalım” diyor, hükümetlere düzenleme çağrıları yapılıyor. Bütün bunları dinleyince insanın aklına doğal olarak şu soru geliyor: Madem bu teknoloji bu kadar tehlikeli, neden hâlâ bu kadar hızlı geliştiriliyor?
Karşımızda tarihin en büyük sermaye ve iktidar yarışlarından biri var. Ve bu yarışın içinde “insanlığın güvenliği” ile “şirketlerin büyüme hırsı” aynı masada oturuyor. Ben hangisinin daha ağır bastığı konusunda biraz kuşkucuyum.
Bir tarafta Anthropic'in patronu Dario Amodei çıkıp yapay zekâ risklerinin ciddi olduğunu söylüyor. OpenAI'dan Sam Altman ve xAI'dan Elon Musk da yavaşlama fikrine destek veriyor. Diğer tarafta ise şirketler milyarlarca dolarlık yatırımlar peşinde. Yeni veri merkezleri kuruluyor, yeni çipler satın alınıyor, daha büyük modeller geliştiriliyor, daha fazla hesaplama gücü için enerji tüketimi büyüyor.
Yani bir yandan, “Bu teknoloji insanlık için tehlikeli olabilir”, öte yandan, “Biraz daha yatırım yapın, çünkü bu teknoloji bütün sektörleri değiştirecek” deniyor.
Pardon ama ikisini aynı anda nasıl taşıyacağız? Eğer gerçekten insanlığın geleceğini tehdit eden bir teknoloji geliştiriyorsanız, ilk refleksiniz daha fazla sermaye çekmek değil, daha fazla denetim istemek olmalı. Eğer teknoloji bütün işleri ve sektörleri dönüştürecek kadar güçlüyse, bunun toplumsal bedelini de konuşmalısınız.
Eğer kontrolü kaybetmekten korkuyorsanız, neden kontrolü daha da büyütmek için yarışıyorsunuz?
Burada kapitalizmin çok tanıdık bir paradoksuyla karşı karşıyayız. Şirket önce bir teknoloji yaratıyor. Sonra bu teknolojinin dünyayı değiştireceğini söylüyor. Ardından dünyayı değiştirecek kadar büyüyebilmek için yatırım istiyor. Yatırım geldikçe değerlemesi yükseliyor.
Değerlemesi yükseldikçe “artık duramayız” deniyor. Rakip durmadığı için siz de duramıyorsunuz. Çin durmazsa Amerika durmuyor. Amerika durmazsa şirketler durmuyor. Ve sonunda insanlık, kendi yarattığı teknoloji yarışının seyircisi haline geliyor. Bunun adı teknoloji politikası değil. Bunun adı yarışın mantığına teslim olmaktır.
Donald Trump'ın 13 Eylül'deki cümlesi aslında bütün hikâyeyi özetliyor: “Yapay zekâda kim kazanırsa o kazanır.” Ne kadar tanıdık bir cümle… Soğuk Savaş'ta uzay yarışını yaşadık. Nükleer silah yarışını yaşadık. Silahlanma yarışını yaşadık. Şimdi de yapay zekâ yarışı var.
Ama bu kez rakip yalnızca başka bir devlet değil. Google başka şirketle yarışıyor. OpenAI başka şirketle yarışıyor. Anthropic başka şirketle yarışıyor. xAI başka şirketle yarışıyor. Çinli şirketler Amerikan şirketleriyle yarışıyor. Devletler şirketleri destekliyor. Şirketler devletlerin stratejik gücünün bir parçasına dönüşüyor. Ve sonunda teknoloji, ulusal güvenlik silahına dönüşüyor.
Bu noktadan sonra “yapay zekâyı yavaşlatalım” demek neden bu kadar zor, biraz daha iyi anlıyoruz. Çünkü kimse ilk yavaşlayan olmak istemiyor.
Başka tehlikeler de var… Yapay zekâ yalnızca insanları öldürebilecek bir makineye dönüşmek zorunda değil. Bizi yavaş yavaş gereksizleştiren bir ekonomik sisteme de dönüşebilir. Bir muhasebecinin yaptığı işi, bir gazetecinin araştırmasını, bir tasarımcının emeğini, bir öğretmenin hazırlığını, bir yazılımcının kodunu, bir avukatın ilk hukuki taramasını, bir reklamcının metnini, bir çevirmenin işini… Bir sanatçının üretimini…
“Daha hızlı ve daha ucuz” olduğu gerekçesiyle makineler yapmaya başladığında, sorulması gereken soru şudur: Bu verimlilik kimin cebine girecek?
İşte bu soruyu yeterince konuşmuyoruz. Çünkü teknoloji şirketleri bize sürekli teknolojinin ne kadar muhteşem olduğunu anlatıyor. Ama teknolojinin yarattığı ekonomik değerin kime gittiğini daha az anlatıyorlar.
Ben burada “yapay zekâya karşıyım” demiyorum. Tam tersine, iyi kullanıldığında yapay zekânın insanlığa olağanüstü katkılar sağlayabileceğini düşünüyorum. Hastalıkların teşhisinde, yeni ilaçların geliştirilmesinde, iklim modellemelerinde, tarımda, afet yönetiminde, enerji verimliliğinde, bilimsel araştırmalarda, eğitimde çok büyük fırsatlar var.
Ama “fırsat” kelimesini “sınırsız büyüme” ile eşitlemeye başladığımız anda tehlike başlıyor. Unutmayalım, teknoloji insan için vardır, insan teknoloji için değil.
Çünkü tarih bize şunu defalarca öğretti: İnsanlığı yok eden şey çoğu zaman teknolojinin kendisi değil, gücün denetimsiz kalmasıdır.
Ve bugün asıl sormamız gereken soru belki de yapay zekânın ne kadar akıllı olduğu değil. Onu kullananların ne kadar sorumlu olduğu.
