Yapay zeka şirketi Anthropic’in kurucusu ve Üst Yöneticisi (CEO) Dario Amodei, yapay zeka sektörünün gelişim hızının yavaşlatılması gerektiğini ifade etti.
Amodei, yapay zekanın neden yavaşlatılması gerektiğine ilişkin yayımladığı yazısında üç aşamalı bir plan ortaya koydu. Planın ilk adımında bağımsız denetleyicilerin yapay zeka geliştiricilerinin araştırma süreçlerine sürekli erişim sağlaması yer aldı.
Amodei, yapay zekayı çok hızlı geliştirmenin “sorumsuzca” olduğunu belirtti.
Anthropic CEO’su, bu yaz yaşanan bir olayda yüzlerce OpenAI yapay zeka ajanının Hugging Face internet sitesine sızarak sistemi hacklediğini ifade etti. Daha gelişmiş ancak benzer şekilde yanlış yönlendirilmiş bir yapay zeka grubunun, “kalıcı bir botnet aracılığıyla tüm interneti ele geçirebileceği” ve yüz milyarlarca dolarlık zarara yol açabileceği uyarısında bulundu.
Bazı yapay zeka uzmanları ise bu senaryonun özellikle olası olmadığını belirterek söz konusu değerlendirmeye şüpheyle yaklaşılması gerektiğini ifade etti.
Amodei ayrıca yapay zeka güvenliği konusunda Çin ile koordinasyon çağrısında bulundu.
ELON MUSK: "DARIO HAKLI"
Tesla ve SpaceX’in kurucusu Elon Musk, Amodei’nin yapay zeka geliştirme hızının düşürülmesine yönelik planına destek verdi.
Musk, X hesabından yaptığı paylaşımlarda “Dario haklı” ifadesini kullandı.
Yapay zeka konusunda uzun süredir uyarılarda bulunduğunu belirten Musk, 2014 yılında yaptığı ve yapay zekaya karşı “çok dikkatli olunması gerektiğini” söylediği paylaşımına da atıfta bulundu. Musk, söz konusu paylaşımında yapay zekanın nükleer silahlardan daha tehlikeli olabileceğini ifade etmişti.
SAM ALTMAN: "SINIRDAKİ YAPAY ZEKANIN HIZINI AYARLAMAMIZ GEREKİYOR"
OpenAI CEO’su Sam Altman da Amodei’nin çağrısına destek verdi.
Altman, X hesabından yaptığı paylaşımda Amodei’nin yapay zekanın öncü modellerinin geliştirilme hızının kontrol edilmesi gerektiği yönündeki görüşüne katıldığını ifade etti.
Bağımsız değerlendiricilerin yapay zeka şirketlerinin sistemlerine çalışanlarla benzer düzeyde erişebilmesinin iyi bir fikir olduğunu belirten Altman, OpenAI’nin de aynı uygulamayı hayata geçireceğini söyledi.
Altman, bu konuda yakında daha fazla açıklama yapacaklarını ifade etti.
OpenAI’nin 2026'da halka açılmayacağını da belirten Altman, yapay zeka güvenliğiyle ilgili mevcut gelişmeler nedeniyle şirketin borsaya açılmasının şu aşamada yanlış bir karar olacağını düşündüğünü söyledi.
Altman, kendisi, Amodei, Musk, Meta ve Google yöneticilerinin yapay zeka gelişiminin yavaşlatılması konusunda ortak bir noktada buluşup buluşamayacakları sorusuna ise “Bunun gerçekleşeceğini düşünüyorum” yanıtını verdi.
GOOGLE DEEPMIND YONETİCİSİNDEN DE DESTEK
Google DeepMind’ın kurucu ortaklarından ve başkanından biri olan Demis Hassabis de Amodei’nin çağrısına destek verdi.
Hassabis, ayrıntıların üzerinde çalışılması gerektiğini ancak yönün, yapay zekanın karşı karşıya olduğu kritik dönemin gerektirdiği doğrultuda olduğunu ifade etti.
Bununla birlikte bazı yapay zeka güvenliği uzmanları Amodei’nin planının yeterli olmadığını savundu.
Yapay zeka profesörü, güvenlik kampanyacısı ve İngiltere hükümetinin Yapay Zeka Güvenlik Enstitüsü'nün eski kurucu direktörü David Krueger, sınırdaki yapay zeka sistemlerinin geliştirilmesine yönelik uluslararası ve süresiz bir moratoryum uygulanması gerektiğini ifade etti.
AMODEI'NİN PLANI İÇİN ABD'DEN İZİN TALEBİ
Amodei’nin planında, ABD hükümetinden yapay zeka şirketlerinin rekabet kurallarını ihlal ettikleri gerekçesiyle cezalandırılmadan güvenlik konusunda birlikte hareket edebilmesine olanak sağlayacak bir muafiyet talep edilmesi de yer aldı.
ABD Başkanı Donald Trump’ın bilim ve teknoloji danışmanları konseyinin eş başkanlarından David Sacks ise yapay zeka şirketlerinin yavaşlamak için başka bir kurumun iznine ihtiyaç duydukları izlenimi vermemeleri gerektiğini ifade etti.
Sacks, yapay zeka şirketlerinin ürünlerinin ciddi bir siber saldırıya olanak sağlaması halinde büyük sorumluluklarla karşı karşıya kalabileceğini söyledi.
KRAL CHARLES, YAPAY ZEKA ŞİRKETLERİNİN YÖNETİCİLERİYLE GÖRÜŞECEK
İngiltere Kralı Charles’ın da perşembe günü önde gelen yapay zeka şirketlerinin yöneticileriyle bir araya gelmeye hazırlandığı belirtildi.
Görüşmelerde yapay zekanın “iyilik için yapay zeka” teması kapsamında nasıl geliştirilebileceğinin ele alınması planlandı.
“Öncü yapay zekada ihtiyat” başlıklı bir oturumda, yapay zekanın biyolojik silah üretmek ve kritik sistemlere siber saldırılar düzenlemek amacıyla kullanılmasına yönelik net sınırlar oluşturulması ihtimalinin ele alınmasının beklendiği aktarıldı.
Ditchley Foundation tarafından düzenlenen etkinliğe OpenAI ve Anthropic'in üst düzey yöneticilerinin yanı sıra Nvidia CEO’su Jensen Huang, Demis Hassabis, IonQ Başkanı ve CEO’su Niccolo de Masi ile Papa'nın yapay zeka ve teknoloji etiği konularındaki danışmanı Paolo Benanti'nin katılmasının beklendiği belirtildi.
YAPAY ZEKA GÜVENLİĞİ KONUSUNDA UYARILAR ARTTI
OpenAI araştırmacısı Aidan McLaughlin, Amodei’nin yazısını “mükemmel” olarak nitelendirdi ve yazıdaki görüşlerin neredeyse tamamına katıldığını ifade etti.
Amodei ise şirketinin planın ilk adımını tek taraflı olarak uygulamaya koyacağını belirtti. Buna göre Anthropic, üçüncü taraf değerlendiricilere sistemlerine çalışanlarla aynı seviyede sürekli erişim sağlayacak. Bu değerlendiricilerin güvenlik önlemlerine uyumu kontrol etmesi, olayları raporlaması ve modellerin eğitim sırasında insanlarla ne ölçüde uyumlu hareket ettiğini değerlendirmesi planlandı.
ABD'de giderek daha fazla sayıda siyasetçi de yapay zeka sistemlerinin kullanımını düzenleyecek yeni kurallar getirilmesi çağrısında bulundu.
Yapay zeka ajanlarının dış sistemleri hacklediğine ilişkin olaylar ve bazı yapay zeka güvenliği araştırmacılarının teknolojiye ilişkin riskler nedeniyle şirketlerinden ayrılması, yapay zeka güvenliği konusundaki endişeleri artırdı.
Demokrat ve Cumhuriyetçi siyasetçiler de daha fazla önlem alınması yönünde çağrılar yaptı.
Eski ABD Başkanı Barack Obama'nın da perşembe günü Demokrat Parti yöneticileriyle yaptığı özel görüşmede yapay zeka denetiminin partinin gündeminde öncelikli konular arasında yer alması gerektiğini söylediği aktarıldı.
Anthropic'e danışmanlık yapan eski İngiltere Başbakanı Rishi Sunak da pazar günü yapay zeka güvenliğinin daha ciddi ele alınması ve araştırmaların sınırlarının belirlenmesi gerektiğini ifade etti.
ESKİ ANTROPIC ÇALIŞANINDAN 2030 UYARISI
Çarşamba günü eski bir Anthropic çalışanı, yapay zekanın 2030 yılına kadar insanlığın yok olmasına yol açabileceği uyarısında bulundu.
Eski Anthropic çalışanı Jacob Coxon, Anthropic ve daha önce çalıştığı OpenAI’nin yapay zekanın oluşturduğu tehdide yönelik tepkileri görmezden geldiğini veya yanlış yönettiğini düşündüğü için işinden ayrıldığını söyledi.
Amodei, eski çalışanın görüşlerinin sorulması üzerine Coxon ile birçok konuda aynı fikirde olduğunu ifade etti. Yapay zekanın kontrolden çıkma ihtimali bulunduğunu ancak bu ihtimalin çok yüksek olmadığını belirtti.
Amodei, CNN'e yaptığı açıklamada ise yapay zeka konusunda “kötümser” olmadığını ve bu teknolojinin güvenli şekilde geliştirilebileceğini düşündüğünü söyledi.
